El uso de inteligencia artificial en operaciones de guerra aumenta los riesgos de error y escalada, incluso en el ámbito nuclear. Naciones Unidas prepara recomendaciones para las empresas y nuevos espacios de diálogo, aunque estas iniciativas no impondrán obligaciones vinculantes.
México social/ Redacción
La incorporación de inteligencia artificial a las operaciones militares está modificando la velocidad y la forma en que se toman decisiones de guerra. El Instituto de las Naciones Unidas para la Investigación sobre el Desarme (UNIDIR) advirtió que esta transformación reduce el margen para la intervención humana y avanza más rápido que los acuerdos internacionales destinados a regularla.
Te invitamos a leer: Millones de hogares sin agua
Durante una rueda de prensa en Nueva York, su director, Robin Geiss, planteó la pregunta central del debate: “¿Vamos a dejar que las máquinas seleccionen y maten a seres humanos?”.
La preocupación abarca mucho más que el desarrollo de armas capaces de actuar de manera completamente autónoma. Según Geiss, la IA ya interviene en distintas etapas de las operaciones militares: analiza información de inteligencia, contribuye a identificar objetivos y participa en el manejo de drones y en ciberataques.
Esta integración acelera los procesos de decisión y puede reducir el tiempo disponible para revisar información, detectar errores o reconsiderar una respuesta. Geiss advirtió que ese estrechamiento del juicio humano alcanza incluso al ámbito nuclear.
El riesgo resulta especialmente grave cuando los sistemas producen análisis equivocados o su funcionamiento es difícil de comprender. Una interpretación errónea, seguida de una respuesta precipitada, podría desencadenar una escalada involuntaria. En un enfrentamiento entre potencias nucleares, las consecuencias podrían ser catastróficas.
El problema también involucra la concentración del poder tecnológico. Un grupo reducido de Estados y empresas desarrolla capacidades con efectos potenciales sobre la seguridad mundial, mientras los mecanismos tradicionales de control de armamentos enfrentan dificultades para responder a esta realidad.
Las decisiones empresariales influyen desde las primeras etapas: el diseño de un sistema, los datos con los que se entrena y los criterios utilizados para evaluar su desempeño condicionan su comportamiento posterior. Por ello, la discusión sobre responsabilidad debe abarcar tanto el despliegue militar como el desarrollo de las tecnologías.
UNIDIR prepara, junto con la Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos, un marco de conducta responsable dirigido a las empresas. El instrumento ofrecerá recomendaciones prácticas basadas en el derecho internacional y en los principios rectores de la ONU sobre empresas y derechos humanos.
Su alcance, sin embargo, será voluntario. La iniciativa buscará orientar las prácticas de fabricantes de armamento, empresas tecnológicas, desarrolladores de software, subcontratistas e inversores, con participación de gobiernos y sociedad civil. Su presentación no equivaldrá a la adopción de un tratado ni establecerá por sí misma nuevas obligaciones jurídicas.
Otra preocupación es la difusión de estas capacidades entre actores no estatales. Geiss señaló que las investigaciones ya identifican usos de la IA para facilitar la planificación, ejecución y logística de operaciones por parte de grupos con intenciones dañinas.
La posibilidad de que organizaciones terroristas y redes criminales realicen actividades más sofisticadas con recursos relativamente limitados plantea dificultades para la prevención. Los controles de exportación y los mecanismos de no proliferación fueron concebidos principalmente para vigilar equipos y tecnologías sensibles; las capacidades digitales ampliamente accesibles presentan desafíos distintos.
Para examinar posibles respuestas, UNIDIR impulsa una iniciativa con el Instituto de las Naciones Unidas para la Formación y la Investigación (UNITAR) y Austria. El objetivo será prevenir usos perjudiciales preservando las aplicaciones pacíficas de la inteligencia artificial.
Las diferencias políticas y conceptuales también frenan las negociaciones. Los Estados no siempre entienden lo mismo al hablar de autonomía, fiabilidad o seguridad, y mantienen desacuerdos sobre las restricciones que deberían aplicarse a las armas autónomas.
UNIDIR anunció un proyecto de léxico común para facilitar ese diálogo y un foro permanente, impulsado con Suiza y Pakistán, que reunirá a gobiernos, empresas, investigadores y organizaciones civiles. Este espacio estará vinculado al centro de excelencia del Instituto en Ginebra.
Geiss identificó algunos indicios de acercamiento, entre ellos la propuesta estadounidense de establecer con China una línea de comunicación sobre incidentes de IA que puedan amenazar la seguridad nacional. También señaló un respaldo creciente a los llamados de António Guterres para alcanzar un tratado jurídicamente vinculante sobre armas autónomas.
Las iniciativas buscan construir acuerdos mientras la tecnología continúa expandiéndose. El desafío será convertir ese diálogo en reglas y mecanismos de responsabilidad capaces de preservar el juicio humano y reducir el riesgo de que un error automatizado desencadene consecuencias irreversibles.
También podría interesarte: Aumenta el riesgo de hambruna en Sudán; 37% de los centros de salud ha dejado de funcionar
Fuente: Noticias ONU
| ¿Por qué necesitamos su ayuda? Porque somos una organización independiente, libre de la influencia de cualquier gobierno, corporación o partido político. Desde el día que empezamos, hemos enfrentado presiones. Dependemos de su generosa contribución. Juntos, podemos seguir difundiendo la verdad. Ayúdenos a difundir la verdad, comparta este artículo con sus amigos. |
