Por un dato falso de la IA, casi estalla la Tercera Guerra Mundial

Los aviones militares ya estaban en el aire. Soldados armados esperaban la orden para abordar un barco. Todo apuntaba a que Estados Unidos estaba a punto de interceptar por la fuerza una nave china en Medio Oriente, convencido de que transportaba piezas para un programa de armas nucleares. Pero la operación se detuvo solo minutos antes de ejecutarse, cuando alguien decidió revisar de dónde había salido realmente esa información.

La respuesta resultó bochornosa: el reporte que lanzó toda la maquinaria militar había sido armado con ayuda de un chatbot de inteligencia artificial (IA) —un programa de computadora entrenado para responder preguntas en lenguaje humano, similar a ChatGPT, Gemini o Claude— y esa herramienta se había equivocado al identificar la carga del buque. Error garrafal. Los filtros colapsaron todos.

Trump y una fuerza especial

Trump ha anunciado la creación de una fuerza especial para regular la inteligencia artificial, en medio de preocupaciones sobre su poder y la competencia con China.

En medio de crecientes preocupaciones sobre el poder de la inteligencia artificial (IA) en Estados Unidos, el presidente Donald Trump ha anunciado la creación de una "AI Force" y la designación de un encargado especial para abordar esta problemática. Esta decisión se produce tras un período en el que desarrolladores y líderes de la industria habían solicitado una desaceleración en el desarrollo de la tecnología debido a sus potenciales peligros.

El anuncio llegó en forma de dos publicaciones en Truth Social, acompañadas de una encuesta abierta para elegir un nuevo nombre para la tecnología: "Inteligencia Superior", "Inteligencia Extrema" o "Inteligencia Suprema".

El episodio, revelado por una investigación de CNN publicada este 18 de septiembre y confirmado también por el sitio especializado Digital Trends, ocurrió esta primavera boreal, en medio de la guerra entre Estados Unidos e Irán. Según cuatro fuentes consultadas por el medio estadounidense, el reporte se difundió por distintos niveles del mando militar y generó una respuesta casi inmediata.

Todo comenzó cuando un analista del Comando de Operaciones Especiales del Pacífico de Estados Unidos, con sede en Hawái, le consultó a un chatbot sobre información de inteligencia relacionada con el manifiesto de carga del barco chino. No quedó claro si se trataba de una herramienta comercial —como ChatGPT o Claude— o de un sistema desarrollado internamente por el Gobierno estadounidense.

El sistema mezcló información abierta disponible en internet con inteligencia de señales clasificada —es decir, comunicaciones interceptadas y datos reservados que maneja el Gobierno— y de esa combinación sacó una conclusión errónea sobre qué estaba transportando realmente el buque. CNN no pudo establecer cuál era el material que en realidad llevaba la nave.

Lo más preocupante es que el analista no se detuvo ahí: usó la misma inteligencia artificial nuevamente para transformar ese hallazgo equivocado en un reporte de inteligencia formal, del tipo que los oficiales militares dan por hecho que es confiable, y lo hizo circular por la cadena de mando.

Una carrera por usar IA

El trasfondo de este error no es casual. Estados Unidos está empujando fuerte para meter inteligencia artificial en casi todos los rincones de su aparato militar y de inteligencia: desde analizar volúmenes enormes de información cruda hasta elegir objetivos para ataques, pasando por tareas más simples como logística y presupuestos.

En enero, el secretario de Defensa, Pete Hegseth, presentó una estrategia oficial para acelerar el uso de IA en las fuerzas armadas. "Vamos a liberar la experimentación, eliminar las barreras burocráticas, enfocar nuestras inversiones y demostrar el enfoque de ejecución necesario para asegurar que lideremos en IA militar", dijo Hegseth al anunciarla.

El plan busca poner estas herramientas en manos de los cerca de tres millones de funcionarios civiles y militares del Departamento de Defensa, según un memo citado por CNN. El problema es que ese despliegue es completamente descentralizado: distintas áreas del Gobierno usan herramientas distintas, con órdenes y estándares de seguridad diferentes entre sí.

No existe, según reconocieron varios funcionarios estadounidenses, un único conjunto de estándares para verificar la información que generan estas herramientas antes de que se use en decisiones reales. Y una fuente advirtió que este no fue un hecho aislado: este tipo de "alucinación" —cuando una IA inventa o distorsiona información con total seguridad— ya se ha repetido antes dentro de la comunidad de inteligencia.

El riesgo se agrava especialmente en el terreno de la selección de objetivos militares. "La IA en la selección de objetivos definitivamente está aumentando y no hay una guía real de cómo tener a un humano en el proceso va a prevenir víctimas civiles o fuego amigo", advirtió otra de las fuentes consultadas por CNN.

Expertos en seguridad de Estados Unidos y China, que discutieron el tema en el Foro de Xiangshan, un encuentro de seguridad regional en China, pidieron establecer garantías específicas para sistemas nucleares, operaciones cibernéticas críticas y, sobre todo, mantener un control humano real sobre las decisiones más sensibles.

Porque, si algo deja claro este cuasi-conflicto, es que la velocidad puede ser la peor consejera cuando lo que está en juego es un barco, un misil o una guerra: la IA puede procesar inteligencia en segundos, pero cuando se equivoca, lo hace con la misma confianza con la que acierta, y esa vez nadie iba a preguntarle al chatbot si estaba seguro antes de dar la orden de disparar.