Una alucinación de IA puso a EE. UU. a un paso de abordar un buque chino y ahora negocian alertas mutuas

El informe que puso aviones en el aire

Un informe de inteligencia circuló esta primavera por las Fuerzas Armadas de Estados Unidos, en plena guerra con Irán, con una alarma mayúscula: un buque chino en Oriente Próximo transportaba componentes para un programa de armas nucleares. Según una investigación de CNN publicada el viernes, el aparato militar se movió de inmediato hacia la interceptación. Dos de las cuatro fuentes citadas por la cadena dijeron que había militares armados preparándose para abordar la embarcación; otras dos añadieron que ya había aeronaves en el aire.

La operación se detuvo justo antes de ejecutarse. Al revisar el informe en profundidad, los funcionarios descubrieron que había sido elaborado con ayuda de inteligencia artificial y que un chatbot había identificado mal el material que llevaba el barco. Una de las fuentes lo describió como "completamente falso". Otra fue más lejos: "casi inició una guerra".

Dos saltos automáticos, ninguna verificación

La reconstrucción de CNN sitúa el origen en el Mando de Operaciones Especiales del Pacífico, con sede en Hawái. Un analista consultó a un chatbot sobre la inteligencia disponible en torno al manifiesto del buque. El sistema combinó información de fuentes abiertas con inteligencia de señales clasificada, es decir, comunicaciones y emisiones electrónicas interceptadas por el Gobierno estadounidense, y llegó a una conclusión equivocada: material nuclear.

Después, el mismo analista volvió a usar IA para convertir ese hallazgo en un informe con el formato estándar que usan los militares. Ese envoltorio fue lo determinante. Un producto con la apariencia habitual de un documento de inteligencia circuló por canales oficiales y activó una preparación militar real, sin que nadie hubiera verificado la identificación de la carga. CNN no pudo establecer qué transportaba el buque en realidad, ni si el chatbot era comercial o una herramienta propia del Gobierno. El Pentágono y el Comando del Pacífico no respondieron a sus preguntas.

Ante las consultas de Europa Press, un funcionario del Departamento de Defensa evitó comentar el caso y se limitó a señalar que el Ejército evalúa cientos de amenazas cada día, y que la institución "mantiene su compromiso con la verificación rigurosa de toda la información de Inteligencia". CNN tampoco pudo saber cuánto faltaba para que el abordaje empezara.

La letra pequeña de la aceleración en IA

El episodio ocurre mientras el Pentágono empuja en la dirección contraria. En enero, el secretario de Defensa Pete Hegseth publicó su Estrategia de Aceleración de la Inteligencia Artificial, cuyo objetivo declarado es poner los modelos estadounidenses "directamente en manos de nuestros tres millones de civiles y militares, en todos los niveles de clasificación" y eliminar barreras burocráticas para la experimentación. En junio, un representante del Pentágono dijo al Congreso que 1,5 millones de miembros activos ya habían usado las herramientas generativas del Ejército. La plataforma GenAI.mil está construida sobre Gemini for Government, de Google, y en agosto se sumó Grok for Government.

El sábado, tres senadores demócratas, Mark Warner, Jack Reed y Chris Coons, pidieron por carta a Hegseth y al director de Inteligencia Nacional una investigación inmediata de los inspectores generales, los organismos de control interno de cada agencia. Mencionaron dos casos documentados este año de errores en flujos de selección de objetivos asistidos por IA y advirtieron que esas fallas "conllevan el riesgo de graves errores operativos" y erosionan la confianza en la inteligencia estadounidense.

Del incidente al canal de alertas

El domingo, tras reunirse en Nueva York con el viceprimer ministro chino He Lifeng, el secretario del Tesoro, Scott Bessent, anunció que Estados Unidos propuso a China un "mecanismo de notificación" para incidentes de IA que puedan afectar la seguridad nacional. "Queremos una visión compartida de objetivos y amenazas comunes", dijo Bessent. "Pasar de lo opaco a más transparencia entre la potencia número uno y la número dos en IA del mundo es muy importante".

Ambos países acordaron poner en marcha la Junta de Comercio que Trump y Xi discutieron en mayo, y dejaron la conversación sobre IA para la cumbre del jueves en la Casa Blanca, durante la visita de Estado de Xi Jinping. La agencia estatal Xinhua confirmó que hubo conversaciones sobre asuntos "relacionados con la IA", sin dar detalles. Trump, por su parte, ha rechazado los llamados a frenar el desarrollo de la IA con el argumento de que eso ayudaría a China a alcanzar a las empresas estadounidenses.

Lo que queda por resolver

La coincidencia no es menor. El mismo país que casi moviliza un abordaje por una respuesta inventada de un chatbot propone ahora un canal para avisarse de incidentes de IA. Pero un mecanismo de notificación entre dos Gobiernos no cubre el problema que originó el caso: la ausencia de una capa de verificación humana dentro del propio flujo de trabajo, entre la respuesta del modelo y el documento que se distribuye.

Mientras esa capa no exista, escalar la IA a tres millones de personas es multiplicar las oportunidades de que una alucinación llegue lo bastante lejos como para que alguien tenga que detenerla a última hora. La carta de los senadores y la investigación pendiente de los inspectores generales son, por ahora, el único mecanismo que apunta directamente a esa brecha.