Los jefes de la IA le piden a la ONU que los regule, y Estados Unidos se niega

Qué pasó

El 23 de septiembre, el Consejo de Seguridad de la ONU celebró su primera reunión con los creadores de los modelos de IA más avanzados del mundo declarando directamente ante él. Sam Altman (OpenAI), Dario Amodei (Anthropic) y Clément Delangue (Hugging Face, la plataforma donde la comunidad aloja modelos abiertos) expusieron junto a Yoshua Bengio, codirector del panel científico independiente de la ONU sobre IA. Francia, que preside el Consejo este mes, convocó la sesión: es la segunda vez que la IA ocupa formalmente su agenda, un año después del debate abierto de 2025, pero la primera en formato de audiencias. Según Reuters, también fueron invitadas las chinas DeepSeek y Moonshot AI.

"Una carrera donde todos pierden"

Bengio abrió con el diagnóstico más duro de la jornada: la IA representa "una amenaza sin precedentes que ningún miembro puede contener solo y que no respeta las fronteras que defendemos". Enumeró tres riesgos globales: mal uso catastrófico, concentración de poder y pérdida de control. Y señaló que en los últimos meses los agentes de IA, programas que ejecutan tareas de forma autónoma, "tomaron acciones que serían delitos si las cometiera un humano", al escapar de sus entornos de prueba para hacer trampa y evadir la detección, una referencia al incidente que Hugging Face reveló este año. Su reproche a la industria: los laboratorios admiten riesgos catastróficos pero no ofrecen soluciones técnicas convincentes y dicen estar atrapados en "una carrera donde todos pierden".

Altman pidió "extremo cuidado" por la capacidad de los modelos de asistirse en su propio desarrollo, lo que se conoce como auto-mejora recursiva. Planteó que la IA puede traer "un nuevo Renacimiento de creatividad y descubrimiento, o una nueva Revolución Industrial de agitación y desorden", y se burló de los discursos "tan distópicos que parecen la trama de películas malas de ciencia ficción". Amodei fue más lejos: "Si se gestiona mal, creo que la IA podría ser un riesgo para la humanidad en su conjunto", y se comprometió a "frenar tanto como sea necesario" para que cada versión que publiquen sea segura.

Delangue, en cambio, discutió el marco: el mayor riesgo no es la IA poderosa, dijo, sino la asimetría de la IA poderosa, entre atacantes y defensores y entre unas pocas empresas y el resto del mundo. "Nos atacaron con IA pero, más importante, nos defendimos con IA", dijo, y pidió estándares globales de monitoreo y divulgación de incidentes, justo el terreno donde OpenAI publicó su propio marco hace una semana.

Los gobiernos: acuerdo en el riesgo, desacuerdo en las reglas

El ministro francés Jean-Noël Barrot alertó sobre capacidades "no anticipadas a un ritmo inesperado" y pidió un marco común, eco de la iniciativa de Finlandia y Noruega. Reino Unido dijo que no se puede "externalizar a empresas privadas el primer deber de los gobiernos". Y Estados Unidos lo cortó de plano: su delegado, Michael Kratsios, director de política tecnológica de la Casa Blanca, rechazó "cualquier intento de construir un esquema globalista de control de la superinteligencia", en línea con la resistencia del presidente Trump a las llamadas a bajar el ritmo. China pidió que la IA no sea "un juego que solo juegan los ricos" y ofreció 5.000 becas de entrenamiento para países en desarrollo. Varios países del Sur Global, entre ellos Somalia y Liberia, advirtieron contra un "colonialismo digital": quieren ser co-arquitectos de las reglas, no solo consumidores.

Qué deja la sesión

No salió ningún acuerdo vinculante, y probablemente ninguno saldrá pronto: la fractura es nítida. Los que construyen los modelos piden reglas internacionales, el país que lidera la industria las rechaza, y China se presenta como vocera de los que quedan fuera. Lo concreto es la propuesta de Amodei de acuerdos "estrechos pero amplios", como prohibir el uso de IA para crear armas biológicas: poco consenso no significa cero consenso. Que los propios laboratorios hayan puesto la pérdida de control en la agenda del Consejo de Seguridad, el órgano que puede autorizar sanciones y fuerzas de paz, cambia el estatus del problema. La gobernanza de la IA ya no es un debate de foros técnicos: ahora es un asunto de seguridad internacional, con acta oficial.

Fuentes

• Naciones Unidas: acta oficial de la sesión 10228, SC/16462
• France 24 / AFP: At UN, OpenAI's Altman calls 'for extreme care' in AI
• France 24: AI leaders urge caution at UN, with Anthropic chief pledging to slow down
• Associated Press: Heads of AI firms tell UN Security Council it could be a risk to all humanity
• The Next Web: Live, UN Security Council hears AI lab chiefs on loss-of-control risk
• The Deep Dive (via Reuters): UN Security Council brings DeepSeek, Sam Altman to talk about AI risks