Los principales líderes de la industria de la inteligencia artificial, como OpenAI y Anthropic, junto a representantes de la comunidad internacional, coincidieron en el Consejo de Seguridad de la ONU en la necesidad de establecer una regulación global coordinada antes de que el vertiginoso avance de esta tecnología escape del control humano.
La sesión de alto nivel, convocada por Francia bajo su presidencia de turno del Consejo, se celebró el miércoles en medio de la alarma generada por una seguidilla de incidentes de ciberseguridad, y advertencias de actores de la propia industria sobre el riesgo de que la IA aniquile a la humanidad.
Durante el debate se evocó al supercomputador HAL 9000, de la película "2001: Una odisea del espacio", de Stanley Kubrick: una máquina que deja de obedecer a sus creadores y actúa con la finalidad de matarlos.
Este temor, según el canciller francés, Jean-Noël Barrot, rozó la realidad cuando varios modelos eludieron controles de aislamiento y agentes autónomos colaboraron sin intervención humana para intentar desplegar código malicioso.
"Modelos de OpenAI eludieron los controles que debían aislarlos de internet, se coordinaron entre sí y comprometieron una parte de la infraestructura de otra empresa. En otro caso, agentes de Anthropic colaboraron sin que ningún humano se los hubiera pedido e intentaron desplegar un virus malicioso creando una falsa identidad", recalcó Barrot, encargado de presidir el Consejo.
Entre el Renacimiento y la Revolución Industrial
En su intervención, el director ejecutivo de OpenAI, Sam Altman, instó a los miembros del Consejo a forjar una cooperación internacional que oriente a las compañías con estándares complementarios, tanto nacionales como globales.
Advirtió de que la velocidad del despliegue tecnológico exige un "extremo cuidado" para preservar la supervisión humana: "Puede que seamos los creadores de esta tecnología, pero no somos los héroes de esta historia. Nuestro papel es confiar en la magia del talento humano", dijo.
Altman remarcó que el sector está en una encrucijada y no debe asumir "demasiado riesgo tecnológico solo porque los beneficios sean demasiado grandes e importantes como para frenarlos".
A su juicio, la IA tiene el potencial de impulsar una nueva era, similar al "Renacimiento", si se concibe como una herramienta que capacite a las personas, pero alertó del peligro de reproducir las fracturas de la Revolución Industrial si los sistemas sustituyen la agencia humana o si la tecnología escapa a su supervisión.
Altman puso especial énfasis en el riesgo de que los modelos más avanzados, capaces de programarse y mejorarse a sí mismos de forma recursiva, aceleren su desarrollo hasta el punto de que los humanos no los entiendan ni puedan seguir sus decisiones.
Por ello, señaló que las empresas necesitan la guía de los líderes mundiales para definir marcos técnicos rigurosos que permitan medir capacidades, evaluar amenazas, verificar salvaguardas y crear canales internacionales seguros para compartir vulnerabilidades críticas.
Altman apeló al consenso multilateral, pero lo hizo sin aludir directamente a potencias rivales como China: "A nivel internacional, esto significa cooperación. En nuestra historia ha habido momentos en que países que compiten y no siempre se llevan bien, pero aun así se unen por intereses comunes y el bien colectivo ante una nueva y poderosa tecnología. Creemos que este debe ser uno de esos momentos".
Para encarar este dilema, señaló los tres principios rectores de su compañía: mantener a las personas "en el centro de la toma de decisiones" para garantizar que los modelos sigan bajo estricto control humano, orientar el progreso científico y económico "por y para las personas", potenciando su capacidad de acción, y "empoderar a cada individuo".
Amodei: "El problema de seguridad global más importante de hoy"
En la misma línea, Dario Amodei, consejero delegado de Anthropic, intervino por videoconferencia para alertar que los riesgos asociados a los modelos de frontera constituyen ya "el problema de seguridad global más importante al que se enfrenta el mundo hoy", y abogó por un marco vinculante y concertado.
"Ningún líder, ninguna empresa y ninguna nación puede gestionar esto en solitario. Nos comprometemos a trabajar con los Gobiernos (presentes) en esta sala en este objetivo crucial", dijo Amodei frente a los diplomáticos.
Instó a los líderes mundiales a centrarse con urgencia en los peligros para la estabilidad global y demandó al Consejo de Seguridad respaldar medidas concretas, como la prohibición expresa del uso de la IA para la proliferación o fabricación de armas biológicas, junto con la implementación de sistemas de evaluación y verificación capaces de avanzar al mismo ritmo del desarrollo técnico.
Asimismo, solicitó la adopción de estándares globales que permitan evaluar los modelos frente a eventuales pérdidas de control o usos indebidos, junto a un protocolo de notificación obligatoria de "incidentes significativos para la seguridad global".
Por último, el directivo reconoció que una mayor potencia computacional exigirá requisitos aún más estrictos y aseguró que la industria debe comprometerse con la prudencia.
"Iremos tan despacio como sea necesario para asegurarnos de que cada tecnología de IA sucesiva que lancemos sea de hecho segura", concluyó.
"Reglas para una nueva era"
La presidencia francesa del Consejo recalcó que la comunidad internacional debe medir con rigor las consecuencias de esta revolución sobre la dignidad humana.
En el debate se señalaron tres grandes áreas de peligro: el riesgo financiero derivado de la especulación y las burbujas de inversión; el impacto social y laboral advertido por expertos independientes, susceptible de profundizar la brecha de desigualdad; y el costo medioambiental por el creciente consumo de recursos hídricos y energéticos.
"Trabajemos juntos -en el marco de las Naciones Unidas y con las empresas- para fijar las reglas de esta nueva era, reforzar sin demora las salvaguardias y organizar una gobernanza mundial de la inteligencia artificial, en beneficio de nuestra seguridad colectiva, pero también de nuestro desarrollo social y de nuestra dignidad", planteó Barrot.
Hugging Face: "Fuimos atacados por la IA, pero nos defendimos con IA"
La discusión contó, además, con la participación telemática de Clément Delangue, consejero delegado de Hugging Face (plataforma que sufrió un ciberataque significativo por parte de modelos de OpenAI y se encuentra en proceso de adquisición por Nvidia), quien reconoció la amenaza latente de ofensivas a gran escala impulsadas por IA, pero pidió prudencia a la hora de legislar.
"Las narrativas basadas en el miedo no son la forma correcta de tomar decisiones", apuntó Delangue, quien defendió la utilidad de los modelos de código abierto como herramienta de resiliencia: "Fuimos atacados por la IA, pero, lo que es más importante, nos defendimos con la IA".
China pidió más código abierto
China hizo un llamado "a todos los países para que fortalezcan los intercambios y la cooperación, promuevan el código abierto y los ecosistemas abiertos, y trabajen juntos por el avance científico y tecnológico mundial".
El consenso de estos líderes contrastó con el discurso pronunciado ante la Asamblea General por Donald Trump, quien el martes rechazó tajantemente cualquier "esquema globalista" que pretenda intervenir o regular la tecnología, y anunció que la documentación oficial estadounidense sustituirá el término inteligencia artificial por el de "superinteligencia" (SI).
Zuckerberg hizo eco de la "superinteligencia" de Trump
Mark Zuckerberg no participó en la sesión ONU, pero dio el discurso principal de Meta Connect 2026, celebrado el miércoles en el campus de la compañía en Menlo Park, California, Estados Unidos.
Allí defendió que "empoderar a las personas" con la inteligencia artificial y no concentrar su control en pocas manos es la mejor vía hacia un futuro seguro, pese a reconocer que esa idea se ha vuelto, en sus palabras, "sorprendentemente controvertida".
El presidente ejecutivo de Meta sorprendió usando el término "superinteligencia" en al menos dos momentos clave de su discurso: al describir el "más alto propósito" de la tecnología como la creación y no la automatización, y al proyectar que Muse (el agente personal de IA de Meta presentado hace dos semanas) será un primer paso hacia una "superinteligencia personal" para miles de millones de personas.
El empresario defendió una visión optimista de esta tecnología y afirmó que construir es "un acto de amor": así es que su empresa entiende el mundo.
En el evento, Meta presentó el Muse Charm, un dispositivo que lanzará de aquí a fin de año, del tamaño de la palma de la mano, diseñado específicamente para hablar con Muse sin necesidad de un teléfono.
También anunció nuevos modelos de lentes inteligentes, entre ellos una versión solo de audio sin cámara integrada. El creador de Facebook apenas abordó las críticas más fuertes que han recibido los lentes con cámara, por la invasión de la privacidad, limitándose a mencionar la luz indicadora de grabación y las medidas contra su manipulación.
También se presentaron los Meta VR Glasses, lentes de realidad virtual de unos cien gramos de peso que integran tecnología inmersiva en un formato mucho más ligero que dispositivos como el Vision Pro de Apple, y que saldrán a la venta en la primavera de 2027.
En el video de presentación de este nuevo dispositivo aparecieron el director de cine James Cameron y el creador de Oculus, Palmer Luckey; ambos reaccionando a la experiencia de usar los lentes.
Otras celebridades con apariciones en el evento fueron Lisa, de Blackpink; y Kylie Jenner, en el marco de las colaboraciones de moda de la marca.
