El alto comisionado Volker Türk advirtió que la IA agéntica está acelerando las guerras y puede llevar al lanzamiento de armas de destrucción masiva.
Esto se suma al llamado de empresas del rubro a detener el rápido avance en esta materia.
Todos los derechos humanos "están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad", debido al acelerado desarrollo de la inteligencia artificial (IA), advirtió este lunes el alto comisionado de la ONU Volker Türk.
"La actual carrera hacia una IA cada vez más potente supone un salto cualitativo hacia mayores riesgos existenciales para todos los aspectos de nuestras vidas", aseguró el jefe de derechos humanos de la ONU en un comunicado, después de que empleados de ese sector tecnológico hayan urgido a ralentizar el avance de esa tecnología.
La IA agéntica, que va más allá de la convencional y puede tomar sus propias decisiones, está mostrando fallos que "podrían paralizar servicios esenciales, fracturar las comunicaciones, desestabilizar infraestructuras críticas y golpear en el corazón mismo de las instituciones democráticas", advirtió Türk.
"Poblaciones enteras podrían quedar sin acceso a agua, calefacción o servicios financieros", agregó el alto comisionado, quien aseguró que la IA "ya está acelerando el ritmo de las guerras, ampliando su alcance y erosionando las salvaguardias que se interponen entre nosotros y el lanzamiento de armas de destrucción masiva".
Las advertencias del jefe de derechos humanos de la ONU se producen después de que personalidades como Dario Amodei, consejero delegado de Anthropic; el director ejecutivo de OpenAI, Sam Altman; o el magnate Elon Musk reclamaran frenar deliberadamente el ritmo de desarrollo de los modelos de IA más avanzados frente a riesgos como la pérdida de control sobre los sistemas.
Según Türk, Estados y empresas deben movilizarse con urgencia a través de foros multilaterales para gobernar la IA sobre la base del derecho internacional y los derechos humanos.
"Ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo, y ninguna persona debería verse obligada a renunciar a sus derechos humanos a cambio de promesas de progreso tecnológico", resumió el alto comisionado austríaco.
El Premio Nacional de Ciencias Aplicadas y Tecnológicas Ricardo Baeza-Yates planteó en El Diario de Cooperativa que "existe la posibilidad (de perder el control de la IA), pero es bastante baja. Yo creo que hay muchas motivaciones, más allá de los riesgos, que son por ejemplo la salida a bolsa de Anthropic, tal vez buscar una distracción para el tema de regular el uso de la IA y por supuesto, para distraer de los verdaderos problemas que tiene la IA hoy en día, sobre todo la IA generativa".
El académico de la Universidad de Chile dijo que los reales problemas en esta materia son la "desinformación, la hemos sufrido en todas las elecciones, sobre todo en los últimos dos o tres años con las noticias falsas; discriminación de personas, ya sean mujeres o migrantes u otras minorías; problemas de salud mental, ha habido decenas de casos donde los chatbots han ayudado en muertes o suicidios; el tema del impacto cognitivo; y también todo el impacto ambiental que tienen".
"Es muy fácil humanizar esta herramienta, porque parece una imitación perfecta de nosotros mismos, parece que tuvieran agencia e intenciones e incluso conciencia, pero es solamente una imitación. Es decir, si uno le pregunta a un sistema si hay que desconectarlo, va a decir que no, porque eso es lo que aprendieron de los textos de ciencia ficción", añadió.
