El Center for AI and Digital Policy acusó que el chatbot "sesgado, engañoso y supone un riesgo para la privacidad y la seguridad pública".
La demanda insiste en que esta tecnología no cuenta con las suficientes salvaguardas para limitar la parcialidad y el engaño.
Una de las organizaciones que suscribió un manifiesto para pedir la suspensión por seis meses de los experimentos con inteligencia artificial (IA) muy avanzada ha denunciado en Estados Unidos a la tecnológica OpenAI, desarrolladora del ChatGPT, por considerar que la tecnología que utiliza, denominada GPT-4, viola la ley de protección de los consumidores.
El Center for AI and Digital Policy (CAIDP) ha presentado una demanda contra OpenAI ante la Comisión de Comercio Federal (FTC, oficial) de Estados Unidos en la que alega que el producto GPT-4 es "sesgado, engañoso y supone un riesgo para la privacidad y la seguridad pública".
"La FTC tiene la clara responsabilidad de investigar y prohibir las prácticas comerciales injustas y engañosas. Creemos que la FTC debe examinar de cerca OpenAI y GPT-4", dijo el presidente de CAIDP Marc Rotenberg.
Según Rotenberg, OpenAI no está cumpliendo con las prácticas propuestas por la FTC como la relativa a la garantía por parte de las compañías de inteligencia artificial de "la solidez empírica de los datos y de los modelos" empleados, así como su transparencia.
La demanda insiste en que esta tecnología no cuenta con las suficientes salvaguardas para limitar la parcialidad y el engaño.
Rotengberg fue una de los empresarios y personalidades que ayer firmaron una carta abierta en la que solicitaron que se suspendan durante seis meses los experimentos con inteligencia artificial muy potente (superior a GPT-4) porque consideran que "pueden plantear profundos riesgos para la sociedad y la humanidad".
"La sociedad ha hecho una pausa en otras tecnologías con efectos potencialmente catastróficos en la sociedad. Podemos hacerlo aquí. Disfrutemos de una larga pausa veraniega de la IA y no nos apresuremos a caer sin estar preparados", decía la carta publicada por el organismo sin ánimo de lucro Future of Life Institute.
La Organización Europea de Consumidores (BEUC) instó este jueves a las autoridades de la Unión Europea (UE ) y de los Veintisiete que abran una investigación sobre ChatGPT y chatbots similares, ante el "riesgo" que corren los usuarios de "sufrir daños" por una tecnología sin regular.
"A pesar de todos los beneficios que la inteligencia artificial (IA) puede aportar a nuestra sociedad, actualmente no estamos suficientemente protegidos contra los daños que puede causar a las personas", afirmó en un comunicado la directora general adjunta de la BEUC, Ursula Pachl.
La organización europea puso de manifiesto que, aunque la UE está trabajando actualmente en la primera legislación mundial sobre IA, su preocupación es que "pasen años" antes de que esa ley pueda entrar en vigor.
Esto podría "dejar a los consumidores en riesgo de sufrir daños por una tecnología que no está suficientemente regulada durante este período provisional", y "para la que los consumidores no están preparados".
BEUC subrayó que, "en sólo unos meses", se ha producido una "adopción masiva" de ChatGPT y "esto es sólo el principio".
"Esperar a que se apruebe la ley de inteligencia artificial y entre en vigor, lo que ocurrirá dentro de unos años, no es suficiente, ya que crece la preocupación sobre cómo ChatGPT y chatbots similares pueden engañar y manipular a las personas", recalcó la organización.
Entre los firmantes del manifiesto estaban el director ejecutivo de Tesla, Elon Musk, o el cofundador de Apple Steve Wozniak entre otros que también piden la intervención de los Gobiernos, en caso de que estas empresas no respondan a esta solicitud.
"La IA avanzada podría representar un cambio profundo en la historia de la vida en la tierra, y debería planificarse y gestionarse con el cuidado y los recursos correspondientes", aseguraba esa misiva que criticaba, además, "que los laboratorios de IA se han enzarzado en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas".
GPT, siglas en inglés del término transformadores preentrenados generativos, es un tipo de modelo de aprendizaje artificial que se utiliza para generar lenguaje similar al humano. El GPT-4 es mucho más avanzado que los modelos similares anteriores.
El laboratorio OpenAI define el GPT-4 como su "último hito en el esfuerzo para ampliar el aprendizaje profundo". Este nuevo sistema acepta la recepción de textos e imágenes y genera texto.
Sin embargo, OpenAI asegura que GPT-4 sigue siendo menos capaz que las personas en muchas situaciones reales aunque "muestra un desempeño a nivel humano en varios puntos de referencia académicos y profesionales".
