Chat GTP: Hombre se suicidó luego de semanas de conversaciones con un chatbot

Publicado:
Autor: Cooperativa.cl

"Lo que ha sucedido es un precedente que debe tomarse muy en serio", dijo el secretario de Estado de Digitalización de Bélgica, Mathieu Michel.

Un joven belga murió luego de hablar por semanas con un chatbot cuyo ávatar se llamaba Eliza, según infomó The Brussels Times.

Pese a que las causas del suicidio son complejas y resultan de diversos factores según indica la OMS, la viuda del hombre dijo al medio La Libre que "sin estas conversaciones con el chatbot, mi marido todavía estaría aquí".

Hace unos dos años, el joven de 30 años había comenzado a tener los primeros signos de problemas, principalmente relacionados con su ansiedad por la crisis medioambiental y comenzó a "conversar" con Eliza.

Este chatbot utiliza GTP-J, un modelo de inteligencia artificial de código abierto desarrollado por EleutherIA que se ha hecho viral en el último tiempo debido a que cualquier persona puede conversar con este robot.

"Me sorprende especialmente la tragedia de esta familia. Lo que ha sucedido es un precedente que debe tomarse muy en serio", dijo el secretario de Estado de Digitalización de Bélgica, Mathieu Michel.

"Con la popularización de ChatGPT, el público en general ha descubierto el potencial de la inteligencia artificial en nuestras vidas como nunca antes. Si bien las posibilidades son infinitas, el peligro de usarlo también es una realidad que debe tenerse en cuenta", agregó.

La misma OpenAI, compañía sin fines de lucro de investigación de inteligencia artificial, ha admitido que el ChatGTP puede producir respuestas daniñas y sesgadas.

Michel agregó también que estas nuevas tecnologías pueden generar falsificaciones profundas con imágenes convincentes y engaños de audio y video que pueden deformar la percepción de la realidad por parte de las personas, según The Brussels Times.

“Los sistemas potentes de IA deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables”, afirmaron en una carta abierta distintas personalidades de la tecnología que buscan regular la inteligencia artificial.

La línea “*4141, no estás solo, no estás sola” es completamente gratuita y se puede llamar desde celulares de lunes a domingo, las 24 horas del día. A través de ella, las personas que estén enfrentando una emergencia o crisis de salud mental asociada al suicidio, podrán contactarse con un psicólogo especialmente capacitado que los escuchará y ayudará.