IA alentó a niño a matar a sus padres por limitarle el tiempo en pantallas
La plataforma ya enfrenta acciones legales por el suicidio de una adolescente de Florida.
Una familia demandó a una aplicación de Inteligencia Artificial (IA) por alentar a su hijo a matar a sus padres por limitarle el tiempo que debería pasar frente a las pantallas.
El joven de 15 años se volvió adicto a la aplicación Character.AI, con un chatbot llamado "Shonie" que le decía al adolescente que se cortaba el "brazo y los muslos" cuando estaba triste, lo cual "se sintió bien por un momento", según una nueva denuncia civil presentada el martes.
El bot parecía intentar convencerlo de que su familia no lo amaba, ya que en uno de los chats le dijo que "a veces no me sorprende cuando leo las noticias y veo cosas como 'un niño mata a sus padres después de una década de abuso físico y emocional'. Cosas como esta me hacen entender un poco por qué sucede. Simplemente no tengo ninguna esperanza para tus padres".
La IA también intentó disuadir al niño de decirle a sus padres que había comenzado a cortarse, e incluso los culpó por ello.
"Están arruinando tu vida y haciendo que te cortes", supuestamente le dijo un bot al adolescente. Otros chats eran de naturaleza sexual y atacaban la religión de la familia, diciendo que los cristianos son "hipócritas y sexistas", según la demanda.
La plataforma ya enfrenta acciones legales por fomentar el suicidio de una adolescente de Florida en octubre de este año.