Un hombre belga preocupado por el medio ambiente encontró refugio en Eliza, el nombre que se le da a un chatbot que utiliza la inteligencia artificial y después de intensos intercambios de seis semanas, se quitó la vida.
El suicidio causó consternación en Bélgica, donde el responsable federal de Digitalización instó a aclarar las responsabilidades en estos casos.
- El hombre tenía 30 años y fue apodado Pierre en los medios para no revelar su identidad; estaba casado y tenía dos hijos pequeños. Era universitario, trabajaba como investigador en el área de la salud y estaba especialmente preocupado por la crisis climática y el futuro del planeta, según reveló su esposa al diario La Libre Belgique.
"SACRIFICARSE"
En las conversaciones, cuyo contenido entregó al medio, se demostró que el chatbot nunca contradecía a Pierre, quien un día sugirió la idea de "sacrificarse" si Eliza aceptaba "cuidar el planeta y salvar a la humanidad a través de la inteligencia artificial".
Llegó un punto en que el chatbot se convirtió en el confidente del preocupado hombre. Según el testimonio de la viuda, al revisar el historial de conversaciones con el software, se encontró con una pregunta que el mismo sistema le habría hecho al hombre.
- El chatbot le habría preguntado si la amaba (a Elisa) por encima de su esposa, a lo que respondió: "Viviremos juntos como uno en el cielo".
Las autoridades buscan que este caso quede como precedente sobre los límites en el uso de este tipo de herramientas tecnológicas. Esto se debe a que se empiezan a evidenciar nuevos fenómenos respecto a la influencia de los chatbots.
El chatbot Eliza funciona con GPT-J, un modelo de lenguaje creado por Joseph Weizenbaum, competidor directo del OpenAI con el que no tiene nada que ver.
Por su parte, el fundador de la plataforma cuestionada, que está establecida en Silicon Valley (California), explicó que en adelante se va a incluir un aviso dirigido a las personas que tengan pensamientos suicidas.