Actualización de OpenAI tras denuncia por ChatGPT

Un hombre noruego ha presentado una demanda contra OpenAI, la empresa creadora de ChatGPT, después de que el chatbot lo identificara erróneamente como un criminal que asesinó a dos de sus hijos.

Arve Hjalmar Holmen, representado por la organización austriaca Noyb, dedicada a la protección de la privacidad, expresó su temor de que alguien crea esta información falsa y dañe su reputación. "Lo que más miedo me da es que alguien pueda leer eso y pensar que es cierto", declaró Holmen en un comunicado.

OpenAI acusada de violar el principio de exactitud en el RGPD

Aunque OpenAI ha actualizado su modelo para corregir el error y ya no presenta a Holmen como un asesino, la organización Noyb advierte que estos datos falsos podrían permanecer en los sistemas internos de la empresa. Esto plantea preocupaciones sobre la persistencia de información incorrecta y su impacto potencial en la vida de las personas.

La ONG ha denunciado que ChatGPT genera regularmente información falsa que puede perjudicar gravemente la reputación de los usuarios, acusándolos falsamente de delitos graves como corrupción, abuso de menores o incluso asesinato.

Noyb ha acusado a OpenAI de violar el principio de exactitud establecido en el Reglamento General de Protección de Datos (RGPD) de la Unión Europea. La organización argumenta que, al permitir que su modelo de inteligencia artificial genere resultados difamatorios, OpenAI actúa de manera negligente.

Por ello, Noyb ha solicitado que se eliminen los datos infractores, se mejore la tecnología para evitar errores similares y se imponga una multa administrativa a la empresa.

• OpenAI, conocida por ser pionera en el campo de la inteligencia artificial generativa, ganó fama mundial con el lanzamiento de ChatGPT a finales de 2022. Sin embargo, este caso destaca los riesgos asociados con la difusión de información errónea por parte de sistemas de IA. A medida que estas tecnologías se vuelven más comunes, es crucial que las empresas implementen mecanismos para garantizar la precisión y proteger la reputación de los usuarios.
• Este incidente subraya la necesidad de una regulación más estricta y de mejores prácticas en el desarrollo y uso de la inteligencia artificial. Mientras tanto, Holmen y Noyb esperan que su demanda sirva como un llamado de atención para que OpenAI y otras empresas de IA tomen medidas concretas para prevenir la difusión de información falsa y protejan los derechos de los usuarios.