Fotografías 'deepnude', el nuevo gran problema de la IA entre los jóvenes

• Uno de cada diez menores de edad de EU dice que sus amigos y/o compañeros de clase han usado la inteligencia artificial (IA) para generar imágenes desnudas de otros niños o niñas, según una encuesta publicada este agosto por Thorn, una organización sin fines de lucro cuya misión es defender a los niños del abuso sexual.

COMPARTEN IMÁGENES EXPLÍCITAS

La encuesta, realizada en línea entre el 3 de noviembre y el 1 de diciembre de 2023, hizo preguntas a 1,040 menores de entre 9 y 17 años sobre material de abuso sexual infantil y “experiencias dañinas en línea”.

El estudio señala que han monitoreado durante cinco años la frecuencia con que los niños comparten imágenes explícitas de otros compañeros sin su consentimiento.

En 2023, el 7% de los menores informó haber compartido imágenes sexuales de otra persona, pero casi el 20 % informó haber visto imágenes íntimas de otras personas compartidas sin consentimiento.

En su última publicación, ‘Perspectivas de los jóvenes sobre la seguridad en línea, 2023’, la organización señala que “los métodos que utilizan los jóvenes para producir y compartir imágenes explícitas están evolucionando”.

“Con herramientas de IA generativa a su alcance, los jóvenes están creando desnudos ‘deepfake’ de sus compañeros. Si bien la mayoría de los menores no cree que sus compañeros de clase participen en este comportamiento, aproximadamente uno de cada diez menores informó que conocía casos en los que sus compañeros lo habían hecho”, apunta el estudio.

Además, el estudio anota que uno de cada diez entrevistados optó por no contestar a la pregunta.

En EU ya han arrestado a varios estudiantes por crear ‘deepfake’ pornográficos o también conocidos como ‘deepnudes’. En una escuela secundaria del estado de Washington varios estudiantes fueron investigados por usar una “aplicación para desnudar” a sus maestros y compañeros de clase.

Mientras que en una escuela de Florida, la Policía detuvo a dos estudiantes de secundaria por crear desnudos de sus compañeros usando IA.

Al comprender los riesgos que enfrentan los niños en línea, podemos desarrollar sistemas para protegerlos contra los daños introducidos por las tecnologías que avanzan rápidamente.

Con respecto a otras experiencias de los menores, en 2023, más de la mitad (59 %) de los menores informaron haber tenido una experiencia en línea potencialmente dañina, y más de uno de cada tres menores informaron haber tenido una interacción sexual en línea.