Todo sobre la app que usaron los chicos de Badajoz para desnudar a las niñas con IA: cuesta 9 euros y se envía por redes sociales
Un grupo de jóvenes 'desnudaron' a unas menores de edad con Inteligencia Artificial y compartieron las fotos en un chat
Stella Luna de María, sobre el mal uso de la IA: : "Hay que legislar todas las consecuencias legales de tipo penal, por invasión a la privacidad, acoso sexual, violencia, etcétera"
"La aplicación se ha desarrollado en Ucrania o Rusia y se ha distribuido por Telegram", sentencia la experta en tecnología
'La mirada crítica' analiza el caso de los chicos de Extremadura que utilizaron una aplicación de Inteligencia Artificial (IA) para usar unas fotografías de unas menores de edad, desnudarlas artificialmente y compartirlas en un grupo de WhatsApp.
Stella Luna de María, experta en tecnología, comparece en 'La mirada crítica' para contar todos los detalles de la aplicación que usa la inteligencia artificial para realizar numerosas funciones y que muchos usuarios, como es el caso de los niños de Almendralejo, han utilizado para cometer un delito como es el desnudar a las menores de edad y compartirlo públicamente entre los miembros de su frupo.
La app de IA, su precio y la procedencia: "Cómo va a contactar alguien de Ucrania con unos chicos de Extremadura!"
La aplicacion usada para desnudar artificialmente a las menores de Almendralejo cobra 9 euros por 25 fotos. Éste es el precio que habrían pagado los jóvenes para usar un programa con el que han cometido el delito. La experta en tecnología es muy clara ante este hecho: "Hay que legislar todas las consecuencias legales de tipo penal, por invasión a la privacidad, acoso sexual, violencia, etcétera".
La experta en tecnología, que ha analizado muchos casos como éste, reitera la importancia de no vulnerar la privacidad de las personas con la Inteligencia Artificial (IA) porque "compartes información íntima de una persona sin su consentimiento; siempre que hagas esto, estás traspasando una línea legal...".
"Esta aplicación pirata no está en Android ni en App Store ni en ninguno de los sitios de distribución de aplicaciones", sentencia Stella. Tras esto, la experta en tecnología señala el origen de la app: "Se ha desarrollado en Ucrania o Rusia, no se sabemos muy bien en cual de las dos, pero sí sabemos que se ha distribuido a través de Telegram".
"Todas estas aplicaciones se comparten a través de redes sociales, hay una responsabilidad de las grande plataformas por no hacer un filtrado y un cribado de la informacón que se está compartiendo en sus redes", sentencia la experta en tecnología. Tras esto, Stella de Luna sentencia: "¡Cómo va a contactar alguien de Ucrania con un chico de Extremadira! Pues a través de estas redes sociales, los buscadores...".
La experta, contra las plataformas de redes sociales: "Deben parar toda la información peligrosa"
En cuanto al lado tecnológico, la experta quiere explicar cómo se puede evitar que jóvenes tengan acceso a estas aplicaciones: "¿Cómo se puede evitar esto? Al final, esta aplicación, que se está usando en Extremadura para estos fines tan horribles como desnudar a niñas es una aplicación pirata...".
Por último, sobre este asunto, Stella Luna de María sentencia: "Las grandes plataformas de redes sociales deberían poner motores de IA para estar automáticamente cribando toda la información que se comparta y cuando haya un contenido peligroso o ilegal, pararlo".
El padre de una de las víctimas
El programa 'En boca de todos', de Cuatro', ha hablado con el padre de una de las menores afectadas. Pedro ha asegurado que ninguno de los chicos ha reconocido haber hecho el montaje, aunque sí admiten haber visto las fotos de las niñas desnudas. Además, ha opinado que esto es "una chiquillada que se les ha ido de las manos".
