"Desviste a chicas gratis": la descontrolada app que usaron los chicos de Almendralejo
Los expertos abogan por una educación profunda sobre tecnología desde temprana edad y una regulación estricta para responsabilizar a las empresas que facilitan la creación de estos montajes.
El caso de los jóvenes de Almendralejo que han utilizado la inteligencia artificial para crear imágenes falsas de menores desnudas, primero de este tipo en España, ha puesto de manifiesto la facilidad con la que se puede acceder a este tipo de herramientas, además de reabrir el debate sobre sus efectos en la vida real o la ausencia de responsabilidad de las empresas que las desarrollan.
En el caso de los detenidos por los falsos desnudos en Almendralejo, los once menores recurrieron a una controvertida aplicación llamada ClothOff (Ropa Fuera). Una herramienta a la que se puede acceder si se tiene una cuenta en Gmail, Twitter o Facebook, tal como ocurre en apps similares, como ChatGPT, DALL-E o Midjourney.
La aplicación ClothOff se promociona con el eslogan "Desviste a chicas gratis" y una vez se accede a ella, no se reclama una verificación de edad. El único requisito que se exige es que la persona a la que se quiere desnudar aparezca sola en la imagen y que no lleve un abrigo muy grueso.
Por lo general, las aplicaciones de inteligencia artificial son de acceso gratuito aunque algunas cuentan con una versión de pago. Sin embargo, todas comparten una característica: las empresas que las desarrollan no asumen ningún tipo de responsabilidad sobre el uso que le dan los usuarios a las imágenes que crean.
En lo que respecta al primer caso en España de deepfakes de contenido sexual con una distribución masiva, los hechos podrían ser constitutivos de varios delitos recogidos en el Código Penal: suplantación de identidad, ciberacoso o extorsión sexual son solo algunos, pero los menores implicados tienen de 12 a 14 años y, por tanto, son inimputables.
Un aspecto que abre otros debates. Porque la velocidad a la que avanza la tecnología plantea desafíos para las autoridades judiciales y policiales, así como para la protección de menores en el entorno digital. La falta de educación tecnológica y afectivo-sexual adecuada para los "pornonativos” (la generación que ha crecido con acceso fácil a contenido pornográfico) es preocupante.
Ricard Martínez, profesor de Derecho Constitucional en la Universitat de València, advierte en El Mundo del aumento del machismo y la cosificación de la mujer en internet, subrayando la necesidad de abordar estos problemas desde una perspectiva educativa y legal. La falta de conciencia sobre los límites éticos de estas herramientas tecnológicas impulsa la proliferación de actos perjudiciales.
Los expertos abogan por una educación más profunda sobre tecnología desde temprana edad y una regulación estricta para responsabilizar a las empresas que facilitan la creación de estos montajes. El caso de Almendralejo ha puesto de manifiesto la necesidad de abordar estas cuestiones de manera integral y ejemplarizante para proteger a la sociedad en su conjunto y prevenir futuros incidentes de este tipo.
