Así se utiliza la tecnología como arma contra las mujeres

Bruselas (Euractiv)- Los propietarios de las principales plataformas digitales dicen apoyar el empoderamiento femenino y promover los derechos de las mujeres. Pero hace apenas un año que los directores ejecutivos de las grandes empresas tecnológicas se desvivían por complacer al presidente estadounidense Donald Trump con cambios radicales de la noche a la mañana en las iniciativas de diversidad. Mark Zuckerberg, de Meta, sugirió que la cultura corporativa necesita más «energía masculina».

No es de extrañar, pues, que la toxicidad y la misoginia en Internet estén en el centro de los últimos escándalos tecnológicos. La herramienta de inteligencia artificial Grok, de Elon Musk, se utilizó ampliamente para desnudar digitalmente a mujeres y niñas; se ha descubierto que las gafas de inteligencia artificial Ray-Ban de Meta graban sin consentimiento a mujeres en situación de desnudez.

Ambos ejemplos ponen de relieve que las herramientas digitales y los espacios en línea siguen siendo inseguros para las mujeres. Además, esto ha ocurrido a pesar del objetivo de la UE de crear normas digitales que protejan a las mujeres.

Imágenes fotorrealistas sexualizadas o pornográficas

El reciente informe sobre igualdad de género de la Comisión Europea destacó que las mujeres están expuestas de manera desproporcionadaa la violencia de género en línea, incluyendo el acoso, el acecho, el doxing (exposición de información personal), la creación y el intercambio de imágenes íntimas sin consentimiento y los deepfakes de IA, incluyendo imágenes fotorrealistas sexualizadas o pornográficas. 

La Estrategia de Igualdad de Género 2026-2030 de la Comisión afirma que el 98 % de todos los deepfakes en línea son de naturaleza pornográfica y el 99 % de ellos representan a mujeres.

Las plataformas en línea están reguladas en la UE a través de la Ley de Servicios Digitales (DSA), cuyo objetivo es hacer que los gigantes tecnológicos sean responsables de la gobernanza de los contenidos en sus plataformas. Esto supuestamente incluye garantizar que sus algoritmos, herramientas de inteligencia artificial y deepfakes virales no perjudiquen a las mujeres.

Filtros de Snapchat y algoritmos de Instagram

Pero las empresas tecnológicas tienen un historial de crear herramientas que hacen que los espacios en línea sean inseguros para las mujeres. La DSA no ha cambiado eso.

Antes de Grok, existían herramientas generadoras de avatares de inteligencia artificial que producían retratos inesperadamente sexualizados de mujeres con solo pulsar un botón. Los filtros de belleza de Snapchat aplicaban estándares hiperfemeninos que fomentaban la dismorfia corporal. El algoritmo de Instagram amplifica los selfies en traje de baño.

Antes del Día Internacional de la Mujer, la comisaria de Tecnología de la UE, Henna Virkkunen, declaró a Euractiv que «los espacios digitales deben ser espacios seguros». Sin embargo, reconoció que la violencia de género en línea y la ciberviolencia siguen siendo «una amenaza creciente».

Aunque la comisaria insistió en que la igualdad de género y la protección, tanto en línea como fuera de línea, «no son opcionales», la realidad de las mujeres de la UE en línea dista mucho de la retórica de Virkkunen.

«Abandonad el debate político. Mantened la boca cerrada»

Citando ejemplos recientes como las gafas inteligentes de Meta, la diputada de Los Verdes Alexandra Geese argumentó que «las grandes tecnológicas se han vuelto contra las mujeres». Afirmó que el mensaje que las grandes tecnológicas envían a las mujeres es claro: «Abandonad el debate político. Mantened la boca cerrada».

Magdalena Maier, investigadora de CDT Europe (una organización de la sociedad civil digital), declaró a Euractiv que el marco legislativo de la UE «ofrece una base sólida» para cubrir los deepfakes no consentidos generados por IA. Sin embargo, destacó las «lagunas sustantivas» a la hora de abordar la «generación de este tipo de contenidos» y añadió que la aplicación de la ley sigue siendo un problema. 

Mientras tanto, la «innovación» tecnológica sigue avanzando. Las gafas inteligentes con IA se están generalizando, ya que cada vez son más discretas y pasan por gafas normales.

En las redes sociales, los «artistas del ligue» no tardaron en utilizarlas para mejorar su contenido. La BBC habló con dos mujeres sobre sus experiencias al ser abordadas en público por un hombre que llevaba gafas y que más tarde encontraron vídeos de sus interacciones, grabados en secreto con una cámara integrada, circulando en las redes sociales, donde miles de usuarios también habían publicado comentarios despectivos y sexualmente explícitos.

Geese declaró a Euractiv que estas herramientas están dando a los hombres la «posibilidad técnica de convertir a las mujeres en objetos sexuales… en lugar de seres humanos con los mismos derechos».

Meta, una de las principales empresas tecnológicas que comercializa gafas inteligentes, afirma que una luz LED en la montura del dispositivo indica claramente cuándo está grabando. Sin embargo, una investigación reciente de medios de comunicación suecos indicó que las gafas de Meta grababan a personas sin su conocimiento ni consentimiento. Los dispositivos enviaban las imágenes a un contratista externo en Kenia, y uno de los empleados dijo a los periodistas que habían visto a personas en situaciones íntimas, citando un ejemplo en el que una mujer se cambiaba de ropa en un dormitorio donde se habían dejado las gafas.

Grok: mujeres al desnudo

A principios de este año, la controvertida herramienta de IA de Elon Musk, Grok, integrada en su plataforma de redes sociales X, causó un escándalo mundial después de inundar el servicio con imágenes sexualizadas de mujeres y niños.

La Comisión respondió iniciando una investigación de la Ley de Servicios Digitales (DSA) sobre Grok en relación con la difusión de imágenes pornográficas a través de X. Virkkunen ha subrayado que«los deepfakes que utilizan imágenes íntimas no consentidas [son] ilegales». La investigación analizará cómo Grok ha trabajado para mitigar los riesgos relacionados con la difusión de «imágenes sexualmente explícitas manipuladas».

Sin embargo, Grok es solo la última de una serie de herramientas de IA que realizan desnudos, con muchas aplicaciones de IA diseñadas con el propósito explícito de desnudar digitalmente a las mujeres. X etiquetó la función de desnudo como «modo picante», en un intento por normalizar el abuso digital.

Preocupación constante para los legisladores de la UE

Estas herramientas siguen siendo una preocupación constante para los legisladores de la UE, y varios eurodiputados esperan incluir una posible prohibición en otro reglamento de la UE, la Ley de IA, que actualmente no prohíbe la desnudez mediante IA. Pero la DSA debería ser una herramienta de «primera línea» para abordar la difusión de imágenes íntimas no consentidas, ya sean generadas por IA o no, afirmó Marie Seck, investigadora de CDT Europe.

El reglamento de gobernanza en línea de la UE ya contiene «obligaciones claras» para las plataformas en línea cuando su «interfaz es defectuosa», afirmó, sugiriendo que estas normas deberían haber impedido en primer lugar el lanzamiento de funciones perjudiciales como Grok.

Virkkunen declaró a Euractiv que su departamento está «intensificando» las conversaciones con las empresas tecnológicas con el objetivo de reforzar la «cooperación y el cumplimiento» en el marco de la DSA.

«Denunciantes de confianza»

La Comisión publicará en breve unas directrices para las plataformas sobre los denominados «denunciantes de confianza» —organizaciones independientes acreditadas cuyos informes sobre contenidos ilegales deben recibir prioridad— con el objetivo de desarrollar su «capacidad» para denunciar la ciberviolencia de género en línea, añadió.

En el caso de las gafas con IA de Meta,el organismo irlandés de control de la privacidad, encargado de velar por el cumplimiento del Reglamento General de Protección de Datos de la UE por parte del gigante tecnológico, declaró a Euractiv que está considerando la cuestión de la concienciación de los transeúntes sobre el hecho de ser grabados como una cuestión prioritaria para los dispositivos wearables.

Sin embargo, el organismo regulador irlandés aún no ha anunciado una investigación formal, a pesar de haber estado en contacto con Meta en relación con sus gafas inteligentes desde septiembre de 2021.

///

(Editado por nl, ow/Euractiv.com y Luis de Zubiaurre Wagner/Euractiv.es)