Un día estás trabajando en tu oficina. Estás un poco cansada, movés el mouse con poco entusiasmo mientras revisás tu calendario. En ese momento, te llega un mensaje de una amiga que te dice que entres a Twitter-X. Empezás a scrollear: te saltás los memes, las cuentas bots y la discusión del día. Te encontrás con una imagen. Sentís un hormigueo en la espalda, te empezás a sentir mareada, algo no encaja. Ves tu cara: son tus ojos, tu sonrisa. Pero no sos vos.
“Es un shock ver imágenes de vos misma que mucha gente podría pensar que son reales”, comentó la congresista estadounidense Alexandria Ocasio-Cortez (también conocida como AOC) en una entrevista para la revista Rolling Stone. A principios de 2024, fue víctima de un deepfake que tenía una estética sumamente realista. “Es similar a la intención que está detrás del abuso físico y la violación sexual, que se apoya en intenciones de poder, dominación y humillación ajena. Los deepfakes son una forma violenta de trasladar humillaciones al entorno digital”, explicó AOC.
Pero esto no ocurrió solo una vez. En 2019 se difundieron imágenes falsas de AOC en redes sociales, muchas de ellas viralizadas por miembros del Partido Republicano. La diferencia es que en esta ocasión el video difundido en X estaba destinado a ser consumido como un contenido pornográfico.
En los últimos años aumentó la utilización de la Inteligencia Artificial (IA) como una herramienta para ejercer violencia política en entornos digitales, más aún cuando hablamos de feminidades. Esto se evidencia en la producción y difusión de imágenes y videos falsos, también llamados deepfakes. El objetivo de esta actividad es hostigar a mujeres y disidencias que tienen relevancia en el debate público. “Nuevas formas de luchar contra el cambio climático” decía el comentario que presentaba un deepfake de la activista Greta Thunberg. En 2021 se viralizó un video falso de la impulsora de “Fridays for Future” con la intención de banalizar su activismo.
Según la empresa de ciberseguridad Home Security Heroes, la presencia en Internet de deepfake videos durante 2023 aumentó un 550% con respecto al 2019. Dentro del total de estos contenidos, un 98% representó videos pornográficos. Pero es necesario ver estos datos desde una perspectiva de género ya que el 99% de los llamados deepfake porn o “videos falsos pornograficos” involucró a mujeres. Para muchas de ellas esto significó tener que rendir cuentas acerca de la veracidad o falsedad de sus acciones.
Así vuelve a aparecer una pregunta insistente. Reiterativa. “¿Te creo o no te creo?”. Responder esto parecería una tarea sencilla, y de hecho, muchos usuarios la responden de acuerdo a la cercanía o lejanía que tienen respecto de la víctima en cuestión. Pero su simple enunciación hace que los relatos de mujeres y disidencias cuelguen de un hilo.
La manipulación de la información desde una perspectiva de género
Los deepfake son una forma concreta de ejercer la manipulación de la información en el espacio virtual. Para la Asociación para el Progreso de las Comunicaciones (APC) existen tres características que definen este fenómeno: la intencionalidad maliciosa, la falsedad y la coordinación alrededor de estos objetivos. Además, APC define la manipulación de la información como un fenómeno complejo, multifacético y global que debe ser entendido como un síntoma de los llamados “trastornos de la información”.
Desde la Fundación Karisma, en colaboración con ONU Mujeres, aseguran que la manipulación de la información es un tipo de violencia digital hacia mujeres como el acoso virtual, la suplantación de la identidad y las amenazas en línea. Se trata de violencias de género que se producen en el marco del ejercicio de los derechos políticos.
Estas conclusiones nacen de una investigación que realiza Fundación Karisma respecto a la violencia digital ejercida hacia candidatas mujeres durante la campaña electoral previa a las elecciones legislativas de 2022 en Colombia. En esa instancia, las candidatas argumentaron que la violencia digital se manifestaba como una extensión de la violencia que se experimentaba en espacios físicos. Además, los resultados destacaron que entre las formas más recurrentes de la manipulación de la información estuvo la tergiversación de la vida profesional y personal de las candidatas y el involucramiento en escándalos dentro de sus partidos.
Estos actos ponen en duda la credibilidad de aquellas personas que poseen posiciones importantes en el espacio público con el fin de que elles se retiren de ese lugar o que participen en él pero en posiciones desventajosas. Esto se debe a que las imágenes, videos y discursos, por más que sean falsos, tienen un impacto real tanto en quienes consumen estos contenidos como en la reputación de las víctimas.
A pesar de la progresiva popularidad de estos usos de la IA, la Asociación para el Progreso de las Comunicaciones señaló que la manipulación de la información sobre mujeres, también conocida como gendered disinformation, no es un fenómeno nuevo. La presencia de nuevos espacios como las redes sociales logró intimidar, dañar, silenciar aún más a las feminidades. Nos enfrentamos a un escenario en el que se refuerzan prejuicios y barreras estructurales que impiden la igualdad de género.
APC también destaca que la manipulación de la información no afecta únicamente a mujeres, sino a temáticas que pueden resultar relevantes para la agenda feminista. El caso de Greta Thunberg resulta representativo de esto. Así la difusión de noticias falsas o “fake news” promueve narrativas antidemocráticas que conducen al abandono de agendas públicas a favor de los derechos humanos.
En momentos de polarización política, los estados y organismos no gubernamentales tienen la tarea de enfrentar la infodemia desde una perspectiva de género. Esto no significa creer que un discurso es “verdadero” solo porque una mujer lo dice, como muchos detentores acusan, sino fomentar espacios de pluralidad que garanticen el pleno ejercicio de la libertad de expresión.
Como usuarias también podemos tratar de detectar si un contenido es falso o no. Entre los pasos que podemos seguir están: la observación minuciosa de la imagen o video, atendiendo a los posibles errores, la verificación de la fuente, es decir, la búsqueda del contenido en diversos medios de comunicación y la utilización de herramientas como AI- Image Detector y Real-Time Deepfake Detector.
Fuentes:
https://www.homesecurityheroes.com/state-of-deepfakes/#key-findings
https://www.apc.org/en/project/placing-gendered-disinformation
https://ijnet.org/es/story/cinco-maneras-de-identificar-im%C3%A1genes-manipuladas