Sesgo en el bot: relación de la IA con la violencia de género

A medida que la inteligencia artificial sigue transformando nuestro mundo, surgen una serie de preguntas críticas: ¿Quién determina el desarrollo de la IA y qué impacto tiene su influencia? 

Por un lado, la IA ofrece un potencial revolucionario para combatir la violencia de género, desde la identificación de sistemas sesgados en el mundo real hasta el apoyo a las supervivientes. Por otro, amplifica y automatiza los prejuicios de sus creadores humanos, exacerbando a menudo los mismos problemas que podría ayudar a resolver.

Prejuicios de género en el desarrollo de la IA

Los sistemas de IA aprenden de datos generados, seleccionados y etiquetados por humanos. Esto significa que la IA sólo puede ser tan neutral como las personas que la diseñan. Lo reconozcamos o no, todos absorbemos e interiorizamos prejuicios del mundo que nos rodea; inevitablemente, estos prejuicios también se trasladan a los sistemas de IA que se integran en nuestra vida cotidiana. Y, dado que menos de una cuarta parte de los profesionales de la IA y la ciencia de datos son mujeres, el propio campo carece de diversidad crítica, lo que garantiza que sean predominantemente las perspectivas masculinas las que guíen los procesos de toma de decisiones de la IA.

Las consecuencias pueden ser de gran alcance. Los algoritmos refuerzan los estereotipos de género, desde las herramientas de contratación que clasifican mejor a los candidatos masculinos hasta los algoritmos de las redes sociales que amplifican el contenido misógino. La IA, en lugar de servir como herramienta imparcial, puede convertirse en un reflejo de los sistemas sociales en los que se crea.

La IA como herramienta para hacer daño

La Convención sobre la Eliminación de la Discriminación contra la Mujer ha calificado la violencia digitalizada como la "categoría más nueva de violencia de género". A medida que la IA se acelera, la naturaleza de la violencia de género evoluciona. Uno de los avances más preocupantes es el uso de la IA generativa para perpetuar el abuso basado en imágenes. En 2023, el 98% del contenido deepfake no consentido era de naturaleza sexual, y el 99% de los afectados eran mujeres. La IA generativa ha facilitado la creación y distribución de contenidos explícitos no consentidos, victimizando a más mujeres y desensibilizando potencialmente a otros ante la violencia digital.

Las herramientas basadas en IA también facilitan la propagación de la desinformación y el acoso en línea. Los algoritmos diseñados para fomentar la participación suelen dar prioridad a los contenidos incendiarios o nocivos, dando más visibilidad a la ideología misógina.

¿Se puede utilizar la IA para hacer el bien?

A pesar de estos retos, la IA también presenta oportunidades para abordar la violencia de género. Por ejemplo, se están desarrollando chatbots con IA para conectar a las supervivientes con los servicios de apoyo, mientras que otros les ayudan a navegar por sus opciones legales. 

La IA también se está aprovechando para identificar patrones de parcialidad y discriminación, arrojando luz sobre las desigualdades en el empleo, la sanidad y los sistemas jurídicos. Algunas herramientas incluso emplean la IA para detectar y eliminar imágenes no consentidas de los espacios digitales, ofreciendo nuevas formas de combatir el abuso en línea de manera más eficiente. 

El camino a seguir

El futuro de la inteligencia artificial es inevitable, pero podemos darle forma. La IA es una fuerza poderosa que puede aprovecharse para reducir o reproducir los prejuicios y las desigualdades de género. A medida que avanzamos, debemos impulsar sistemas de IA éticos, construidos para reducir, en lugar de reproducir, las desigualdades de género.

Para saber más sobre las intersecciones entre tecnología y abusos, únete a nosotros el 4 de marzo de 2025 en la NO MORE Week Tech. Summit. Este evento gratuito en línea contará con paneles de expertos que explorarán los problemas más acuciantes que están transformando el panorama de los abusos y ofrecerán soluciones prácticas para crear espacios digitales más seguros. Juntos, podemos decir "NO MÁS" al abuso facilitado por la tecnología y construir un futuro en el que todos puedan prosperar, libres de daño.

Vayamos más allá de la concienciación: creemos el cambio.