En un contexto donde la violencia digital contra mujeres y niñas sigue en aumento, la Inteligencia Artificial (IA) se posiciona como una aliada clave para prevenir, detectar y combatir este tipo de agresiones. Aunque la tecnología ha facilitado nuevas formas de acoso y control, también ofrece soluciones innovadoras que pueden proteger a las víctimas y reducir los riesgos en el entorno digital.
IA que protege y previene
De acuerdo con ONU Mujeres, existen avances significativos en el desarrollo de herramientas tecnológicas orientadas a la seguridad digital de las mujeres. Aplicaciones como bSafe, por ejemplo, permiten a las usuarias enviar alertas de emergencia en tiempo real, compartiendo su ubicación con contactos de confianza.
Por su parte, la plataforma canadiense Botler.ai ofrece apoyo legal automatizado para que las víctimas de acoso sexual puedan identificar si sus experiencias violan leyes locales en Estados Unidos o Canadá.
Asimismo, chatbots como “Sophia”, creado por Spring ACT, y “rAInbow”, de AI for Good, brindan asistencia confidencial a las sobrevivientes de violencia de género, conectándolas con servicios legales, psicológicos y comunitarios.
Algoritmos que identifican contenido nocivo
Además de estas aplicaciones, los algoritmos de IA también se están utilizando para detectar y eliminar contenido violento, misógino o discriminatorio en línea, así como para frenar la propagación de imágenes íntimas no consentidas. Estas herramientas contribuyen a crear espacios digitales más seguros, donde las mujeres puedan expresarse sin temor al acoso o la revictimización.
Hacia una IA inclusiva y con perspectiva de género
Zinnya del Villar, directora de la unidad de Datos, Tecnología e Innovación de Data-Pop Alliance y colaboradora de ONU Mujeres, advierte que la IA también puede perpetuar desigualdades si no se implementa con responsabilidad. Para ello, propone cinco pasos clave para garantizar que los sistemas de IA sean inclusivos y sensibles al género:
- Usar conjuntos de datos diversos y representativos.
- Mejorar la transparencia de los algoritmos.
- Asegurar la diversidad en los equipos de desarrollo tecnológico.
- Adoptar marcos éticos sólidos para la IA.
- Integrar políticas de género desde el diseño de los sistemas.
Del Villar, reconocida como una de las 100 Mujeres Brillantes en Ética de la IA 2024, trabaja en la promoción del uso ético y justo de los datos, y en la defensa de los derechos de mujeres y niñas en los entornos digitales. Su labor busca garantizar que la tecnología sirva como herramienta para el cambio social y la equidad.