La importancia de incluir la perspectiva de género en la inteligencia artificial (IA) es clave. Esta disciplina tiene un perfil masculino destacado, más del 80 % de personas encargadas, tanto de los roles técnicos como de la toma de decisiones, son hombres
Imagen generada por IA.
En la Universidad de Santiago de Compostela han constatado en un estudio la posibilidad de que los sistemas de Inteligencia Artificial (IA) contengan sesgos de género. Las autoras creen que se debería comenzar en la enseñanza universitaria para que sean conscientes de las consecuencias sociales y tengan la capacidad de desarrollar estructuras más justas.
Irrupción de la IA en la cultura
La Inteligencia Artificial está cada vez más presente en la vida cotidiana y propone redefinir los ámbitos del audiovisual y la cultura. Gracias a este sistema, se ha logrado desarrollar herramientas de edición y métodos de producción de imágenes o guiones. En definitiva, la IA es capaz de generar, distribuir y consumir contenido.
El Instituto de la Mujer ha advertido en un documento llamado «Informe preliminar con perspectiva interseccional sobre sesgos de género en la Inteligencia Artificial» que es una tecnología que reproduce patrones sociales y culturales que han discriminado desde siempre a la mujer y otros colectivos. No es una técnica neutra, ya que los primeros parámetros introducidos ya estaban sesgados.
La representación igualitaria en pantalla y las oportunidades detrás de ella son consecuencias que pueden surgir debido a la falta de diversidad y la ausencia de marcos éticos. Para entender los desafíos que se presentan en este contexto es necesario analizar cómo influye en el medio audiovisual. Además, se podría evitar que las narrativas mantengan la brecha de género que se está intentando suprimir.
Una perspectiva masculina
La mayoría de los encargados de diseñar estas tecnologías son hombres e influyen en la forma en la que se construyen los algoritmos y los valores que incorporan. Esto se traduce en la conservación de estereotipos machistas y puertas abiertas a una violencia digital contra las mujeres. Durante la jornada inaugural del MWC 2024 de Barcelona, la subdirectora de la UNESCO, Gabriela Ramos, declaró para EFE que menos del 20 % mujeres trabajan en el entrenamiento de los algoritmos. Destacó también que «la IA la están diseñando básicamente hombres blancos, con las consecuencias de falta de diversidad que eso implica».
No se trata solo de un problema demográfico, sino que da a lugar a que la IA no tome en cuenta las necesidades y experiencias de las mujeres. De hecho, el profesor de psicología de la Universidad Abierta de Cataluña (UOC), Ferran Marsa, reconoce que estaría «multiplicando la capacidad» de producir obras de violencia machista digital contra las mujeres. Marsa reconoce que lo que tiene que ver con ellas en la Inteligencia Artificial, en su gran parte, está relacionado con la «cosificación y el sexo».
Leer también
Uno de los ejemplos más claros son los deepfakes, o montajes fotográficos hiperrealistas, que normalmente incluyen contenido explícito no consentido. En el contexto del ámbito audiovisual puede tener efectos muy graves: si los medios usan este instrumento para esquematizar personajes o escenas incluirían, sin intención, aquellos sesgos que refuerzan la brecha de género y la discriminación.
Imagen generada por IA.
El peligro de los ‘deepfakes’
Actualmente nueve de cada diez vídeos de deepfake que circulan por Internet muestran desnudos o actividades sexuales que involucran a mujeres. Esto incrementa el número de contenido falso que repercute en el daño en la reputación de las mujeres y su consecuente humillación. Sus vidas, tanto profesional como personalmente, quedan afectadas y puede generar un miedo real.
La ONG Plan International ha realizado un estudio que refleja el temor que causan las herramientas de Inteligencia Artificial, al 84 % de las chicas adolescentes de entre 12 y 16 años les preocupa que su imagen pueda ser utilizada para contenido sexual falso. En este sentido, el uso de ‘deepfakes’ en el cine, series o plataformas de streaming pueden reforzar estereotipos sexistas e invisibilizar la participación femenina. Incluso puede poner en riesgo a actrices o creadoras del sector.
Aunque la IA, sin duda, permite una infinidad de opciones creativas, también plante desafíos éticos y legales que son importantes analizar para comprender cómo proteger la integridad de las mujeres en todos los ámbitos del género audiovisual.
Los algoritmos en la producción audiovisual
Los avances en las herramientas de la Inteligencia Artificial están transformando la manera en la que se producen obras audiovisuales. Los algoritmos reforman las fases de producción, desde el análisis de audiencia hasta la generación de guiones o efectos visuales. Gracias a la IA, se reduce el tiempo y los costes, y se acercan a un resultado ajustado a los gustos de los espectadores. Sin embargo, se basan en patrones neutrales ya existentes en la industria, por lo que refuerzan la desigualdad de género y los estereotipos presenten en la sociedad.
Por una parte, en la creación de personajes o guiones se tiende a crear roles conservadores: protagonistas masculinos y ausencia de narrativas diversas. Aunque estas tecnologías sean capaces de formular desde cero diálogos y arcos narrativos completos, es probable que siga limitando la presencia femenina. Por otro lado, las decisiones claves del proyecto también están influidas por los algoritmos, ya que si están liderados por mujeres o sus ficciones se enfocan en temas de género pueden tener menor potencial de éxito, basándose en datos históricos.
Investigadores de la Universidad de Cambridge han expuesto que sostener estereotipos culturales y continuar sin dar visibilidad a la representación de las mujeres contribuye a la contratación en el sector y las aspiraciones profesionales. La doctora Kanta Dihal, coautora del estudio, avisa del cuidado que deberíamos tener como sociedad porque se pueden convertir en una «profecía autocumplida a medida que entramos en la era de la inteligencia artificial».
