SESGOS, RIESGOS Y OPORTUNIDADES PARA UN FUTURO MÁS INCLUSIVO
En el marco del evento IAB NOW, realizado recientemente en Buenos Aires, decidí abordar un tema que convoca tanto a las marcas como a la sociedad: los sesgos de la inteligencia artificial. Elegí deliberadamente de modo provocativo, hablar de 'sexo' en lugar de 'género' porque es allí donde se abre un debate cultural más amplio. Muchas empresas se encuentran hoy en la encrucijada de definir si deben sostener áreas de diversidad y género, o si ese terreno ya no es parte de la agenda de la forma en la que se venía tratando.
DE DÓNDE VENIMOS: LA REPRESENTACIÓN EN LA PUBLICIDAD
Durante décadas, la publicidad fue uno de los espejos más visibles de los cambios (y también de las persistencias) en la representación de género. Si observamos el recorrido de los últimos 60 años, la imagen de la mujer pasó de estar anclada en la cocina y la familia a una representación mucho más diversa. Al consultarlo en diferentes estudios en estos últimos años, casi 9 de cada 10 personas consideran positivo este cambio respecto de la época de sus padres.
Sin embargo, persisten tensiones. El 98% de los padres reconoce criar a sus hijos de una manera distinta a como ellos fueron criados, incorporando igualdad de responsabilidades (78%), tolerancia (73%) y autonomía. Pero todavía hay diferencias: se busca transmitir a las hijas que sean 'respetadas y emocionalmente fuertes', mientras que a los hijos se los orienta hacia ser 'hombres de bien, sinceros y bondadosos'. Es decir, aún se considera que los varones no van a necesitar este refuerzo en la crianza, que ya tienen más herramientas para ser respetados, y hacia las hijas mujeres, menos preocupación por lograr que sean bondadosas. Los estereotipos no desaparecieron. Como advierte Yuval Noah Harari en *Sapiens*, las narrativas son 'realidades imaginadas', que moldean comportamientos. Y la IA, como nueva narrativa tecnológica, hereda y amplifica esos imaginarios.
.png)
IA Y SESGOS: LO QUE QUEDA POR APRENDER
La inteligencia artificial aprende de datos, y cuando esos datos están sesga- dos, la IA amplifica desigualdades. Como señaló Zinnya del Villar (ONU Mujeres), los sistemas reproducen sesgos de género si no se entrenan con información diversa. Ejemplos abundan:
• Voces femeninas: la mayoría de los asistentes virtuales tienen voz de mujer. La explicación es comercial: 'la voz femenina convierte más', ase- gura un estudio de Fast Company. Pero este fenómeno corre el riesgo de normalizar la docilidad como atributo femenino.
• Imágenes generadas por IA: herramientas como Stable Diffusion sobre- rrepresentan varones, sexualizan a mujeres y subrepresentan minorías étnicas. La falta de visión inclusiva erosiona la conexión con las audien- cias y daña la reputación de marca.
• Lenguaje: según UNESCO, las mujeres son asociadas hasta cuatro veces más que los varones a palabras como 'hogar', 'familia' e 'hijos'.
INICIATIVAS QUE MARCAN EL CAMINO
A nivel global, comienzan a surgir proyectos que buscan corregir estos sesgos:
• Black Girl AI: iniciativa que empodera a niñas negras y morenas de 8 a 12 años para que se conviertan en líderes tecnológicas.
• Unstereotype Alliance: alianza promovida por ONU Mujeres que reúne a empresas globales (en Argentina participan Unilever, Avon, Diageo, Glo- bant, Mastercard, entre otras) para eliminar estereotipos en publicidad.
.png)
• Women in AI Ethics: red internacional de académicas, desarrolladoras y líderes que trabajan para crear una IA más justa, centrada en la equidad de género.
RETROCESOS Y BACKLASH
El avance no está garantizado. En EE. UU., la administración Trump impulsó una ofensiva contra las políticas de diversidad, equidad e inclusión (DEI), lo que llevó a empresas a revisar o incluso desmantelar iniciativas de género y diversidad. En Espa- ña, más de la mitad de la población cree que el feminismo 'ha ido demasiado lejos', pese a que las estadísticas evidencian la persistencia de violencia de género, brechas salariales y techos de cristal. El clima social polarizado se traduce en un 'backlash' que también toca a la industria cultural: se han cancelado algunos contenidos con temáticas de diversidad, se cuestiona si las marcas deben enfocarse en estas temáticas o si ya no es parte de su rol en la sociedad.
EL ROL DE LAS MARCAS: RESPONSABILIDAD Y OPORTUNIDAD
La publicidad no sólo vende productos: también transmite modelos de sociedad. El 70% de los padres declara que aprovecha las publicidades para hablar con sus hijos sobre lo que consideran correcto o incorrecto. Por eso, las marcas tienen una responsabilidad en la formación de las nuevas generaciones, al transmitir imaginarios y modelos de roles.
HACIA DÓNDE VAMOS: PREGUNTAS CLAVE
La investigación de mercados y la opinión pública tienen un papel esencial en esta conversación. Preguntas como: ¿cómo reflejan nuestras campañas los estereotipos de género?, ¿qué sesgos debemos corregir en las herramientas de IA que utilizamos? son hoy más urgentes que nunca.
La IA estará cada vez más dentro de los hogares, trabajos, escuelas, juegos y con- tenidos, por eso resulta clave estar advertidos y ser parte de la solución. La IA inclusiva puede ser también más eficaz para llegar a las audiencias. Para lograrlo, se recomienda:
1. Usar datasets diversos y representativos.
2. Mejorar la transparencia algorítmica.
3. Garantizar diversidad en los equipos de desarrollo.
4. Adoptar marcos éticos sólidos.
5. Incorporar políticas sensibles al género en el diseño de sistemas de IA.
Antoine de Saint-Exupéry escribió: 'Una persona se descubre cuando se mide con un obstáculo'. Lo mismo vale para las empresas y las marcas. La IA es ese obstáculo y, a la vez, esa oportunidad. Podemos elegir entre perpetuar los sesgos del pasado o construir un futuro más inclusivo. Pero ese futuro no se definirá en laboratorios ni en algoritmos: se juega en los discursos que las marcas eligen amplificar, en la creatividad que proyectan y en las narrativas que legitiman o transforman. La responsabilidad es enorme, porque la publicidad sigue siendo un espejo social. La responsabilidad es nuestra, de las per- sonas que decidimos qué uso le damos, cómo corregimos, cómo diseñamos, y qué imagen de futuro vamos a transmitir. Las compañías que comprendan que la IA no es sólo tecnología sino relato —y que ese relato debe ser justo, plural y humano— serán las que estarán más preparadas para mantener con su coherencia y sintonía, la confianza y relevancia. En un mundo saturado de mensajes, la verdadera innovación será construir narrativas que incluyan, inspiren y acompañen a las próximas generaciones.
.png)
.png)
Fundadora & CEO
Consultora de Investigación y Tendencias Insight250 Winner 2021/22/23
Insight250 Legend 2023
Miembro del Council de ESOMAR
