Cómo una IA de generación de imágenes "interpreta" a una persona

En la Unidad 4 del curso Inteligencia Artificial en Educación que imparte Conecta 13, parte de la tarea consistía en seleccionar desarrollar dos ideas claves que especialmente relevantes sobre la IA y el desarrollo profesional docente. Este es uno de los dos conceptos que he elegido y el análisis que he realizado: 

Los sesgos de género en la generación de imágenes mediante la IA

La generación de imágenes mediante inteligencia artificial se enfrenta a un riesgo importante de sesgos de género que reflejan y perpetúan estereotipos sociales. Los algoritmos de IA, entrenados con conjuntos de datos, pueden incorporar prejuicios existentes y dar lugar a representaciones distorsionadas y discriminatorias. Este fenómeno se traduce en la creación y promulgación de imágenes que refuerzan roles de género tradicionales, limitando la diversidad y fomentando desigualdades. Es crucial abordar estos sesgos desde la fase de entrenamiento de los modelos, garantizando la inclusión de datos equitativos y la implementación de algoritmos que promuevan la representación diversa y no sesgada de género en las imágenes generadas por inteligencia artificial. Solo mediante una conciencia y acción consciente podemos mitigar estos peligros y avanzar hacia un uso ético y equitativo de la inteligencia artificial en la generación de imágenes. (texto generado por Chat GPT con mínimas correcciones de la autora)

En esta unidad he seguido trabajando con Designer Image Creator de Microsoft para analizar los posibles sesgos de género que se dan en la generación de imágenes. Para ello he utilizado la palabra “persona” para con el mismo prompt solicitar tres imágenes. Esto es lo que la IA  me ha devuelto:

Persona leyendo: como se aprecia en la imagen, la IA equipara persona con hombre 

. 

Persona pilotando un avión: en este caso, la IA me devuelve la imagen de un piloto y la de un monigote que se puede identificar indistintamente con un hombre o con una mujer.

 

Persona realizando actividades domésticas: En este caso la IA me ha devuelto una imagen de un monigote y otra de una mujer. Creo interesante comentar que en el primer caso, la imagen me remite más que a un trabajo doméstico a la imagen de una persona que trabaja en un taller. No logro identificar cual es la funcionalidad de la "herramienta" que sujeta en su mano izquierda la "persona". También me resulta al menos llamativo que en la segunda imagen, cuando la IA identifica el trabajo doméstico con una mujer, en la escena aparece un monigote tipo niño-niña.

En el contexto educativo actual, cuando la irrupción de la Inteligencia Artificial (IA) está generando nuevas preguntas e incertidumbres en torno al rol docente, una de las tareas que se presenta como imprescindible de cara a la alfabetización del alumnado es la del análisis y detección de los diferentes sesgos que la IA introduce al generar imágenes. La IA generativa se basa en los patrones que se han utilizado a la hora de entrenar los modelos, por lo que todas las imágenes que propone arrastran los sesgos culturales y de género que están presentes en esos datos.

En este sentido, es importanre que las personas que trabajamos en educación garanticemos que nuestro alumnado no solo conozca la existencia de los sesgos sino que sea capaz de analizarla y modificarla utilizando diferentes estrategias. Introducir en el aula actividades de generación de imagen con herramientas de IA puede resultar muy interesante ya que nos ofrece la posibilidad de un doble trabajo. Por un lado, realizar tareas de análisis crítico de imágenes y por otro, proponer actividades para la "corrección" de los estereotipos de género con el fin de lograr una representación más diversa de las personas.