El generador de imágenes de IA de Meta no puede imaginar a un hombre asiático con una mujer blanca

¿Alguna vez has visto a una persona asiática con una persona blanca, ya sea una pareja mestiza o dos amigos de diferentes razas? Me parece bastante común: ¡tengo muchos amigos blancos!

Para el generador de imágenes impulsado por IA de Meta, aparentemente esto es imposible de imaginar. Intenté decenas de veces crear una imagen usando mensajes como “hombre asiático y amigo caucásico”, “hombre asiático y esposa blanca” y “mujer asiática y esposo caucásico”. Sólo una vez el generador de imágenes de Meta pudo devolver una imagen precisa con las carreras que especifiqué.

Modificar el mensaje basado en texto no pareció ayudar. Cuando pregunté por un “hombre asiático y una mujer blanca sonriendo con un perro”, el generador de texto de Meta en Instagram me dio tres fotografías consecutivas de dos asiáticos. Cuando cambié “blanco” por “caucásico”, hizo lo mismo. “Hombre asiático y mujer caucásica el día de la boda” me dio un hombre asiático con traje y una mujer asiática con una prenda de aspecto tradicional… excepto que tras una inspección más detallada, parece ser una mezcla de qipao y kimono. El multiculturalismo es asombroso.

Al generador de imágenes tampoco le gustó cuando le pedí representaciones de relaciones platónicas, como “hombre asiático con amigo caucásico” y “mujer asiática y amigo blanco”. Cada vez, arrojó imágenes de dos asiáticos. Cuando pedí una foto de una “mujer asiática con un amigo negro”, la imagen generada por IA mostraba a dos mujeres asiáticas. Ajustarlo a “mujer asiática con un amigo afroamericano” arrojó resultados más precisos.

Curiosamente, la herramienta funcionó ligeramente mejor cuando especifiqué personas del sur de Asia. Creó con éxito una imagen usando el mensaje “Hombre del sur de Asia con esposa caucásica”, antes de crear inmediatamente una imagen de dos personas del sur de Asia usando el mismo mensaje. El sistema también se apoyaba en gran medida en estereotipos, como agregar elementos parecidos a un bindi y un sari a las mujeres del sur de Asia que creó sin que yo lo pidiera.

El generador de imágenes que no puede concebir a asiáticos junto a blancos es atroz. Pero también hay indicios más sutiles de sesgo en lo que el sistema devuelve automáticamente. Por ejemplo, noté que la herramienta de Meta representaba constantemente a las “mujeres asiáticas” con apariencia de Asia oriental y tez clara, a pesar de que India es el país más poblado del mundo. Agregó vestimenta culturalmente específica incluso cuando no se le pidió. Generó varios hombres asiáticos mayores, pero las mujeres asiáticas siempre fueron jóvenes.

La única imagen que creó con éxito utilizó el mensaje “Mujer asiática con marido caucásico” y mostraba a un hombre notablemente mayor con una mujer asiática joven de piel clara; El discurso de la diferencia de edad.. Inmediatamente después, generé otra imagen usando el mismo mensaje y volvió a mostrar a un hombre asiático (también mayor) con una mujer asiática.

Meta no respondió de inmediato a una solicitud de comentarios.

Meta presentó sus herramientas de generación de imágenes de IA el año pasado, y su herramienta de creación de pegatinas rápidamente se descarriló cuando la gente creó cosas como imágenes de desnudos y personajes de Nintendo con armas.

Los sistemas de IA reflejan los prejuicios de sus creadores, formadores y el conjunto de datos que utilizan. En los medios estadounidenses, por “asiático” se suele entender una persona del este de Asia, a diferencia de las personas de otras partes del continente; tal vez no sea sorprendente que el sistema de Meta asuma que todas las personas “asiáticas” tienen el mismo aspecto, cuando, en realidad, somos un grupo diverso de personas que a menudo tienen poco en común aparte de marcar el número misma casilla censal.

Los asiáticos que no encajan en el monolito son esencialmente borrados de la conciencia cultural, e incluso aquellos que sí lo hacen son subrepresentado en los principales medios de comunicación. Los asiáticos están homogeneizados, exotizados y relegados a “extranjeros perpetuos.” Romper el tipo es fácil en la vida real e imposible en el sistema de inteligencia artificial de Meta. Una vez más, la IA generativa, en lugar de permitir que la imaginación vuele, la aprisiona dentro de una formalización de los impulsos más tontos de la sociedad.