Google dice que ha suspendido temporalmente la capacidad de Gemini, su conjunto de modelos insignia de IA generativa, para generar imágenes de personas mientras trabaja en la actualización del modelo para mejorar la precisión histórica de los resultados.
en un correo En la plataforma de redes sociales X, la compañía anunció lo que presentó como una “pausa” en la generación de imágenes de personas, y escribió que está trabajando para abordar “problemas recientes” relacionados con imprecisiones históricas.
“Mientras hacemos esto, vamos a pausar la generación de imágenes de personas y pronto volveremos a publicar una versión mejorada”, añadió.
Google lanzó la herramienta de generación de imágenes Gemini a principios de este mes. Sin embargo, han ido encontrando su camino ejemplos de generación de imágenes incongruentes de personajes históricos. en las redes sociales En los últimos días, como las imágenes de los Padres Fundadores de Estados Unidos representados como indios americanos, negros o asiáticos, generaron críticas e incluso ridículo.
Escribiendo en una publicación sobre LinkedIn, el capitalista de riesgo con sede en París, Michael Jackson, se unió hoy al grupo, calificando la IA de Google como “una parodia DEI sin sentido”. (DEI significa ‘Diversidad, Equidad e Inclusión’).
En un anterior publicar en X ayer, Google confirmó que estaba “consciente” de que la IA estaba produciendo “inexactitudes en algunas representaciones históricas de generación de imágenes”, y agregó en un comunicado: “Estamos trabajando para mejorar este tipo de representaciones de inmediato”. La generación de imágenes Al de Géminis genera una amplia gama de personas. Y eso, en general, es algo bueno porque la gente de todo el mundo lo usa. Pero aquí no da en el blanco”.
Las herramientas de IA generativa producen resultados basados en datos de entrenamiento y otros parámetros, como los pesos del modelo.
Estas herramientas se han enfrentado con mayor frecuencia a críticas por producir resultados sesgados en formas más estereotipadas, como Imágenes abiertamente sexualizadas de mujeres. o respondiendo a indicaciones de roles laborales de alto estatus con imágenes de hombres blancos.
Una herramienta anterior de clasificación de imágenes mediante IA creada por Google causó indignación en 2015, cuando clasificó erróneamente a los hombres negros como gorilas. La empresa prometió solucionar el problema pero, como cableado Como se informó unos años más tarde, su “solución” fue pura solución alternativa: Google simplemente bloqueó la tecnología para que no reconociera a los gorilas.