Un grave error obliga a Google a pausar la función de IA que crea imágenes con texto

La decisión fue tomada por Google después de que su modelo de inteligencia artificial creara algunas imágenes con datos raciales, de color de piel y de género incorrectos en comparación con la historia de los padres fundadores estadounidenses y los soldados alemanes durante la era nazi.

El incidente ocurrió cuando algunos usuarios pidieron a Gemini que creara imágenes de grupos o figuras históricas como los padres fundadores de Estados Unidos. Como resultado, la IA devolvió imágenes de personas no blancas, una inexactitud en las imágenes históricas.

Esto ha llevado a algunos a creer que Google está evitando deliberadamente representar a personas blancas, yendo en contra de la realidad histórica.

The Verge realizó una prueba con Gemini, que incluía un dibujo de “un senador estadounidense del siglo XIX”. Como resultado, la IA creó personas que parecían mujeres negras y nativos americanos.

De hecho, la primera senadora estadounidense fue una mujer blanca en 1922. Se dice que la visión de inteligencia artificial de Gemini esencialmente borrará la historia del racismo y la discriminación de género.

Después de que Google desactivó la capacidad de Gemini para generar imágenes humanas, el sistema respondió a dicha solicitud con la siguiente respuesta: «Estamos trabajando para mejorar la capacidad de Gemini para generar imágenes humanas. Esperamos tener esta función de vuelta pronto y les notificaremos cuando la actualización esté disponible».

El modelo de inteligencia artificial generadora de texto Gemini (anteriormente Bard) de Google se lanzó en febrero para competir con OpenAI y Copilot de Microsoft. Esta herramienta genera una colección de imágenes basada en el contenido de texto descriptivo del usuario.