La empresa tecnológica suspende la generación de imágenes de personas en su programa Gemini tras críticas por representar inexactamente tropas de la era nazi.
En un giro inesperado, Google ha decidido interrumpir uno de sus servicios de inteligencia artificial (IA) destinado a la creación de imágenes de personas.
La decisión viene tras la controversia generada por la representación inexacta de tropas de la era nazi, mostrando a soldados de diversos orígenes étnicos. Este incidente subraya los desafíos éticos y técnicos que enfrentan las empresas tecnológicas al desarrollar y desplegar sistemas de IA en un espectro tan amplio de aplicaciones.
La polémica se encendió cuando, a través de X (antes conocido como Twitter), un usuario publicó resultados obtenidos del programa Gemini de Google, que, bajo la instrucción de generar imágenes de un soldado alemán de 1943, produjo imágenes de soldados de diferentes etnias y géneros.
Este hecho desató un debate sobre la precisión histórica y la sensibilidad en la generación de contenido por IA.
La iniciativa de Google de incluir un mecanismo de diversidad en sus algoritmos es un reflejo del esfuerzo de la industria por promover la inclusión y evitar sesgos.
Sin embargo, este incidente pone de manifiesto los riesgos de implementar dichas características sin un diseño y pruebas exhaustivas, especialmente en contextos que requieren precisión histórica y cultural.
La suspensión del servicio señala un momento de reflexión para Google y otras empresas tecnológicas sobre la rapidez con la que avanzan en el desarrollo y lanzamiento de productos de IA.
La crítica no es nueva para el gigante tecnológico, que ya enfrentó contratiempos con su chatbot Bard, el cual proporcionó información incorrecta en un anuncio poco después de su lanzamiento.