Google suspende Gemini por error con imágenes nazistas

La nueva IA de Google cometió un error que significó su suspensión inmediata por parte de la compañía.

El gigante de la tecnología Google ha tomado la decisión de suspender temporalmente su servicio de generación de imágenes mediante inteligencia artificial, conocido como Gemini, luego de un incidente en el cual el programa produjo imágenes de tropas nazis representadas como personas de diversos orígenes étnicos.

El 8 de febrero, Google lanzó una nueva versión mejorada de su servicio de generación de imágenes por texto, Gemini. Un usuario solicitó al nuevo Gemini que generara una imagen de un soldado alemán de 1943 en la Segunda Guerra Mundial, y la IA respondió generando imágenes de soldados de diferentes orígenes étnicos, blancos, asiáticos e incluso personas de tez oscura.

Razones de la suspensión de Gemini

Google reconoció la existencia de estos «problemas recientes» relacionados con la función de generación de imágenes por texto del nuevo Gemini. Ante esto, la empresa ha optado por suspender temporalmente el servicio con el objetivo de abordar y solucionar estos problemas antes de su reintroducción.

Este incidente plantea preguntas sobre cómo se preparan las IA para su implementación en el mundo real sin supervisión humana. Aunque las empresas tecnológicas ven la IA como el futuro para diversas aplicaciones, este error destaca que aún existen desafíos relevantes en el desarrollo y la utilización de la inteligencia artificial de manera segura y ética.

Google ha emitido disculpas públicas por el error y ha expresado su compromiso de seguir trabajando en mejoras para la función de generación de imágenes de texto de Gemini. La empresa tiene la intención de reintroducir Gemini «pronto» después de abordar todos estos problemas identificados.

Este incidente nos recuerda los límites de la IA y la necesidad de un desarrollo y uso responsables de esta tecnología. La supervisión humana se presenta como un componente esencial para prevenir errores y garantizar la ética en la implementación de sistemas de inteligencia artificial.

Próximos pasos

Google deberá resolver todos los problemas identificados con Gemini antes de relanzar nuevamente el servicio. Este episodio destaca la necesidad de una mayor cautela y consideración en el desarrollo e implementación de la IA en el futuro, recordándonos que la inteligencia artificial aún tiene un largo camino por recorrer antes de ser utilizada de manera segura y confiable sin supervisión humana.

Inteligencia Artifical

Usted está aqui: Inicio > Google suspende Gemini por error con imágenes nazistas