Google se disculpó el viernes diciendo que su equipo “se equivocó” con una nueva función de generación de imágenes para su Chatbot IA Géminis Después de que varias imágenes creadas sin personas blancas se volvieran virales. Un ejecutivo de la empresa negó firmemente que quisiera deliberadamente que Gemini negarse a crear imágenes de cualquier grupo particular de personas.
“Esto no era lo que pretendíamos. No queríamos que Gemini se negara a crear imágenes de ningún grupo en particular. Y no “Quiero que cree imágenes históricas o de cualquier otro tipo inexactas”, dijo el vicepresidente senior de Google, Prabhakar Raghavan.
en un publicación de blog, Raghavan—quien supervisa las áreas de la compañía que generan la mayor de su dinero, incluyendo La Búsqueda de Google y su negocio de anuncios— admitió claramente que el generador de imágenes de Gemini “se equivocó” y que la empresa intentaría hacerlo mejor. Mucha gente estaba indignada por Las imágenes históricamente inexactas de Géminis Soldados nazis negros y vikingos negros así como su aparente negativa a generar imágenes de personas blancas, que algunos consideraron racista.
Según Raghavan, todo esto sucedió porque Google no quería que Gemini cometiera los mismos errores que otros generadores de imágenes habían cometido en el pasado, como la creación de imágenes violentas, sexualmente explícitas y representaciones de personas reales.
“Entonces, ¿qué salió mal? En resumen, dos cosas. En primer lugar, nuestro ajuste para garantizar que Géminis mostrara una variedad de personas no tuvo en cuenta para casos que deben claramente no muestra un rango”, escribió Raghavan, enfatizando el suyo. “Y en segundo lugar, con el tiempo, el modelo se volvió mucho más cauteloso de lo que pretendíamos y se negó a responder ciertas indicaciones por completo, interpretando erróneamente algunas indicaciones muy anodinas como sensibles”.
El vicepresidente de Google continuó diciendo que estos dos factores hicieron que Gemini compensara excesivamente en algunos casos y fuera demasiado conservador en otros. , condujo a la creación de imágenes que eran “vergonzosas y equivocadas”.
Google desactivó la capacidad de Gemini para generar imágenes de personas el jueves y dijo que lanzaría una versión mejorada pronto. Sin embargo, Raghavan pareció para poner en duda la parte “pronto”, diciendo que la empresa trabajaría para mejorar significativamente la característica mediante pruebas exhaustivas antes de activarla. de nuevo en.
Raghavan declaró que no podía prometer que Gemini no produciría resultados más vergonzosos, inexactos u ofensivos en el futuro, pero agregó que Google continuaría interviniendo para arreglarlo.
“Una cosa a tener en cuenta: Gemini está diseñado como una herramienta de creatividad y productividad, y puede que no siempre sea confiable, especialmente cuando se trata de generar imágenes o texto sobre eventos actuales, noticias en evolución o temas candentes, cometerá errores”, dijo Raghavan.
Este contenido ha sido traducido automáticamente del material original. Debido a los matices de la traducción automática, pueden existir ligeras diferencias. Para la versión original, haga clic aquí.
