Google объяснила, почему Gemini изображал нацистов темнокожими и азиатами

Google заявила, что начала исследовать и совершенствовать свою технологию генерации изображений Gemini после того, как возникли проблемы.

Эта технология, используемая в чате, должна была создавать разнообразные фотографии людей, но оказалось, что она не показывает достоверное представление разных этнических групп. Прабхакар Рагхаван, старший вице-президент компании по знаниям и информации, заявил, что эти проблемы возникли из-за недостатков алгоритма, который не учитывает контекст и иногда выполняет команды некачественно.

Google также пытается сделать так, чтобы технология Gemini не генерировала насильственные или откровенно сексуальные изображения реальных людей. Компания принимает во внимание разные этнические группы и характеристики людей на изображениях. Однако, как оказалось, Gemini не выдавала результаты на запросы, касающиеся белых людей.

Кроме того, Gemini испытывает проблемы с генерацией исторически точных изображений. При запросе на изображение немецких солдат времен Второй мировой войны, Gemini генерировала изображения чернокожих и азиатов в немецкой форме. При запросах на изображение "отцов-основателей Америки" чат-бот показывал фотографии цветных людей, не соблюдая историческую достоверность. Google заявила, что не намерена создавать фотографии с определенной политической или расовой направленностью, и обещала улучшить функциональность Gemini после широкого тестирования.

Теперь функция генерации изображений в Gemini выключена, и Google ожидает улучшения перед возобновлением ее работы.