Google отправила на доработку генератор изображений в своем чат-боте Gemini. Теперь в ней невозможно создать картинку человека — появляется сообщение о том, что функция недоступна. Все дело в том, что Google пыталась обойти распространенную проблему генеративного ИИ — расовую и гендерную дискриминацию. И в итоге несколько перестаралась.
Так, на запрос «Создай американских сенаторов 1800-х годов» чат-бот выдал 4 картинки с темнокожими и коренными американками. Хотя первая женщин-сенатор была белой и заняла пост лишь в 1922 году.
В итоге пользователи начали жаловаться на то, что Gemini искажает историю и стирает упоминания о дискриминации, царившей на протяжении столетий. Менее чем через сутки после первых жалоб Google отправила сервис на доработку.
