ИИ Gemini от Google вызвал споры из-за неточности генерации изображений

Инструмент искусственного интеллекта Gemini компании Google недавно подвергся серьезной критике, особенно на фоне продолжающегося культурного раскола между левыми и правыми. Этот искусственный интеллект, похожий на Google-версию популярного ChatGPT, вызвал споры, когда неточно сгенерировал изображения, например, изобразил афроамериканцев среди отцов-основателей США и немецких солдат времен Второй мировой войны.

После этих ошибок Google принесла извинения и временно приостановила работу инструмента, признав, что "ошиблась". Однако в дальнейшем последовала обратная реакция, когда текстовые ответы Gemini оказались излишне политкорректными, породив противоречивые ответы на щекотливые вопросы.

Корень этих проблем кроется в огромных объемах данных, на которых обучаются инструменты искусственного интеллекта, подобные Gemini, большая часть которых по своей природе несет в себе предубеждения, характерные для интернет-контента. Несмотря на усилия по борьбе с предвзятостью, попытки Google исправить эти проблемы непреднамеренно привели к абсурдным результатам, подчеркивая сложность человеческой истории и культуры, которую машины с трудом постигают без явного программирования.

Хотя Google намерена решить эти проблемы в течение нескольких недель, эксперты предупреждают, что простого решения не существует из-за тонкой природы общественных предубеждений. Предлагается, в частности, запрашивать мнение пользователей о желаемом уровне разнообразия, хотя такой подход вызывает свои сомнения.

Несмотря на значительные ресурсы и таланты Google в области искусственного интеллекта, компания скептически отнеслась к запуску Gemini и последующим ошибкам, как со стороны инсайдеров, так и со стороны наблюдателей. Эта ситуация подчеркивает постоянную борьбу за смягчение предвзятости систем ИИ и необходимость постоянного человеческого контроля при их разработке и внедрении.