Google удалила свою модель искусственного интеллекта Gemma с открытым исходным кодом с платформы AI Studio после того, как сенатор-республиканец пожаловалась на сфабрикованные уголовные обвинения, якобы выдвинутые против неё с помощью этой модели.
Google подчеркнула, что Gemma никогда не предназначалась как инструмент для потребителей или для ответов на фактические вопросы. Во избежание недоразумений доступ к Gemma через AI Studio больше не предоставляется. Разработчики по-прежнему могут использовать модель через API.
В конце прошлой неделе сенатор Марша Блэкберн от штата Теннесси написала генеральному директору Google Сундару Пичаи, обвинив компанию в клевете и предвзятости. ИИ-модель утверждала, что в 1987 году во время своей предвыборной кампании в Сенат штата её обвинили в неподобающих отношениях с полицейским, который заявил, что она оказывала на него давление, чтобы он выдавал ей рецептурные препараты, и что эти отношения включали в себя действия, совершаемые без согласия. Модель также предоставила в качестве доказательства список сфабрикованных новостных статей.
По словам Блэкберн, всё это неправда, даже год выборов, который на самом деле был 1998. Приведённые ссылки вели на страницы с ошибками и нерелевантные статьи. Такого обвинения никогда не было, как и упомянутого человека, и соответствующих новостных статей.
Этот инцидент выявляет хорошо известную проблему: несмотря на годы развития в области генеративного ИИ, модели по-прежнему неточны. Ложные или вводящие в заблуждение ответы, представленные как факты, остаются проблемой для отрасли. Google заявила, что по-прежнему «стремится минимизировать галлюцинации и постоянно совершенствует все модели».