☰
︎

Google продолжает выступать в защиту своего ИИ-поисковика, выдающего странные и даже опасные ответы

Нейросеть давала не только странные, но и опасные рекомендации: например, есть камни и приклеивать сыр к пицце
31 мая 2024, пятница 22:25
[Zero] для раздела Блоги

Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта

Как сообщает The Verge, глава поискового подразделения корпорации Google Лиз Рид написала пост в защиту генеративного ИИ, встроенного в поисковик, заявив, что причина странных и даже опасных ответов и рекомендаций, которые он выдает, кроется в недостатке данных, а также в самих формулировках запросов, к которым прибегают пользователи. Напомним, что среди советов, которые выдала нейросеть, присутствуют такие: приклеивать сыр к пицце, чтобы тот не соскальзывал, есть камни, а также бегать с ножницами в качестве кардиотренировки.

По мнению Лиз Рид, миллионы людей используют ИИ-поисковик и полностью удовлетворены его работой. Те же комментаторы, что пишут о странных и могущих представлять опасность ответах нейросети, согласно заявлению топ-менеджера, регулярно используют «бессмысленные запросы» с целью намеренного получения ошибочных результатов. Как отмечают в сети, возможно, в чем-то госпожа Рид и права, но поисковиками пользуются в том числе дети, а также люди с ограниченными возможностями. Такие пользователи могут воспринимать рекомендации генеративного ИИ как истину в последней инстанции. Возможно, верным на данном этапе шагом для Google было бы дать возможность использовать ИИ-поисковик только в рамках бета-тестирования и только пользователям, подтвердившим свой возраст и согласившимся принять на себя риски, связанные с неверными ответами, выдаваемыми системой.