В интервью изданию The Register гендиректор Waterline Development Дерек Беднарски (Derek Bednarski) рассказал, что ошибки в рекомендациях моделей искусственного интеллекта стоили компании четырех месяцев работы и значительных финансовых затрат.

Проблема возникла в ходе разработки устройства для опреснения воды, которое функционирует по принципу водяного аккумулятора – зарядка элемента будет удалять из воды ионы, такие как соль. 

Специалисты компании выбирали между углеродной тканью и литыми углеродными электродами. Команда изучала научные статьи и проверяла выводы через AI-платформы вроде Grok и ChatGPT, в результате выбрали углеродную ткань, основываясь на данных из научных статей и рекомендациях ИИ. 

                                                                   Изображение - ChatGPT

Однако в ходе испытаний выяснилось, что этот материал обладает низкой проводимостью, задерживает воду и имеет ограниченный срок службы. В результате компания потратила четыре месяца и 200 тысяч долларов на проверку материала, который в итоге оказался непригодным для масштабного использования.

Руководитель компании отметил, что коммерческие модели ИИ часто выдают правдоподобные, но неточные ответы, особенно в междисциплинарных исследованиях. Подобные ошибки могут приводить к серьезным финансовым и временным потерям, особенно в научных и технических проектах.