В современном обществе искусственный интеллект (ИИ) в основном используется для благих целей…   А что, если нет?  

Этот вопрос задали себе исследователи из Collaborations Pharmaceuticals, когда проводили эксперименты с использованием искусственного интеллекта, предназначенного для поиска лекарственных препаратов. Они настроили ИИ на поиск химического оружия, в результате чего алгоритм машинного обучения всего за шесть часов предложил 40 000 возможных вариантов, говорится в статье, опубликованной в журнале Nature Machine Intelligence в этом месяце.

Наивный подход

"Эта мысль никогда раньше не приходила нам в голову. Мы смутно знали о проблемах безопасности при работе с патогенами или токсичными химикатами, но это нас никогда не касалось; мы работаем в основном в виртуальной среде. Наша работа связана с построением моделей машинного обучения для терапевтических и токсичных мишеней, чтобы более эффективно разрабатывать новые молекулы для создания качественных лекарственных препаратов", - пишут исследователи в своей статье.

"Мы потратили десятилетия на использование компьютеров и искусственного интеллекта для улучшения здоровья человека, а не для его разрушения. Мы были наивны, думая о потенциальном злоупотреблении нашей профессией, поскольку мы всегда стремились исключить молекулярные особенности, которые могли помешать работе самых разных белков, необходимых для нормальной жизнедеятельности человека".

Исследователи заявили, что даже их работа над лихорадкой Эбола и нейротоксинами, которая могла бы вызвать опасения по поводу возможных негативных последствий, не вызвала такой тревоги. “Мы пребывали в полном неведении относительно того, какой вред могут нанести подобные модели машинного обучения“.

Как проходил их эксперимент?

Все необходимые алгоритмы для прогнозирования токсичности были уже разработаны ранее. Специалистам оставалось лишь заменить знак "плюс" на знак "минус". Другими словами, модифицировать технологию таким образом, чтобы ИИ не отбрасывал токсичные варианты, а наоборот отслеживал и классифицировал их. В результате учёные  получили модель, которая превратилась в вычислительное доказательство концепции создания биохимического оружия.

Данный эксперимент - наглядное свидетельство того, почему ученым необходимо более внимательно следить за моделями искусственного интеллекта и более тщательно обдумывать потенциальные последствия своей работы.

Источники:
https://www.nature.com/articles/s42256-022-00465-9