Современные системы биологической защиты не справляются с угрозами, которые создает искусственный интеллект. Компьютерные модели уже проектируют опасные последовательности ДНК, оставаясь невидимыми для проверочных алгоритмов.

Биотехнологические компании проверяют заказы на синтез ДНК через специальные программы. Эти системы сверяют новые генетические последовательности с каталогом известных патогенов. Но защита срабатывает только против уже изученных угроз.

Специалисты Microsoft проверили границы такой защиты. Они взяли общедоступные программы ИИ и создали 76 тысяч модификаций опасных белков, включая рицин. Ученые не синтезировали реальные вещества — только подготовили генетические инструкции. Потом эти последовательности отправили на проверку в четыре разные системы. Значительная часть созданного ИИ прошла все фильтры. Программы безопасности просто не заметили угрозу.

После обнаружения пробелов начали работу над улучшениями. Вместе с производителями защитного ПО обновили базы данных и перенастроили алгоритмы. Новые версии программ нашли уже 97% опасных последовательностей.

Полной защиты все равно нет. Три процента угроз остались нераспознанными. При этом поведение таких белков в реальных условиях не изучено — все тесты проходили в компьютерных моделях.

Ситуация напоминает бесконечную гонку. Разработчики защитных систем вынуждены постоянно улучшать алгоритмы, пытаясь угнаться за развитием ИИ. Как вакцины адаптируются к новым штаммам вирусов, так и системы биобезопасности требуют постоянных доработок.