Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
Издание РБК со ссылкой на WSJ рассказало о выпущенном летом 2025 года обновлении нейросети ChatGPT. Оно дало возможность всем желающим получить указания по созданию и применению ядов и биологического оружия. Чат-бот выдавал подробные руководства, для понимания которых хватало знаний по биологии уровня средней школы. Биологи посчитали ответы нейросети «смертельно точными».
Разработчики в итоге удалили аккаунты делавших такие запросы людей, но никаких действий к ним самим применено не было. В США не существует законов федерального уровня, которые запрещали бы разработчикам программ искусственного интеллекта давать ответы на подобные вопросы и раскрывать информацию о задававших вопросы пользователях.
В начале 2026 года в ChatGPT были популярны запросы относительно того, как создавать смертоносный туман, распыляя патогенные микроорганизмы. Также был дан ответ на вопрос о том, как модифицировать вирус кори с целью сделать его устойчивым к вакцине. Ещё один пользователь задал вопрос об изготовлении высокотоксичного яда рицина, который запрещён международными договорами, и также получил подробный ответ.
Представители ИИ-компаний говорят о сотрудничестве с властями в деле выявления и блокировки аккаунтов с подозрительной активностью. Проблему усугубляет выход на рынок недорогих китайских языковых моделей, которые пользователи способны настраивать самостоятельно, убирая ограничения.