По данным OpenAI, вскоре неизбежен сценарий, в котором любой желающий сможет воссоздать биологическое оружие с помощью ChatGPT. Йоханнес Хайдеке, ведущий исследователь безопасности в стартапе ИИ, подтвердил это изданию Axios.
По мнению Хайдеке, проблема заключается не в создании совершенно нового биологического оружия. Сообщается, что большие языковые модели становятся всё лучше и лучше в таких научных дисциплинах, как биология или химия. Этот прогресс не только позволяет совершать прорывы в медицине. Даже преступники без предварительных знаний могут использовать технологии для создания соответствующих инструкций на легко понятном языке. Поэтому OpenAI необходимо и дальше совершенствовать проверку и фильтрацию таких подсказок.
«Нам нужна почти идеальная система», — говорит Хайдеке.
Ранее не только независимые критики, но и сами компании, занимающиеся разработкой ИИ, указывали на потенциальную опасность нерегулируемого использования чат-ботов на основе искусственного интеллекта. Например, в марте компания Anthropic предсказала, что ее модели вскоре могут помочь в создании ядерного, биологического и химического оружия. В мае стартап совместно с Claude 4 представит новые механизмы безопасности.
Эти предупреждения компаний, занимающихся ИИ, соответствуют одному из двух основных течений в дискурсе об ИИ. В то время как технооптимисты или бумеры верят в будущее, в котором искусственный интеллект искоренит болезни, ускорит научный прогресс и принесет процветание всем, критики относятся к развитию ИИ со скептицизмом или даже негативно. Это касается как опасений по поводу отсутствия регулирования, так и страхов, что всемогущий ИИ уничтожит человечество.