Развитие искусственного интеллекта идет семимильными шагами, но вместе с ним растут и опасения. Илья Суцкевер, соучредитель и бывший главный научный сотрудник OpenAI, выступил с резким предупреждением об опасностях следующего поколения ИИ: «Сверхразумный искусственный интеллект будет неконтролируемым, автономным и непредсказуемым».

По словам эксперта, мы вот-вот переступим порог, за которым эти технологии станут не только более совершенными, но и более автономными и непредсказуемыми, что создаст беспрецедентные проблемы и угрозы безопасности.

Илья Суцкевер - ключевая фигура в разработке ChatGPT, а после ухода из Open AI он основал Safe Superintelligence Inc. (SSI), организацию, занимающуюся контролируемым и безопасным развитием ИИ. 

Он утверждает, что следующее поколение ИИ будет не только более мощным, но и радикально другим. В своем недавнем выступлении на конференции NeurIPS эксперт выделил три ключевые характеристики, которыми будет отмечена эта эволюция.

Искусственные интеллекты будущего смогут действовать самостоятельно, без постоянного контроля со стороны человека. Кроме того, возрастающая сложность этих систем сделает их действия все более труднопредсказуемыми. Кроме того, хотя это и спорно, Суцкевер не исключает, что эти ИИ в той или иной степени будут обладать самосознанием.

Эти разработки, хотя и многообещающие, открывают дискуссию о возможных последствиях предоставления таким продвинутым системам возможности свободно действовать.

Современный искусственный интеллект характеризуется гонкой между компаниями за лидерство в отрасли, но не все эксперты согласны с таким подходом. Суцкевер покинул OpenAI в мае 2024 года после разногласий с Сэмом Альтманом, генеральным директором компании. 

Альтман выступал за быстрый рост, чтобы оставаться конкурентоспособным, а Суцкевер - за приоритет безопасности, особенно при разработке сверхинтеллектуальных систем.

Предупреждение Суцкевера указывает не только на технические, но и на нравственные проблемы. Возможность создания систем, превосходящих человеческие возможности, поднимает фундаментальные вопросы о контроле, сосуществовании и самом будущем человечества.

На эти вопросы нет простых ответов, но они необходимы в то время, когда технологии развиваются быстрее, чем регулирование и общественные обсуждения.

Развитие ИИ полно перспектив, но также и рисков. Пока такие компании, как OpenAI и SSI, работают в противоположных направлениях, мир внимательно следит за тем, сможем ли мы контролировать создаваемые нами системы или они в конце концов выйдут из-под нашего влияния?

Размышления Суцкевера напоминают нам о том, что искусственный интеллект, каким бы продвинутым он ни был, все равно остается инструментом, созданным людьми. Задача состоит в том, чтобы его развитие было не только технологичным, но и отвечающим необходимым нормам.