Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
Компания Anthropic решила не выводить на рынок свою более продвинутую модель искусственного интеллекта (ИИ), известную как Model 2, на фоне растущих опасений по поводу рисков в области безопасности. В последнем отчёте компания указала, что вероятность серьёзных негативных последствий от её систем остается низкой, но уже выросла по сравнению с предыдущими оценками.
Отдельное внимание уделяется рискам в сфере кибербезопасности. В последние месяцы участились случаи, когда продвинутые ИИ-модели демонстрировали способность обходить ограничения или использовать уязвимости. Эти инциденты повлияли на пересмотр оценки рисков внутри компании и усилили осторожность при выводе новых моделей.
Решение Anthropic отражает более широкий тренд в ИИ-индустрии, где разработчики начинают замедлять внедрение наиболее мощных ИИ-моделей. Ранее аналогичные шаги предпринимали и другие компании, откладывая запуск новых ИИ-моделей из-за опасений по поводу их потенциальных возможностей в кибератаках и непредсказуемом автономном поведении.