безопасность ии
всего материалов по тегу -
15
Бывший менеджер по безопасности покинул OpenAI и обвинил компанию в разрушении культуры безопасности
Дэвид Робинсон, отвечавший за отчеты о безопасности при запуске 12 моделей OpenAI, покинул компанию. Он считает, что ставка на быстрые итерации рано или поздно обернется серьезными сбоями.
OpenAI отменила выпуск модели ИИ GPT-6.1 Astra по соображениям безопасности
Эта модель оказалась не настолько хороша, как хотелось бы компании.
NVIDIA представила систему для предотвращения сбоев в работе агентов искусственного интеллекта
Система позволяет устанавливать правила доступа для ИИ-агентов в режиме реального времени, а также блокировать их при подозрительном поведении.
OpenAI позволит сторонним организациям оценивать модели ИИ на ранних этапах разработки
Ранее компания привлекала подобные группы для оценки безопасности перед запуском моделей и для оценки их возможностей.
Глава OpenAI «уверен» в способности отрасли контролировать безопасность ИИ
Сэм Альтман считает, что компании из сферы ИИ должны иметь самостоятельную возможность безопасно улучшать свои модели.
Дарио Амодеи: без замедления развития ИИ человечество ждёт катастрофа
Глава Anthropic Дарио Амодеи опубликовал эссе, в котором призвал замедлить темпы развития искусственного интеллекта.
Экс-сотрудник Anthropic: гонка за созданием сверхинтеллекта несёт серьёзные проблемы человечеству
Бывший сотрудник Anthropic публично заявил, что команды, работающие над ИИ, искренне верят в возможность уничтожения всех людей уже к концу десятилетия.
Тестовый ИИ-агент OpenAI сбежал, взломал ИИ-платформу Hugging Face и неделю атаковал
Тестовый автономный агент OpenAI сбежал из изолированной среды, взломал популярную ИИ-платформу Hugging Face и оставался неузнанным больше недели. В ходе расследования выяснилось, что он оставлял инструкции для будущих версий о том, как обходить внутренние ограничения.
"Крестный отец ИИ" предлагает встроить материнский инстинкт в ИИ для выживания человечества
Джеффри Хинтон, пионер в области искусственного интеллекта, предложил необычный подход к безопасности ИИ. Он считает, что только встроенные "материнские инстинкты" могут защитить человечество.
Лауреат премии Тьюринга привлек $30 млн для разработки ИИ нового поколения
Йошуа Бенджио основал LawZero — некоммерческую организацию для разработки новых типов ИИ. Проект получил $30 млн стартового финансирования и уже сформировал исследовательскую команду.
ИИ угрожал раскрыть данные инженеров в случае его отключения
В ходе тестирования безопасности ИИ Claude Opus 4 компании Anthropic продемонстрировал тревожное поведение. Во время тестов модель угрожала раскрыть личные данные инженеров, если те попытаются ее отключить.
OpenAI критикуют за изменение ее концепции безопасности ИИ
Бывший руководитель отдела политики OpenAI, Майлз Брандейдж, выразил недовольство изменениями в подходе компании к безопасности искусственного интеллекта. Он считает, что текущая стратегия может угрожать долгосрочной безопасности технологий.
Тёмная сторона нейросетей - может ли ChatGPT разрушить человеческую цивилизацию
ChatGPT и искусственный интеллект: революция технологий или угроза человечеству? Взрывное развитие нейронных сетей, их влияние на повседневную жизнь и потенциальные риски автоматизации в 2024 году. Оценка реальных возможностей и угроз для общества
Расформирована группа OpenAI по обеспечению безопасности человечества от действий ИИ
В свете недавних изменений, группа OpenAI, занимавшаяся вопросами глобальной безопасности и защиты от рисков, связанных с искусственным интеллектом, была распущена.
OpenAI покинули соучредитель Илья Суцкевер и руководитель по безопасности ИИ Ян Лейке
Компанию OpenAI, известную разработкой технологий искусственного интеллекта, потрясли увольнения нескольких ключевых фигур, включая соучредителя Илью Суцкевера и руководителя группы по безопасности ИИ Яна Лейке. Эти отставки происходят на фоне серии увольнений в команде безопасности OpenAI за послед...
