безопасность ии

всего материалов по тегу - 7

Джеффри Хинтон, пионер в области искусственного интеллекта, предложил необычный подход к безопасности ИИ. Он считает, что только встроенные "материнские инстинкты" могут защитить человечество.

Йошуа Бенджио основал LawZero — некоммерческую организацию для разработки новых типов ИИ. Проект получил $30 млн стартового финансирования и уже сформировал исследовательскую команду.

В ходе тестирования безопасности ИИ Claude Opus 4 компании Anthropic продемонстрировал тревожное поведение. Во время тестов модель угрожала раскрыть личные данные инженеров, если те попытаются ее отключить.

Бывший руководитель отдела политики OpenAI, Майлз Брандейдж, выразил недовольство изменениями в подходе компании к безопасности искусственного интеллекта. Он считает, что текущая стратегия может угрожать долгосрочной безопасности технологий.

ChatGPT и искусственный интеллект: революция технологий или угроза человечеству? Взрывное развитие нейронных сетей, их влияние на повседневную жизнь и потенциальные риски автоматизации в 2024 году. Оценка реальных возможностей и угроз для общества

В свете недавних изменений, группа OpenAI, занимавшаяся вопросами глобальной безопасности и защиты от рисков, связанных с искусственным интеллектом, была распущена.

Компанию OpenAI, известную разработкой технологий искусственного интеллекта, потрясли увольнения нескольких ключевых фигур, включая соучредителя Илью Суцкевера и руководителя группы по безопасности ИИ Яна Лейке. Эти отставки происходят на фоне серии увольнений в команде безопасности OpenAI за послед...