30 ноября президент Microsoft Брэд Смит выразил обеспокоенность по поводу разработки сверхразумного искусственного интеллекта (ИИ), заявив, что вероятность достижения такого продвинутого ИИ в течение следующих 12 месяцев отсутствует. Он подчеркнул потенциальный срок в несколько лет, если не десятилетий, для таких достижений, подчеркнув при этом настоятельную необходимость определения приоритетности мер безопасности при разработке искусственного интеллекта.

Ранее в этом месяце соучредитель OpenAI Сэм Альтман был ненадолго отстранен от должности генерального директора, позже восстановлен после внутренних и внешних протестов. Агентство Reuters сообщило, что отстранение Альтмана последовало за предупреждениями исследователей о потенциально рискованном открытии в рамках внутреннего проекта под названием Q* (произносится Q-Star), направленного на достижение общего искусственного интеллекта (AGI). AGI, определяемый OpenAI как автономные системы, превосходящие человека в решении экономически значимых задач, остается долгосрочной целью.

Президент Смит отклонил заявления об опасном прорыве, объяснив отстранение Альтмана расхождением во взглядах совета директоров и другими факторами, включая опасения по поводу коммерциализации достижений без адекватной оценки рисков. Что касается необходимости принятия мер предосторожности в системах искусственного интеллекта, Смит выступил за внедрение предохранительных тормозов, проводя параллели с механизмами безопасности в лифтах, электрических цепях и аварийных тормозах в автобусах, чтобы обеспечить непрерывный контроль человека над системами искусственного интеллекта, особенно теми, которые управляют критически важной инфраструктурой.