OpenAI боится повторения сценария "Терминатора" и вводит новые "законы робототехники"

Искусственный интеллект общего назначения (AGI) - это термин, обозначающий системы искусственного интеллекта (ИИ), способные выполнять любые задачи, которые под силу человеку, или даже лучше. Достижение AGI является одной из самых амбициозных и противоречивых целей в области ИИ, поскольку может иметь глубокие последствия для будущего человечества. OpenAI, компания по исследованию ИИ, стоящая за ChatGPT, недавно опубликовала сообщение в блоге, которое даёт представление о том, как компания будет справляться с задачами по созданию и управлению AGI.

OpenAI хочет, чтобы AGI "расширил возможности человечества для максимального процветания Вселенной". С AGI могут возникнуть потенциальные риски и неопределенности, такие как неправильное использование, несчастные случаи и даже разрушение общества. Может даже возникнуть проблема "Терминатора". Для решения этой проблемы OpenAI предложила ряд законов и принципов, которыми она будет руководствоваться в своей работе над AGI:

• Развертывание и изучение менее мощных систем ИИ в реальном мире для получения опыта и обратной связи
• Демократизация доступа к ИИ и управление им
• Обеспечение того, чтобы системы ИИ действовали в соответствии с человеческими ценностями и предпочтениями
• Укрепление институтов мира для согласования широких границ использования и регулирования ИИ
• Обмен информацией о прогрессе ИИ с общественностью и обращение к различным заинтересованным сторонам с просьбой внести свой вклад

Безусловно, существуют и другие факторы, которые будут определять, как развитие AGI повлияет на человечество. К этим факторам относятся сроки (сколько времени потребуется для создания AGI), скорость обучения (насколько быстро AGI будет самосовершенствоваться), координация (насколько хорошо различные субъекты будут сотрудничать или конкурировать в развитии AGI) и безопасность (насколько хорошо AGI будет соответствовать целям человечества).

При этом OpenAI также предупреждает о том, что все не предсказуемо, и даже у самой компании нет всех ответов и решений потенциальных проблем в будущем, особенно после того, как AGI станет мейнстримом. Компания заявляет, что в долгосрочной перспективе разговор о том, как управлять этими системами, как справедливо распределить их преимущества и как справедливо разделить доступ, просто необходим.