Как сообщили агентству Reuters два источника, знакомых с ситуацией, перед увольнением генерального директора OpenAI Сэма Альтмана группа сотрудников компании составила обращение к совету директоров, в котором выражались опасения по поводу разработки искусственного интеллекта, способного представить угрозу для человечества.
Значительные вычислительные ресурсы, выделенные новой модели, позволили ей успешно решать некоторые математические задачи, сообщает источник. Несмотря на то, что в настоящее время Q* демонстрирует математические способности на уровне учеников начальной школы, успешное прохождение тестов вселяет в исследователей оптимизм в отношении будущих возможностей модели.
Исследователи полагают, что математика стоит на переднем крае развития генеративного ИИ. В настоящее время генеративный ИИ успешно справляется с такими задачами, как письмо, перевод и статистическое предсказание следующего слова. Однако ответы на один и тот же вопрос могут существенно различаться.
Обращение исследователей к совету директоров подчеркивает возможности ИИ и его потенциальную опасность. В среде ученых-компьютерщиков уже давно ведется дискуссия о рисках, связанных с высокоинтеллектуальными машинами, в том числе о возможности того, что такие машины решат, что уничтожение человечества соответствует их интересам.
В течение одного дня после получения письма совет директоров уволил Альтмана. Последние события свидетельствуют о его восстановлении в должности генерального директора OpenAI после неоднозначного увольнения.