Как сообщает издание 9to5Mac, пользователь Reddit под ником devanxd2000 обнаружил, что в бета-версии macOS 15.1 содержатся встроенные инструкции для функции Smart Reply от Apple, которые предписывают системе избегать «галлюцинаций», то есть создания ложной информации.
Функция Smart Reply, основанная на искусственном интеллекте помогает пользователям быстро отвечать на электронные письма и сообщения, анализируя заданные вопросы и предлагая соответствующие варианты ответов. Таким образом, пользователи могут легко подбирать нужные фразы и формировать свои ответы на основе предложений искусственного интеллекта.
Devanxd2000 изучил набор JSON-файлов, которые, по-видимому, являются встроенными инструкциями Apple для функции Smart Reply. В них Apple указывает помощнику по электронной почте идентифицировать соответствующие вопросы из данного письма и краткого фрагмента ответа, а также выводить лучшие вопросы вместе с набором возможных вариантов ответов для каждого из этих вопросов в формате JSON.
По мнению 9to5Mac, инструкции не «галлюцинировать» кажутся оптимистичными, поскольку генеративные системы ИИ «галлюцинируют» (то есть выдумывают ложную информацию) из-за отсутствия фактического понимания контекста и надежного способа определить, является ли их вывод истинным или ложным. Однако Apple понимает, что итоговые данные её систем ИИ будут подвергаться очень тщательной проверке и критике, поэтому, возможно, это просто тот случай, когда «каждая мелочь может помочь».