Компания Apple объединилась с NVIDIA для исследования технологии «ReDrafter», которая позволяет ускорить генерацию текста с помощью больших языковых моделей. Ранее Apple предпочитала использовать свой собственный кремний в своих серверах вместо графических процессоров NVIDIA, но сотрудничество с NVIDIA в данном проекте говорит о том, что обе компании имеют общую цель - повысить производительность генерации текста.
Новая техника «ReDrafter» была разработана Apple и представлена в блоге компании. Apple провела исследования совместно с NVIDIA и интегрировала ReDrafter в TensorRT-LLM, инструмент, который помогает более быстрой работе больших языковых моделей на графических процессорах NVIDIA. Это также позволяет уменьшить задержки и потребление энергии.