С 2022 года основной упор делался на обучение нейросетей. С этим отлично справлялись архитектуры Hopper и Blackwell. Но сейчас фокус смещается на так называемые агентные нагрузки (agentic workloads), когда ИИ не просто учится, а выполняет сложные цепочки действий. Требования к вычислениям меняются, и NVIDIA подстраивается.
Источник изображения: wccftech.com
Ожидается, что на GTC материализуется партнерство с Groq. Это компания, разрабатывающая специализированные чипы LPU (Language Processing Units). Они будут интегрированы в новые системы Vera Rubin. Возможны конфигурации с 64, 128 и 256 LPU в одном вычислительном лотке, связанных с GPU через NVLink Fusion. Это позволит эффективнее распределять нагрузку: например, LPU возьмут на себя этап декодирования, а GPU — основную вычислительную работу.
Следующее поколение после Rubin получит кодовое название Feynman. Чипы будут производиться по самому передовому 1,6-нанометровому техпроцессу TSMC A16. NVIDIA, скорее всего, станет эксклюзивным клиентом на этот техпроцесс. Ожидается использование гибридной 3D-сборки (SoIC или EMIB), что позволит буквально укладывать LPU поверх вычислительных кристаллов. Сам Дженсен Хуанг обещал показать чипы, «которых никто никогда не видел».
NVIDIA не останавливается на стандартных стойках NVL72. В разработке NVL576 (стойка на 576 GPU) на архитектуре Rubin Ultra. Там произойдет полная перестройка компоновки: вертикальные блейды, питание 800 В постоянного тока, переход с медных соединений на оптику CPO (Co-Packaged Optics). Это снизит тепловыделение и повысит пропускную способность.
