AMD представила алгоритм по запуску DeepSeek на пользовательском железе

AMD выпустила подробную инструкцию, в которой представлено каким образом можно локально запустить DeepSeek R1 с помощью их аппаратного обеспечения. Чтобы  использовать нейросеть понадобится компьютер оснащенный процессором Ryzen AI с поддержкой искусственного интеллекта или видеокарта Radeon RX 7000-й серии, вместе с драйвером Adrenalin 25.1.1. Для процессоров Ryzen AI в LM Studio имеется быстрый установщик нейросетей, с помощью которого можно установить и DeepSeek R1. Инструкция сообщает о том, как настроить программу под конкретное аппаратное обеспечение и указывает пределы количества параметров нейросети, при которых она может нормально работать в зависимости от использующегося оборудования. DeepSeek-R1-Distill-Llama-8B с 8 млрд параметров будет достаточно Radeon RX 7600, в наличии у которой присутствует всего 8 Гб видеопамяти. Для использования DeepSeek-R1-Distill-Qwen-14B с 14 млрд параметров подойдут видеокарты Radeon от RX 7600 XT до RX 7900 XT, а или мобильные процессоры Ryzen 8040 и Ryzen 7040 в сочетании с 32 Гб оперативной памяти. А вот уже DeepSeek-R1-Distill-Qwen-32B с 32 млрд параметров для нормальной работы будет необходима Radeon RX 7900 XTX с 24 Гб видеопамяти.