Большой объём кэш-памяти в процессорах AMD Ryzen X3D обеспечивает им преимущество в задачах, связанных с Retrieval-Augmented Generation (RAG). Это технология, которая позволяет большим языковым моделям генерировать ответы на основании предоставленной информации, заранее «упакованной» в векторные базы данных. В то время как графические процессоры используются для получения логических выводов, большая часть работы по векторному поиску выполняется центральным процессором, пишет Wccftech. В подобных сценариях выигрывают процессоры с большим объёмом кэш-памяти.
Результаты, опубликованные пользователем Hehe (кор. 낄낄) на южнокорейской платформе Giggle Hardware, показывают, что процессоры AMD Ryzen X3D оказались на 88% быстрее процессоров без 3D V-Cache в тесте Batch Search на 100000 операций.
В тесте Batch Search на 200000 операций Ryzen 7 9850X3D был более чем на 50% быстрее Ryzen 7 9700X и опередил Ryzen 9 9950X, у которого в два раза больше ядер. Процессоры с 3D V-Cache на 50% быстрее справились с индексацией 100000 записей и на 39% с индексацией 200000 записей.
Таким образом, процессоры AMD с 3D V-Cache обладают значительным преимуществом в задачах векторного поиска, построения индексов и параллельной обработки. Недавно компания AMD представила Ryzen 9 9950X3D2. Это первый потребительский процессор, в котором каждый из двух кристаллов с ядрами оснащается 3D V-Cache. Эта модель должна показать ещё более высокие результаты в рассмотренных тестах.