Новые тесты показали, что процессоры AMD с объемным кэшем могут дать серьезное преимущество не только в играх, но и в задачах искусственного интеллекта. В бенчмарке X3D RAG Benchmark, который оценивает работу локальных RAG-пайплайнов (способ работы ИИ, где он сначала ищет информацию в базе, а потом формирует ответ на её основе), CPU с объемным кэшем заметно обошли обычные версии без 3D V-Cache.
RAG-системы используют внешнюю базу знаний для поиска ответов, а большая часть таких операций выполняется именно на CPU, а не на GPU. Поэтому в подобных задачах производительность процессора и объем его кэша оказываются не менее важны, чем мощность видеокарты.
В тесте Batch Search 100K процессоры AMD с 3D V-Cache оказались до 88% быстрее моделей без такого кэша. В сценарии Batch Search 200K модель Ryzen 7 9850X3D показала прирост более 50% по сравнению с Ryzen 7 9700X. Примечательно, что оба этих чипа — восьмиядерные, и при этом 8-ядерный X3D-процессор смог обойти даже 16-ядерный Ryzen 9 9950X в ряде сценариев.
В тестах на построение индекса эффект тоже оказался заметным: в Index Build 100K время сократилось примерно на 50%, а в 200K — на 39%. Единственный сценарий, где разница была менее выраженной, — TTFT (время до первого токена), поскольку там сильнее влияет уже GPU.
В целом бенчмарк показал, что AMD 3D V-Cache CPU могут быть очень удачным выбором для локальных и небольших RAG-систем, где важны быстрый поиск и стабильная работа с несколькими запросами.