Всего 37% разницы с EPYC? Что может десктопный Ryzen 9 9950X в задачах LLM

Сравнили десктопный AMD Ryzen 9 9950X и серверный EPYC 7542 в задачах LLM-инференса. Результат удивил: разница в производительности составила всего 37%! В этом видео – глубокое погружение в возможности CPU для запуска нейросетей. Мы собрали тестовый стенд на материнской плате Supermicro, проверили влияние инструкций AVX-512 и выявили оптимальную конфигурацию памяти для платформы AM5. Вы узнаете, почему малое количество быстрых ядер Ryzen способно соперничать с большим числом ядер EPYC. Ролик для тех, кто ищет производительное и бюджетное решение для AI. Без воды – только цифры, графики и практические выводы. Честно говорим об ограничениях: малое количество линий PCIe и объёма ОЗУ.