AMD похвасталась, что Ryzen AI Max+ 395 до 12 раз быстрее в работе с ИИ, чем прямой конкурент от Intel

Новейший флагманский мобильный процессор AMD Ryzen AI Max+ 395 семейства Strix Halo обеспечивает до 12 раз более высокую производительность в работе с различными большими языковыми моделями ИИ, чем чипы Intel Lunar Lake. Об этом AMD сообщила в своём официальном блоге, поделившись соответствующими диаграммами.

AMD похвасталась, что Ryzen AI Max+ 395 до 12 раз быстрее в работе с ИИ, чем прямой конкурент от Intel

Благодаря 16 вычислительным ядрам Zen 5, 40 графическим блокам RDNA 3.5, а также NPU XDNA 2 с производительностью 50 TOPS (триллионов операций в секунду), процессор Ryzen AI Max+ 395 обеспечивает до 12,2 раза более высокое быстродействие в определённых сценариях LLM, чем Intel Core Ultra 258V. Стоит напомнить, что в составе чипа Intel Lunar Lake имеются только четыре P-ядра и четыре E-ядра, что в общей сложности вполовину меньше, чем у Ryzen AI Max+ 395. Однако разница в производительности между платформами выражена гораздо сильнее, чем в два раза.

Преимущество чипа Ryzen AI Max+ 395 становится ещё более заметным с повышением сложности языковых моделей. Наибольшая разница в производительности между платформами видна при работе с LLM с 14 млрд параметров, где требуется больше оперативной памяти. Напомним, что Lunar Lake представляет собой гибридные процессоры, оснащённые до 32 Гбайт набортной ОЗУ.

В тестах LM Studio с использованием устройства Asus ROG Flow Z13 с 64 Гбайт унифицированной памяти встроенная графика Radeon 8060S процессора Ryzen AI Max+ 395 показала в 2,2 раза большую пропускную способность токенов, чем графика Intel Arc 140V в различных ИИ-моделях. В тестах Time-to-First-Token (метрика производительности языковых моделей, которая показывает, сколько времени проходит от отправки запроса до генерации первого токена ответа) чип AMD продемонстрировал четырёхкратное преимущество над конкурентом в таких моделях, как Llama 3.2 3B Instruct, и увеличил отрыв до 9,1 раза в моделях, поддерживающих 7–8 млрд параметров, например DeepSeek R1 Distill.

Читать также:
Власти ЕС расскажут Apple, как она должна открыть iPhone и iOS для конкурентов

Процессор AMD особенно преуспел в задачах мультимодального зрения, где обрабатывал сложные визуальные входные данные до 7 раз быстрее в IBM Granite Vision 3.2 3B и в 6 раз быстрее в Google Gemma 3 12B по сравнению с чипом Intel. Поддержка платформой AMD технологии Variable Graphics Memory позволяет выделять до 96 Гбайт памяти в качестве VRAM из систем с унифицированной памятью объёмом до 128 Гбайт, что, в свою очередь, позволяет развёртывать современные языковые модели, такие как Google Gemma 3 27B Vision.

Преимущества производительности процессора AMD над конкурентом видны и в практических ИИ-приложениях, таких как анализ медицинских изображений и помощь в кодировании с помощью высокоточного 6-битного квантования в модели DeepSeek R1 Distill Qwen 32B.

НОВОЕ НА САЙТЕ

Лихачев высказался о совместном с Киевом управлении ЗАЭС

Дзен Глава "Росатома" Алексей Лихачев заявил, что не видит смысла в совместном управлении Запорожской АЭС "Росатомом" и украинским "Энергоатомом".«"Я в этом не вижу никакого смысла", - сказал Лихачев, отвечая на вопрос, рассматривается ли...

Рогов назвал претензии Киева на ЗАЭС нелепыми и ущербными

Дзен Председатель комиссии Общественной палаты РФ по вопросам суверенитета, сопредседатель координационного совета по интеграции новых регионов Владимир Рогов заявил, что Украина не имеет никакого права на Запорожскую АЭС, ее претензии на чужой ядерный объект...

В Крыму оценили возможность признания полуострова со стороны Западом

Дзен Депутат Госдумы от Севастополя, член комитета по международным делам Дмитрий Белик заявил, что процесс признания российского статуса Крыма западными странами небыстрый, так как этому есть немало противников, но вода и камень точит. Ранее...

Потанин призвал не встречать с «раскрытыми объятиями» потепление с Западом

Дзен Многие компании России и экономика страны в целом пострадали от непоследовательного поведения зарубежных партнеров, поэтому нет оснований с раскрытыми объятиями встречать первые сигналы потепления, тем не менее "Норникель" будет готов восстановить связи со...

Борис Джонсон попытался оправдаться за срыв переговоров России и Украины

Дзен Бывший премьер-министр Великобритании Борис Джонсон, занимавший свой пост в 2019-2022 годах, попытался оправдаться за срыв мирного соглашения между Россией и Украиной весной 2022 года. "Всё, что я пытался сделать, — это продемонстрировать видимую...