AMD Ryzen AI Halo: Решение за $3999 для максимального использования ИИ

В свете того, что крупные поставщики ИИ-услуг ужесточают лимиты использования для своих самых мощных функций, может возникнуть соблазн отказаться от подписок на ChatGPT, Claude и Gemini и полностью перейти на локальный искусственный интеллект. Это, безусловно, возможно, если вы готовы за это платить.

AMD — одна из последних компаний, представивших решение для локального ИИ, мини-ПК под названием «Ryzen AI Halo». На первый взгляд, он выглядит очень привлекательно: форм-фактор размером с Mac mini, мощный процессор AMD Ryzen AI Max+ 395 с 16 ядрами Zen 5 CPU и 32 потоками (с возможностью обновления до передовой серии Ryzen AI Max+ 400), внушительные 40 вычислительных блоков Radeon 3.5 GPU и, что самое важное, 128 ГБ унифицированной памяти LPDDR5x.

Эта последняя характеристика является ключевой. Память — это всё, когда речь идёт об инференсе ИИ (возможно, вы заметили продолжающийся дефицит оперативной памяти), и без достаточного её объёма ваша система будет испытывать трудности с большими локальными языковыми моделями, такими как 120-миллиардная GPT OSS от OpenAI, не говоря уже о ресурсоёмких моделях генерации видео, таких как LTX 2.3.

Благодаря поддержке унифицированной памяти — то есть общего высокоскоростного пула системной и видеопамяти — 128-гигабайтный AMD Ryzen AI Halo (который был впервые анонсирован ещё в январе на выставке CES) обладает решающим преимуществом перед дискретными графическими процессорами, которые ограничены своими отдельными запасами видеопамяти, обычно в диапазоне 16 ГБ, 32 ГБ или (если вы можете себе это позволить) 48 ГБ.

Аспект унифицированной памяти помогает объяснить популярность Mac mini среди разработчиков персональных ИИ-агентов, поскольку миниатюрный, всегда включённый Mac mini M4 может похвастаться до 64 ГБ унифицированной оперативной памяти — это лишь половина того, что имеет AMD Ryzen AI Halo, но всё равно весьма внушительно.

Конечно, как Mac mini, так и AMD AI Ryzen Halo сталкиваются с серьёзными препятствиями в генерации ИИ из-за критически важной отсутствующей функции: поддержки платформы Nvidia CUDA. Сокращение от Compute Unified Device Architecture, CUDA (акроним, который всегда напоминает о барракудах) — это «секретный соус», который позволяет ИИ-программному обеспечению эффективно работать в тандеме с графическими процессорами Nvidia для быстрого инференса ИИ.

Таким образом, большинство разработчиков ИИ применяют подход «CUDA-first» к своим инструментам, рассматривая другие архитектуры (такие как Apple Metal и платформа AMD ROCm, которая играет роль эквивалента CUDA с точки зрения подключения программных приложений к своим графическим процессорам) как второстепенные.

Тем не менее, AMD стремится преодолеть свои недостатки по части CUDA с помощью мощного аппаратного обеспечения, способного обеспечить 50 TOPS NPU (мера теоретической производительности процессора в ИИ; 50 TOPS — это внушительная цифра) и оснащённого 40 вычислительными блоками AMD RDNA 3.5 GPU (массивно для интегрированного графического процессора). И опять же, именно 128 ГБ унифицированной оперативной памяти имеют значение, позволяя AMD Ryzen AI Halo конкурировать с системами на базе Nvidia.

Что подводит нас к цене: внушительные 3999 долларов, и это начальная цена для системы на базе Ryzen AI Max+ 395. (Стоит отметить, что AMD предоставляет только спецификации для разработчиков Ryzen AI Halo; фактическое оборудование будут поставлять сторонние производители). AMD не раскрыла розничную цену на устройства Ryzen AI Halo, работающие на более мощном процессоре Ryzen AI Max+ Pro 495.

Так что, впечатляет, не так ли? Для частных лиц, безусловно. Для малого бизнеса? Возможно, не так уж и плохо.

AMD провела расчёты, определив точку безубыточности для покупателей Ryzen AI Halo, отказывающихся от облачного ИИ, и они утверждают, что вы достигнете этой отметки через шесть месяцев… при условии, что вы в настоящее время тратите 773 доллара в месяц на облачные сервисы. Это большая сумма для обычных пользователей ИИ, но, возможно, не так много для малых и средних предприятий, активно использующих ИИ.

Ещё один фактор, который следует учитывать, — это ошеломляюще быстрый темп развития ИИ, что означает, что сегодняшнее передовое ИИ-оборудование может перестать быть таковым, скажем, через два года. Со своей стороны, AMD позиционирует свою платформу для разработчиков ИИ как способ для Ryzen AI Halo идти в ногу со временем в предстоящие месяцы и годы.

Тем не менее, AMD Ryzen AI Halo может стать комплексным решением для небольших корпоративных пользователей, стремящихся активно развивать ИИ без разорения или без страха, что их поставщик ИИ ограничит использование или увеличит стоимость API. Для всех остальных? Это, вероятно, избыточно.