Technology · · 3 min read
OpenAI запускает ASIC Jalapeño с хост-процессорами AMD Turin
OpenAI тестирует свой инференс-чип Jalapeño в системах на базе процессоров AMD EPYC Turin, а не платформы Nvidia Vera.
Согласно публикации Tom’s Hardware, на которую ссылается AI Weekly, OpenAI запускает свой инференс-ASIC Jalapeño вместе с процессорами AMD. В этих системах в качестве хостового кремния используются процессоры AMD EPYC «Turin», благодаря чему кастомный ускоритель OpenAI работает в серверной конфигурации, не зависящей от процессоров Nvidia.
Как сообщается, каждая хост-система содержит два процессора класса Turin и 1.5 терабайта DRAM. Такая конфигурация обеспечивает вычислительную платформу для Jalapeño — собственного чипа OpenAI для задач инференса. Эти сведения позволяют получить представление о том, как компания собирает инфраструктуру, необходимую для работы собственного кремния, а также о вариантах компонентов, которые она рассматривает для этой инфраструктуры.
Серверная конструкция из двух частей
Инференс-ASIC создаётся для вычислений, необходимых при формировании ИИ-системой ответа или прогноза. Хостовый процессор — отдельная часть системы, отвечающая за поддержку ускорителя и предоставляющая более широкую серверную платформу. В конфигурации OpenAI с Jalapeño эту роль выполняют процессоры AMD EPYC Turin.
В описанной конфигурации в каждом хосте установлены два процессора Turin и 1.5TB памяти. Это наиболее подробные из раскрытых характеристик машин, на которых работает ASIC. Они также показывают, что выбор ускорителя не определяет все остальные компоненты сервера: собственный инференс-кремний OpenAI объединён с хостовой платформой, предоставленной AMD.
Это различие важно, поскольку в обсуждениях ИИ-оборудования часто основное внимание уделяется только ускорителю. На практике система также зависит от процессоров, памяти и серверной конструкции, которые позволяют ускорителю работать. Описанная конфигурация OpenAI показывает обе стороны этой схемы: Jalapeño — кастомный инференс-компонент, а Turin предоставляет хостовые процессоры.
Почему используется AMD
По данным публикации, Ричард Хо, вице-президент OpenAI и руководитель аппаратного направления, назвал решение использовать Turin прагматичной попыткой снизить риски. Такое объяснение представляет выбор процессора как практическое инженерное решение, а не как заявление о том, что один поставщик заменил другого во всей инфраструктуре OpenAI.
Из доступного описания не следует, что AMD поставляет сам ASIC Jalapeño. Вместо этого процессоры AMD служат хостовым кремнием в системах, где развёрнут чип OpenAI. Важно разграничивать эти роли: речь в публикации идёт о CPU-платформе, окружающей Jalapeño, а не о производстве кастомного ускорителя OpenAI.
Упомянутое использование оборудования AMD также указывает на то, что кастомный чип OpenAI тестируется в среде с компонентами от разных поставщиков. Jalapeño создан в рамках собственной аппаратной разработки OpenAI, тогда как хостовые процессоры поставляет AMD. В результате получается серверная конструкция, собранная из компонентов разного происхождения и назначения.
Nvidia остаётся частью сравнения
В комментариях Хо в качестве альтернативы упоминалась автономная платформа Nvidia Vera. По данным Tom’s Hardware и AI Weekly, он счёл её «немного отстающей» по уровню зрелости. Эта оценка помогает объяснить, почему OpenAI выбрала Turin для хостов в системах с Jalapeño, описанных в публикации.
Этот комментарий не является общей оценкой оборудования Nvidia. Он относится конкретно к зрелости Vera как рассматривавшейся альтернативы для данного развёртывания. В публикации не говорится, что оборудование Nvidia отсутствует во всех системах OpenAI, и не утверждается, что AMD станет постоянным поставщиком хостовых процессоров для компании.
Однако он показывает конкретный этап аппаратной стратегии OpenAI. У компании есть кастомный инференс-ASIC, работающий в системах с двумя процессорами AMD EPYC Turin и 1.5TB DRAM на хост. Руководство аппаратного направления также сравнило зрелость автономного варианта Nvidia Vera с практическими потребностями текущей конструкции.
Пока раскрытые сведения ограничены, но они позволяют установить базовую архитектуру: чип OpenAI Jalapeño развёртывается с процессорами AMD Turin в качестве хостовых, а Nvidia Vera рассматривается как менее зрелая альтернатива для этой роли. Этот выбор отражает непосредственные требования к запуску кастомной инференс-системы, а не является более широким заявлением обо всех платформах, которые OpenAI может использовать.