OpenAI opera ASIC de Jalapeño con CPU anfitrionas AMD Turin

OpenAI está ejecutando su ASIC de inferencia Jalapeño junto con procesadores AMD, según una información de Tom’s Hardware citada por AI Weekly. Los sistemas utilizan CPU AMD EPYC “Turin” como silicio anfitrión, lo que sitúa el acelerador personalizado de OpenAI en una configuración de servidor que no depende de los procesadores de Nvidia.

Según los informes, cada sistema anfitrión contiene dos CPU de la clase Turin y 1.5 terabytes de DRAM. Esta configuración proporciona la plataforma informática que rodea a Jalapeño, el chip personalizado de OpenAI para cargas de trabajo de inferencia. La información ofrece una visión de cómo la empresa está ensamblando la infraestructura necesaria para operar su propio silicio, así como de las alternativas que está considerando para los componentes que lo acompañan.

Un diseño de servidor en dos partes

Un ASIC de inferencia está diseñado para realizar los cálculos necesarios cuando un sistema de IA produce una respuesta o una predicción. El procesador anfitrión es una parte independiente del sistema, responsable de dar soporte al acelerador y proporcionar la plataforma de servidor general. En el despliegue de Jalapeño de OpenAI, las CPU EPYC Turin de AMD cumplen esa función de anfitrión.

La configuración mencionada cuenta con dos procesadores Turin en cada sistema anfitrión y 1.5TB de memoria. Esas especificaciones son los datos divulgados más claros sobre las máquinas que incorporan el ASIC. También muestran que la elección del acelerador no determina todos los demás componentes del servidor: el silicio de inferencia propio de OpenAI se está combinando con una plataforma anfitriona suministrada por AMD.

Esa distinción es importante porque los debates sobre el hardware de IA suelen centrarse únicamente en el acelerador. En la práctica, un sistema también depende de los procesadores, la memoria y el diseño del servidor que permiten operar al acelerador. La configuración de OpenAI de la que se ha informado identifica ambos lados de esa combinación: Jalapeño es el componente personalizado de inferencia, mientras que Turin proporciona las CPU anfitrionas.

Por qué se está utilizando AMD

Richard Ho, vicepresidente y responsable de hardware de OpenAI, describió la decisión de utilizar Turin como un esfuerzo pragmático para reducir riesgos, según la información publicada. Esa explicación presenta la elección del procesador como una decisión práctica de ingeniería, no como una declaración de que un proveedor haya sustituido a otro en toda la infraestructura de OpenAI.

La información disponible no afirma que AMD esté suministrando el propio ASIC Jalapeño. En cambio, los procesadores EPYC de AMD actúan como silicio anfitrión en los sistemas donde se despliega el chip de OpenAI. Mantener separadas esas funciones es importante: el informe se refiere a la plataforma de CPU que rodea a Jalapeño, no a la fabricación del acelerador personalizado de OpenAI.

El uso de hardware de AMD del que se ha informado también indica que el chip personalizado de OpenAI se está probando en un entorno con proveedores mixtos. Jalapeño procede del propio esfuerzo de OpenAI en materia de hardware, mientras que los procesadores anfitriones proceden de AMD. El resultado es un diseño de servidor construido con componentes de distinto origen y distintas funciones.

Nvidia sigue formando parte de la comparación

La plataforma independiente Vera de Nvidia era la alternativa mencionada en los comentarios de Ho. Según Tom’s Hardware y AI Weekly, consideró que estaba “un poco por detrás” en cuanto a madurez. Esa valoración ayuda a explicar por qué OpenAI seleccionó Turin para los sistemas anfitriones de los sistemas Jalapeño descritos en el informe.

El comentario es más limitado que una valoración general del hardware de Nvidia. Se refiere específicamente a la madurez de Vera como alternativa que se estaba considerando para este despliegue. El informe no afirma que el hardware de Nvidia esté ausente de todos los sistemas de OpenAI, ni establece que AMD vaya a ser el proveedor permanente de CPU anfitrionas de la empresa.

Lo que sí muestra es una etapa concreta de la estrategia de hardware de OpenAI. La empresa cuenta con un ASIC de inferencia personalizado que funciona en sistemas con dos procesadores AMD EPYC Turin y 1.5TB de DRAM por anfitrión. La dirección de hardware también ha comparado la madurez de la opción independiente Vera de Nvidia con las necesidades prácticas del diseño actual.

Por ahora, los detalles divulgados son limitados, pero establecen la arquitectura básica: el chip Jalapeño de OpenAI se está desplegando con CPU AMD Turin a su alrededor, mientras que Vera de Nvidia se considera una alternativa menos madura para esa función de anfitrión. La elección refleja las necesidades inmediatas de poner en funcionamiento un sistema de inferencia personalizado, más que un anuncio general sobre todas las plataformas que OpenAI pueda utilizar.