Meta, OpenAI y Microsoft afirman que utilizarán el chip de inteligencia artificial más nuevo de AMD, el Instinct MI300X, como alternativa al de Nvidia.
Meta, OpenAI y Microsoft afirman que utilizarán el chip de inteligencia artificial más nuevo de AMD, el Instinct MI300X. Esto es una señal de que las empresas de tecnología quieren alternativas a los costosos procesadores gráficos Nvidia que han sido esenciales para la inteligencia artificial.
Meta, OpenAI y Microsoft dijeron en un evento para inversores de AMD el miércoles que utilizarán el chip de IA más nuevo de AMD, el Instinct MI300X.
Si el último chip de gama alta de AMD es lo suficientemente bueno para las empresas de tecnología y proveedores de servicios en la nube que crean y ofrecen modelos de IA cuando comience a distribuirse a principios del próximo año, podría reducir los costos de desarrollo de modelos de IA y ejercer presión competitiva sobre el creciente crecimiento de las ventas de chips de IA de Nvidia.
Así lo afirmaba el miércoles Lisa Su, directora ejecutiva de AMD.
Todo el interés está en los grandes hardware y las grandes GPU para la nube.
AMD: MI300X
AMD dice que el MI300X se basa en una nueva arquitectura, lo que a menudo conduce a importantes mejoras de rendimiento. Su característica más distintiva es que tiene 192 GB de un tipo de memoria de vanguardia y alto rendimiento conocida como HBM3. Esta transfiere datos más rápido y puede adaptarse a modelos de IA más grandes.
Lisa Su comparó directamente el MI300X y los sistemas construidos con él con la principal GPU AI de Nvidia, la H100.
Lo que hace este rendimiento es que se traduce directamente en una mejor experiencia de usuario. Cuando le preguntas algo a un modelo, te gustaría que te respondiera más rápido, especialmente cuando las respuestas se vuelven más complicadas.
La principal pregunta que enfrenta AMD es si las empresas que han estado construyendo sobre Nvidia invertirán tiempo y dinero para agregar otro proveedor de GPU. “Se necesita trabajo para adoptar AMD”, dijo Su.
ROCm
AMD dijo el miércoles a inversores y socios que había mejorado su paquete de software llamado ROCm para competir con el software CUDA estándar de la industria de Nvidia. Así, abordaría una deficiencia clave que ha sido una de las principales razones por las que los desarrolladores de IA prefieren actualmente Nvidia.
El precio también será importante. AMD no reveló el precio del MI300X, pero el de Nvidia puede costar alrededor de $40,000 por un chip. Su dijo a los periodistas que el chip de AMD tendría que costar menos que el de Nvidia para poder persuadir a los clientes de comprarlo.
¿Quién dice que usará el MI300X?
El miércoles, AMD dijo que ya había inscrito a algunas de las empresas más ávidas de GPU para utilizar el chip. Meta y Microsoft fueron los dos mayores compradores de GPU Nvidia H100 en 2023, según un informe reciente de la firma de investigación Omidia.
Meta dijo que utilizará GPU MI300X para cargas de trabajo de inferencia de IA, como el procesamiento de stickers de IA, la edición de imágenes y el funcionamiento de su asistente.
El CTO de Microsoft, Kevin Scott, dijo que la compañía ofrecería acceso a los chips MI300X a través de su servicio web Azure.
La nube de Oracle también utilizará los chips.
OpenAI dijo que admitiría las GPU de AMD en uno de sus productos de software, llamado Triton, que no es un modelo de lenguaje tan grande como GPT pero se utiliza en la investigación de IA para acceder a las funciones del chip.
Prospecciones para el futuro
AMD aún no pronostica ventas masivas para el chip, solo proyecta alrededor de $ 2 mil millones en ingresos totales de GPU para centros de datos en 2024. Nvidia informó más de $ 14 mil millones en ventas de centros de datos solo en el trimestre más reciente, aunque esa métrica incluye chips distintos de GPU.
Sin embargo, AMD dice que el mercado total de GPU de IA podría ascender a 400 mil millones de dólares en los próximos cuatro años, duplicando la proyección anterior de la compañía. Esto muestra cuán altas son las expectativas y cuán codiciados se han vuelto los chips de IA de alta gama, y por qué la compañía ahora está centrando la atención de los inversores en la línea de productos.
Su también sugirió a los periodistas que AMD no cree que necesite vencer a Nvidia para tener un buen desempeño en el mercado.
“Creo que está claro que Nvidia tiene que ser la gran mayoría en este momento”, dijo Su a los periodistas, refiriéndose al mercado de chips de IA. “Creemos que podría ser más de 400 mil millones de dólares en 2027. Y podríamos obtener una buena parte de eso”.