Red Hat y AMD fortalecen su colaboración estratégica y amplían las opciones de los clientes para la IA y la virtualización en la nube híbrida

Red Hat, el proveedor líder mundial de soluciones open source, y AMD (NASDAQ: AMD) anunciaron hoy una colaboración estratégica para impulsar las capacidades de IA y optimizar la infraestructura virtualizada. Con esta alianza más estrecha, Red Hat y AMD ampliarán las opciones de los clientes en la nube híbrida, desde la implementación de modelos de IA optimizados y eficientes hasta la modernización de máquinas virtuales (VM) tradicionales a costos más bajos.

A medida que la demanda y la diversidad de las cargas de trabajo siguen aumentando con la introducción de la IA, las empresas deben contar con la capacidad y los recursos necesarios para satisfacer estas crecientes necesidades. Sin embargo, el centro de datos promedio se dedica principalmente a sistemas de TI tradicionales, lo que deja poco margen para dar soporte a cargas de trabajo intensivas como la IA. Para responder a esta necesidad, Red Hat y AMD combinan la potencia de las soluciones de código abierto líderes en la industria de Red Hat con el completo portfolio de arquitecturas de computación de alto rendimiento de AMD.

AMD y Red Hat: rumbo a una IA generativa más eficiente

Red Hat y AMD están combinando el poder de Red Hat AI con el portfolio de procesadores AMD basados ​​en x86 y arquitecturas de GPU para ofrecer entornos optimizados, listos para producción y de bajo costo para cargas de trabajo con capacidades de IA.

Las GPU AMD Instinct ya están totalmente habilitadas en Red Hat OpenShift AI, lo que proporciona a los clientes la potencia de procesamiento de alto rendimiento necesaria para las implementaciones de IA en la nube híbrida sin grandes necesidades de recursos. Además, mediante el uso de las GPU AMD Instinct MI300X con Red Hat Enterprise Linux IA, Red Hat y AMD realizaron pruebas en Microsoft Azure ND MI300X v5, que demostraron con éxito la inferencia de IA para escalar modelos de lenguaje pequeño (SLM) y modelos de lenguaje de gran tamaño (LLM) implementados en múltiples GPU en una sola VM, lo que reduce la necesidad de implementar en múltiples VM y los costos de rendimiento.

Para impulsar aún más las capacidades de aceleración y ajuste del rendimiento, Red Hat y AMD colaboran en la comunidad vLLM de desarrollo para promover una inferencia de IA más eficiente. Por medio de esta activación en la etapa de desarrollo inicial, Red Hat y AMD buscan ofrecer:

• Mayor rendimiento en las GPU de AMD: Al actualizar la biblioteca del kernel de AMD y optimizar varios componentes, como el kernel Triton y FP8, Red Hat y AMD están mejorando el rendimiento de la inferencia tanto para modelos densos como cuantificados, lo que permite una ejecución más rápida y eficiente de vLLM en los aceleradores AMD Instinct MI300X.
• Mayor compatibilidad con múltiples GPU: Mejorar la comunicación colectiva y optimizar las cargas de trabajo de múltiples GPU habilitan implementaciones de IA más escalables y eficientes desde el punto de vista energético, lo que es particularmente ventajoso para las cargas de trabajo que requieren una computación distribuida en múltiples GPU, ya que reduce los cuellos de botella y mejora el rendimiento general.
• Mayor participación en el ecosistema de vLLM: La colaboración recíproca entre Red Hat, AMD y otros líderes de la industria, como IBM, ayuda a acelerar el desarrollo inicial para impulsar mejoras continuas tanto para el proyecto vLLM como para la optimización de las GPU de AMD, lo que beneficia aún más a los usuarios de vLLM que dependen del hardware de AMD para la inferencia y el entrenamiento de IA.

Sobre la base de esta colaboración en la comunidad vLLM, las GPU AMD Instinct admitirán Red Hat AI Inference Server, la distribución empresarial de vLLM de Red Hat lista para usar, para proporcionar un servidor de inferencia de IA potente, confiable y escalable. Como principal colaborador comercial de vLLM, Red Hat se compromete a facilitar la compatibilidad al implementar vLLM en el hardware preferido de una empresa, que incluye las GPU AMD Instinct. Ejecutar vLLM en las GPU AMD Instinct permite a las empresas implementar cualquier modelo de IA open source en hardware de GPU validado y probado para lograr una optimización y un rendimiento excepcionales.

Las CPU AMD EPYC™ también permiten un rendimiento integral de la IA y son ideales para alojar sistemas con GPU. Esto puede ayudar a mejorar el rendimiento y el retorno de la inversión de cada servidor GPU, incluso para las cargas de trabajo de IA más exigentes.

La transformación del centro de datos moderno

Al optimizar los entornos de los centros de datos existentes, las empresas pueden reinvertir recursos de manera más eficaz y sencilla para fomentar la innovación en IA. Red Hat OpenShift Virtualization, una función de Red Hat OpenShift, ofrece una ruta optimizada para que las empresas migren y gestionen las cargas de trabajo de VM con la simplicidad y la velocidad de una plataforma de aplicaciones nativa de la nube. Red Hat OpenShift Virtualization está validado para los procesadores AMD EPYC, es capaz de aprovechar el excelente rendimiento y la eficiencia energética de estos procesadores, donde sea necesario en la nube híbrida, y, a su vez, de mantener un puente hacia un futuro nativo de la nube.

Red Hat OpenShift Virtualization en las CPU AMD EPYC ayuda a las empresas a optimizar la implementación de aplicaciones en servidores líderes, como Dell PowerEdge, HPE ProLiant y Lenovo ThinkSystem. Al actualizar un centro de datos heredado, Red Hat OpenShift Virtualization unifica las VM y las aplicaciones en contenedores, ya sea en modo local, en nubes públicas o en la nube híbrida. Esto ayuda a alcanzar índices de consolidación de infraestructura elevados, lo que puede derivar en un costo total de propiedad (TCO) significativamente menor en términos de hardware, licencias de software y consumo energético. También ofrece la ventaja de que permite a los equipos de TI gestionar cargas de trabajo críticas de forma más eficaz hoy y, al mismo tiempo, liberar recursos y energía para aplicarlos a cargas de trabajo de IA tanto ahora como en el futuro. 

Red Hat Summit

Participe de las presentaciones del Red Hat Summit para escuchar las últimas novedades de los ejecutivos, clientes y partners de Red Hat:

• Infraestructura moderna alineada a la IA empresarial: martes 20 de mayo de 8 a 10 horas (UTC -5) (YouTube)
• La nube híbrida evoluciona para brindar innovación empresarial: miércoles 21 de mayo de 8 a 9:30 horas (UTC -5) (YouTube)

Citas de apoyo

Ashesh Badani, vicepresidente sénior y director de productos, Red Hat

“Aprovechar al máximo los beneficios de la IA implica que las empresas deben contar con la opción y la flexibilidad necesarias para optimizar su infraestructura de TI ante las exigencias de la creciente demanda. Nuestra colaboración con AMD amplía el abanico de opciones para las empresas que buscan preparar sus entornos de TI para un futuro en constante evolución, desde la modernización de las actuales inversiones en una arquitectura de CPU de alto rendimiento y una plataforma de virtualización hasta la preparación de la IA para producción mediante aceleradores de hardware de próxima generación y tecnologías de IA open source”.

Philip Guido, vicepresidente ejecutivo y director comercial, AMD

“A medida que las cargas de trabajo de los clientes empresariales se vuelven más diversas y exigentes, requieren soluciones escalables. Al combinar las plataformas de código abierto líderes de la industria de Red Hat con las GPU AMD Instinct y las CPU AMD EPYC de primera clase, ofrecemos el rendimiento y la eficiencia que los clientes exigen para acelerar la IA, la virtualización y la innovación en la nube híbrida”.