Con casi el 87% de las empresas adoptando estrategias de multicloud, Dell brinda a los clientes la libertad de procesar datos donde tenga más sentido para ellos, ya sea en sus instalaciones, en el borde o en nubes públicas.
Dell Technologies ha anunciado hoy dos desarrollos significativos que marcarán el futuro de la Inteligencia Artificial Generativa (GenAI) y el almacenamiento de datos empresariales, reforzando su posición como líder en innovación tecnológica.
Expansión del ecosistema abierto de IA Generativa con AMD Instinct™
Dell Technologies se une con AMD para expandir su cartera de Soluciones de IA Generativa. El nuevo Dell PowerEdge XE9680 es una muestra de esta colaboración, incorporando el acelerador AMD Instinct™ MI300X. Esta innovación promete ser la solución de implementación más rápida de Dell, optimizando el rendimiento de la IA y ofreciendo a las empresas una variedad de opciones para mejorar sus capacidades de GenAI.
Raymundo Peixoto, vicepresidente Senior de Soluciones de Infraestructura de Dell Technologies en América Latina, comentó que «GenAI es el acelerador más prometedor para la innovación en esta década» y, además, subraya la importancia de seleccionar infraestructuras de TI adecuadas para proyectos de IA escalables y energéticamente eficientes, y el valor añadido de contar con un equipo de consultoría que ayude a los clientes en su camino hacia la transformación digital.
El PowerEdge XE9680 de Dell, integrado con AMD Instinct MI300X, representa un salto significativo en capacidades de alto rendimiento, especialmente diseñado para empresas que buscan maximizar el valor de sus datos. Este servidor no solo permite diferenciar negocios a través de Lenguajes de Modelos Grandes personalizados (LLMs), sino que también viene equipado con ocho GPUs MI300X. Cada una de estas GPUs cuenta con 192 GB de memoria HBM3 de alta velocidad, alcanzando 5,3 TB/s y sumando un total de 1,5 TB de memoria HBM3 por servidor.
Además, su capacidad para ofrecer más de 600 TFLOPS y 21 petaflops de rendimiento pico FP32/FP16 sitúa al PowerEdge XE9680 con MI300X como un recurso clave para democratizar aún más el acceso a GenAI. Estas características permiten a las empresas no solo entrenar modelos más grandes, sino también reducir el tamaño de sus centros de datos, disminuir el costo total de propiedad (TCO) y, en última instancia, obtener una ventaja competitiva en el mercado.
En línea con estas innovaciones, Dell también está ampliando sus Soluciones de Inteligencia Artificial Generativa con un diseño validado que soporta el Acelerador AMD MI300X Instinct. Este desarrollo es un paso adelante para facilitar a las organizaciones la implementación de GenAI de manera confiable. Incluyendo el conjunto ROCm™ de AMD, que comprende controladores de código abierto, herramientas de desarrollo y APIs específicas para aceleradores AMD Instinct, este nuevo diseño validado de Dell para IA Generativa con AMD ROCm™ integra LLMs de código abierto. Esto hace que sea más sencillo para los clientes de Dell construir plataformas GenAI personalizadas y robustas, eliminando la incertidumbre en cuanto a la integración, el rendimiento y el dimensionamiento.
Además, el PowerEdge XE9680 se destaca no solo por su rendimiento, sino también por su seguridad y simplicidad. La implementación de la infraestructura GenAI se ve enormemente facilitada por el software Dell Open Manage Enterprise, mientras que CloudIQ ofrece automatización inteligente accesible desde cualquier lugar. Reforzando aún más su perfil, el PowerEdge XE9680 viene equipado con recuperación cibernética integrada y adopta un enfoque de Confianza Cero para una mayor seguridad.
Profundizando en su arquitectura, el PowerEdge XE9680 con MI300X se beneficia de la Plataforma Infinity de AMD. Esta plataforma, impulsada por ocho aceleradores AMD Instinct MI300X, permite una escalabilidad casi lineal y un entrenamiento GenAI distribuido de baja latencia. Este avance se logra mediante la Interconexión Global de Memoria (xGMI), que enlaza un clúster de servidores PowerEdge, interconectando GPUs MI300X a través de una malla de inteligencia artificial basada en Ethernet. Dell ha validado esta malla de GPU con el Dell PowerSwitch Z9664F-ON, asegurando un rendimiento óptimo y una integración efectiva.
Como miembro activo del Consorcio de Ethernet Ultra (UEC), Dell continúa defendiendo una red basada en estándares abiertos. Esta posición estratégica permite a Dell Technologies aprovechar al máximo el potencial de un enfoque abierto en toda la solución GenAI, abarcando desde la computación hasta la malla y el almacenamiento.
El Dell PowerEdge XE9680 con Aceleradores AMD Instinct™ MI300X y el Diseño Validado de Dell para IA Generativa con AMD estarán disponibles para los clientes en la primera mitad de 2024.
Avances en almacenamiento para estrategias de IA y GenAI
Paralelamente, Dell Technologies ha hecho progresos significativos en sus sistemas de almacenamiento con Dell PowerScale, logrando hasta un 200% de mejora en el rendimiento para lecturas y escrituras en streaming. Estos avances no solo facilitan un acceso más rápido a los datos para cargas de trabajo de IA, sino que también refuerzan las capacidades de modelado de IA con las actualizaciones de software Dell PowerScale OneFS.
Arthur Lewis, presidente del Grupo de Soluciones de Infraestructura de Dell Technologies, enfatiza la importancia del rendimiento del almacenamiento para el éxito en IA y GenAI, y destacó la forma en la que Dell está liderando la innovación en este campo.
PowerScale introducirá una nueva función de expansión inteligente para optimizar el rendimiento de los nodos de cómputo y mejorar la eficiencia de las GPU. Esto se traducirá en una velocidad de transferencia de datos más rápida, lo cual es crucial para el entrenamiento de inteligencia artificial (IA), la creación de puntos de control (checkpointing) y la inferencia.
Scott Sinclair, de Enterprise Strategy Group, destacó el compromiso de Dell con el desarrollo de soluciones de almacenamiento orientadas a la IA, según explicó: “Las mejoras recientes en PowerScale permitirán a los usuarios optimizar el entrenamiento y el ajuste de modelos de IA, facilitando la toma de decisiones comerciales más rápidas y precisas”.
En colaboración con NVIDIA, Dell está trabajando para combinar sistemas NVIDIA DGX, almacenamiento Dell PowerScale y redes NVIDIA Quantum-2 InfiniBand y Spectrum Ethernet. Esta integración busca ofrecer un almacenamiento de IA más rápido y eficiente, y se espera que Dell sea el primero en lograr una solución de almacenamiento Ethernet validada en NVIDIA DGX SuperPOD.
Con la validación para NVIDIA DGX SuperPOD, Dell PowerScale reforzará las infraestructuras de IA llave en mano para centros de datos, permitiendo a los clientes acelerar sus iniciativas de IA y GenAI con soluciones de almacenamiento avanzadas.
Con casi el 87% de las empresas adoptando estrategias de multicloud, Dell brinda a los clientes la libertad de procesar datos donde tenga más sentido para ellos, ya sea en sus instalaciones, en el borde o en nubes públicas.
La incorporación de Dell APEX File Storage en Microsoft Azure y AWS brinda capacidades avanzadas de gestión y rendimiento de archivos. Esto permite a los clientes satisfacer las necesidades de aplicaciones de IA y aprendizaje automático de alto rendimiento. Además, a través de la colaboración con Databricks, Dell ofrece mayor flexibilidad en entornos multicloud para el manejo de grandes modelos de lenguaje y bibliotecas avanzadas.
La colaboración de Dell con Databricks y la integración del software de análisis de Starburst en sus servidores y sistemas de almacenamiento están diseñadas para acelerar los esfuerzos de IA y análisis de datos. Con el lanzamiento de su moderno lago de datos abierto, Dell busca proporcionar una solución integral para el análisis de datos en diferentes entornos.
Una visión integral para el futuro de la IA
Con estos desarrollos, Dell Technologies refuerza su compromiso de llevar la IA y la GenAI al siguiente nivel, ofreciendo soluciones integrales que abarcan desde el rendimiento hasta la seguridad y simplicidad. Estos esfuerzos son parte de una estrategia más amplia que busca democratizar aún más el acceso a tecnologías avanzadas y garantizar que las empresas estén equipadas para competir en la nueva era digital.
