Los nuevos servidores G593-ZX1/ZX2 de GIGABYTE están basados en la arquitectura del acelerador CDNA de AMD, que permite la computación a exaescala, y nuevas mejoras han dado lugar a la arquitectura CDNA 3, que es capaz de ofrecer ganancias significativas de rendimiento sobre la generación anterior de GPU MI250X.
Hay 8 GPU MI300X instaladas en estos servidores G593. Cada acelerador dispone de 192 GB de memoria HBM3 combinada, lo que resulta ideal para modelos de lenguaje de gran tamaño. Los servidores basados en MI300X están equipados con 2 procesadores AMD EPYC 9004, y para las ranuras de expansión adicionales se utilizan conmutadores PLX adicionales o conectividad directa. Estas 12 ranuras de expansión son para GPU, tarjetas de red o dispositivos de almacenamiento.
Los nuevos servidores llegarán al mercado en el primer semestre de 2024. Los interesados pueden ponerse en contacto con el equipo de ventas para obtener información detallada sobre el diseño del servidor y sobre cómo implantar rápidamente los sistemas de la serie MI300.
Advanced Micro Devices Inc. ha lanzado la serie Instinct MI300 de aceleradores de IA para centros de datos junto con la pila de software ROCm 6 compatible con modelos de lenguaje de gran tamaño (LLM).
El H100 tiene sólo 80 GB de memoria HBM3, mientras que el MI300X tiene 192 GB. El MI300X se fabrica con las tecnologías de 5nm y 6nm de TSMC, mientras que el H100 se fabrica con el proceso más moderno de 4N (4nm) de TSMC.
El MI300 tiene 19.456 procesadores de flujo y 304 unidades de cálculo con una velocidad de reloj máxima de 2,1 GHz. Con ello se consigue un rendimiento máximo de 1,3 PFLOPS en FP16 y 2,6 PFLOPS en INT8. El dispositivo viene en un módulo de aceleración OCP (OAM) y utiliza refrigeración pasiva. El módulo incluye 192 gigabytes de memoria HBM3 con un ancho de banda teórico máximo de 5,3 terabytes por segundo.
Los nuevos servidores llegarán al mercado en el primer semestre de 2024. Los interesados pueden ponerse en contacto con el equipo de ventas para obtener información detallada sobre el diseño del servidor y sobre cómo implantar rápidamente los sistemas de la serie MI300.
Advanced Micro Devices Inc. ha lanzado la serie Instinct MI300 de aceleradores de IA para centros de datos junto con la pila de software ROCm 6 compatible con modelos de lenguaje de gran tamaño (LLM).
El H100 tiene sólo 80 GB de memoria HBM3, mientras que el MI300X tiene 192 GB. El MI300X se fabrica con las tecnologías de 5nm y 6nm de TSMC, mientras que el H100 se fabrica con el proceso más moderno de 4N (4nm) de TSMC.
El MI300 tiene 19.456 procesadores de flujo y 304 unidades de cálculo con una velocidad de reloj máxima de 2,1 GHz. Con ello se consigue un rendimiento máximo de 1,3 PFLOPS en FP16 y 2,6 PFLOPS en INT8. El dispositivo viene en un módulo de aceleración OCP (OAM) y utiliza refrigeración pasiva. El módulo incluye 192 gigabytes de memoria HBM3 con un ancho de banda teórico máximo de 5,3 terabytes por segundo.