Nvidia ha presentado su nueva tarjeta gráfica profesional HGX H200, que está basada en la arquitectura Hopper. Ha sido diseñada específicamente para manejar cantidades masivas de datos y ser utilizada en aplicaciones de inteligencia artificial generativa.
Su lanzamiento va a suponer un impulso en el desarrollo de este tipo de tecnologías, cuyo progreso se ha visto condicionado en el último año por la insuficiente capacidad de computación de las tarjetas gráficas existentes. Para ello, la nueva Nvidia HGX H200 va a contar con 141 GB de memoria ultrarápida HBM3e con un ancho de banda de 4,8 TB/s.
Nvidia señala que va a ofrecer casi el doble de velocidad de procesamiento en comparación con la H100 en modelos de lenguaje de gran tamaño como LLaMa 2, que hacen uso de decenas de miles de millones de parámetros. Además, ha apuntado que las actualizaciones de software que tiene previsto lanzar en el futuro mejorarán aún más si cabe sus prestaciones.
Esta tarjeta sobresale en el cálculo de un gran número de operaciones matriciales en paralelo, que son imprescindibles para el funcionamiento de las redes neuronales. El uso de la nueva HGX H200, como hasta ahora ha sucedido con su predecesora, la HGX H100, va a ser fundamental para el entrenamiento de los modelos de inteligencia artificial que hay detrás de programas tan conocidos como ChatGPT o Google Bard.
Nvidia ha confirmado que las primeras unidades no se van a distribuir entre las principales empresas tecnológicas del momento hasta el segundo trimestre de 2024. Una vez se ponga a la venta, todo hace indicar que se va a situar como la plataforma para supercomputación líder del mercado en entornos relacionados con la inteligencia artificial.
Su precio no ha sido desvelado, pero con toda seguridad va a ser muy alto. Basta con señalar al respecto que la H100 se vende por unas cantidades que oscilan entre los 30.000 y los 40.000 euros en función de la configuración que se escoja, mientras que la A100 se sitúa cerca de los 10.000 euros.
Pese a su elevado coste, Nvidia ha confirmado que compañías como Amazon, Google, Microsoft u Oracle van a ser de las primeras en integrar las nuevas tarjetas gráficas HGX H200 en sus plataformas de computación en la nube. También ha informado que ha llegado a acuerdos con fabricantes de servidores como Asus, Dell, Gigabyte, ASRock Rack, Ingrasys, Hewlett Packard o Lenovo, entre muchos otros, para que las integren en los equipos que comercialicen entre sus clientes profesionales.