Los sistemas de inteligencia artificial no suelen ralentizarse por limitaciones de cálculo, sino porque el sistema no puede mover los datos lo suficientemente rápido como para mantener al procesador constantemente alimentado de información.

En otras palabras, el cuello de botella no está en la capacidad de procesar datos, sino en la capacidad de entregar esos datos a la velocidad que requieren las cargas de trabajo modernas de IA.

Aquí es donde la High Bandwidth Memory (HBM) se convierte en una parte importante de la arquitectura.

Para una visión más amplia de cómo la memoria está evolucionando más allá del flash y por qué los sistemas de IA ahora dependen de múltiples niveles, consulta nuestro análisis principal: NAND no va a desaparecer, pero los servidores de IA ahora dependen de algo más que solo flash.