Samsung ha comenzado el año 2024 con fuerza al anunciar el desarrollo de una versión de 12 capas de la memoria de alto ancho de banda (HBM) más avanzada disponible en la actualidad: HBM3e. Este desarrollo hará que la industria avance en términos de ancho de banda y capacidad para productos de servidor, pasando de ocho capas con 24 GB por pila a 12 capas con 36 GB.
La introducción de HBM3e de 12 capas aumenta el ancho de banda total disponible por pila a la friolera de 1.280 GB/s, lo que supera todo el ancho de banda disponible para una RTX 4090 en una sola pila. Para contextualizar, la HBM3 de ocho capas de la generación anterior de Samsung ofrecía 819 GB/s de ancho de banda. Añadir cuatro capas más de memoria también aumenta la capacidad por pila, lo que según la compañía beneficiará a los "proveedores de servicios de la industria de la IA". Samsung ha firmado acuerdos previamente con AMD y Nvidia, pero aún no ha anunciado ningún socio para su diseño de 12 capas.
Con el último anuncio, Samsung parece estar en una lucha titánica con su rival Micron, que presentó ayer su propia HBM3e de 12 capas y 36 GB. Aún está por ver qué empresa será la primera en llegar al mercado, pero será una carrera reñida. Samsung afirma que planea comenzar la producción en masa en la primera mitad de 2024, y Micron dice que comenzará a mostrar su versión a los clientes en marzo de 2024, lo cual está a la vuelta de la esquina.
SK Hynix anunció una HBM3 de 12 capas en abril del año pasado con 24 GB por pila. Solía ser el único proveedor de HBM de la industria, pero ahora se enfrenta a una dura competencia de Samsung y Micron. Se espera que SK Hynix lance HBM33 este año, y Micron está proporcionando HBM3e al acelerador de IA H200 de Nvidia, probablemente uno de los contratos más lucrativos disponibles actualmente en el mundo de la memoria.
Samsung afirma que ha conseguido una pila HBM3e de 12 capas utilizando una película no conductora de compresión térmica (TC NCF), lo que le ha permitido mantener la misma altura que un diseño de ocho capas para cumplir los requisitos de embalaje. Al mismo tiempo, la densidad vertical se mejora en un 20% en comparación con la HBM3 de ocho capas. Samsung afirma que el aumento de la capacidad de la memoria reducirá el costo total de propiedad y aumentará la velocidad media de entrenamiento de la IA en un 34%.