Het Japanse Kioxia heeft NAND-geheugen ontwikkeld met een capaciteit van 5 TB en een overdrachtssnelheid van 64 GB/s. Het flash-geheugen komt zo in de buurt van HBM.
Kioxia heeft een prototype ontwikkeld van een flashgeheugenmodule met een capaciteit van vijf terabyte en een bandbreedte van 64 GB/s. De module moet toepassingen ondersteunen die grote hoeveelheden data en snelle verwerking vereisen, zoals edge computing en artificiële intelligentie.
Middenweg
De ontwikkeling maakt deel uit van het onderzoeksprogramma Post-5G Information and Communication Systems Infrastructure Enhancement R&D Project, efinancierd door de Japanse onderzoeksorganisatie NEDO. Het prototype moet een antwoord bieden op de beperkingen van conventionele DRAM-modules, waarbij er een afweging is tussen capaciteit, snelheid en economische haalbaarheid.
Het NAND-geheugen van Kioxia moet de voordelen van een klassieke SSD combineren met de hoge snelheid van gespecialiseerd DRAM- of HBM-geheugen.
Complexe RAID-0
Kioxia maakt dat waar via zogenoemde daisy-chainverbinding op modulair niveau. Daarbij worden geheugencontrollers in serie geschakeld. De centrale controller voor alle flash-modules vormt doorgaans de flessenhals voor snel flash-geheugen en Kioxia lost dat op door iedere module van zijn eigen controller te voorzien.
Die aanpak maakt het mogelijk om de capaciteit te verhogen zonder verlies aan bandbreedte. Daarnaast ontwikkelde het bedrijf een transceivertechnologie die overdrachten tot 128 gigabit per seconde ondersteunt. Ook introduceerde het technieken om de prestaties van flashgeheugen te verbeteren, zoals prefetching om leesvertraging te beperken en signaaloptimalisatie om de geheugeninterface te versnellen.
In essentie plaatst Kioxia flash-geheugen in een RAID-0-configuratie om zo tot een groot en erg snel flash-array te komen. Door die technologie op het niveau van de flash-modules zelf uit te werken, levert de fabrikant een component af dat 64 GB/s haalt met een capaciteit van 5 TB.
Zuinig
De module gebruikt PCIe 6.0 als hostinterface en haalt een verbruik van minder dan 40 watt. Volgens Kioxia kan de technologie worden ingezet in servers voor mobile edge computing, die data dichter bij de gebruiker verwerken en zo latency verlagen. Dit is relevant voor toepassingen in IoT, big data-analyse en geavanceerde AI-modellen, waaronder generatieve AI.
Ietwat ironisch is latency nu wel net de achileshiel van dit systeem, tenminste vergeleken met HBM-geheugen. Echt HBM-geheugen heeft een latency van fracties van een nanoseconde, terwijl de oplossing van Kioxia dichter bij een microseconde blijft. Algoritmes en cache bieden soelaas, maar enkel voor sequentiële workloads.
lees ook
Kioxia toont 5 TB supersnel NAND-geheugen met HBM-ambities
Kioxia toont met andere woorden een oplossing die het midden houdt tussen klassieke flash-opslag en DRAM- en HBM-geheugen. De module kan relevant zijn voor tal van workloads zoals AI en analyse-workloads. Daar primeert capaciteit en doorvoersnelheid op pure latency.
Commercieel vatbaar?
Het prototype heeft in theorie zijn plek in het hardware-ecosysteem. In de praktijk is Kioxia niet de eerste die een product wil positioneren tussen flash en DRAM. Intel en Micron probeerden met Optane tevergeefs iets gelijkaardigs. Kioxia onderzoekt nu de mogelijkheden om de technologie commercieel beschikbaar te maken.