AMD übernimmt MEXT: Eine neue Branchenrichtung – Erweiterung der Anwendungsfälle für NAND-Flash-Speicher

AMD hat kürzlich die Übernahme von MEXT bekannt gegeben. Das ist für uns bei Phison eine sehr erfreuliche Nachricht, da es unsere Einschätzung eines sich entwickelnden Trends bestätigt: Die Branche definiert die Rolle von NAND-Flash als unverzichtbaren Bestandteil der Speicherhierarchie im Zeitalter der KI neu.

Seit über zwei Jahrzehnten wird NAND-Flash primär als Speichermedium eingesetzt. Das Aufkommen generativer KI hat diese Branchenlandschaft jedoch grundlegend verändert. Mit dem Wachstum von KI-Modellen und Key-Value-Caches werden DRAM und HBM zunehmend zu den teuersten und knappsten Ressourcen in KI-Systemen. Daher ist die Suche nach Möglichkeiten, mehr Daten effektiv auf SSDs und Flash-Speicher auszulagern, zu einer gemeinsamen Priorität der gesamten Branche geworden.

Die vom japanischen Ministerium für Bildung, Kultur, Sport, Wissenschaft und Technologie (MEXT) entwickelte Technologie ist ein KI-gesteuerter, prädiktiver Swap-Mechanismus, der unter Linux läuft. Er identifiziert selten genutzte Daten und verschiebt sie auf SSDs, wodurch mehr Platz für häufig genutzte Daten im Arbeitsspeicher (DRAM) geschaffen wird. Der entscheidende Vorteil liegt in der präzisen Vorhersage, welche Daten in den Arbeitsspeicher zurückgeladen werden müssen, bevor sie benötigt werden. So wird sichergestellt, dass Anwendungen auf relevante Daten aus dem DRAM zugreifen können. Die vollständige Erweiterung des DRAM durch Flash-Speicher lässt sich jedoch nicht allein durch Software realisieren; sie erfordert eine enge Zusammenarbeit mit SSD-Herstellern.

Sowohl MEXT als auch Pascari aiDAPTIV™ ergänzen sich und lassen sich problemlos zusammenarbeiten. Die MEXT-Technologie konzentriert sich auf prädiktives Memory Tiering für umfangreiche Rechenlasten, während aiDAPTIV mit Inferenz- und Trainingslaufzeiten unter Verwendung KI-Workload-bewusster Speicherverwaltung arbeitet. Eine weitere Möglichkeit der Zusammenarbeit ergibt sich aus Phisons Bemühungen zur Optimierung des SSD-Verhaltens für KI-Speicher- und Cache-Workloads sowie zur Integration von KI-Beschleunigern direkt in die SSD.

Diese kontinuierliche Erweiterung der NAND-Fähigkeiten spiegelt auch das Konzept der CUDA-Bibliotheken von NVIDIA wider. Von Grafikrendering und HPC-Analysen (High-Performance Computing) bis hin zu maschinellem Lernen und generativer KI schafft die Einführung jeder neuen CUDA-Bibliothek ein neues Anwendungsszenario für GPUs und steigert so deren Wert und Nachfrage weiter.

Phisons aiDAPTIV-Technologie ist analog dazu darauf ausgelegt, die Auslastung und die Anwendungsszenarien von Flash-Speicher in Systemen kontinuierlich zu steigern. Während CUDA-Bibliotheken die Einsatzmöglichkeiten von GPUs erweitern sollen, trägt aiDAPTIV dazu bei, die Einsatzmöglichkeiten von Flash-Speicher als zusätzliche Speicherebene zu erweitern.

Phison hat aiDAPTIV-Funktionen entwickelt, die dabei helfen, Daten, die traditionell DRAM oder HBM benötigen, effektiv mithilfe von Flash zu verwalten:

• • • KI-Modelltraining und Feinabstimmung
    • KI-MoE-Inferenz mit Experten-Offloading zur Reduzierung des Speicherbedarfs
    • KI-Inferenz KV-Cache-Erweiterung und -Wiederverwendung
    • KI-stabile Diffusionsmodell-Auslagerung und Speichererweiterung

Dank dieser Fähigkeiten geht Flash-Speicher weit über seine traditionelle Rolle als reiner Datenspeicher hinaus. Er kann nun direkt in vielfältige Anwendungen wie KI-Modelltraining, Inferenz, KV-Cache-Management und generative KI-Anwendungen unter Linux und Windows eingebunden werden. aiDAPTIV unterstützt zudem eine breite Palette von Prozessoren (CPUs, GPUs, XPUs) und ermöglicht so die Integration von Flash-Funktionen in unterschiedlichste Rechnerarchitekturen.

Genau hier liegt Phisons klarer Vorteil.

Phison ist seit über zwei Jahrzehnten fest in der NAND-Flash-Industrie verankert und verfügt über umfassende technische Expertise in den Bereichen Controller, Firmware, Zuverlässigkeit und Leistung. Gleichzeitig haben wir durch die Entwicklung von aiDAPTIV weitreichende praktische Erfahrungen in verschiedenen Anwendungsbereichen gesammelt, darunter KI-Training, KI-Inferenz, KV-Cache-Wiederverwendung, generative KI und Speichererweiterung.

Wir gehen davon aus, dass immer mehr innovative Softwareunternehmen – wie beispielsweise das japanische Ministerium für Bildung, Kultur, Sport, Wissenschaft und Technologie (MEXT) – in die Entwicklung innovativer NAND-Flash-Anwendungen investieren werden. Phison setzt weiterhin auf die enge Zusammenarbeit mit diesen Lösungsanbietern, die die Anwendungsbereiche von Flash-Speichern erweitern. Durch die Kombination der Innovationskraft unserer Partner in den Bereichen Software und Systemarchitektur mit Phisons umfassender Expertise in der Flash-Technologie wollen wir gemeinsam hochkompetitive, integrierte Hardware-Software-Lösungen entwickeln.

Durch dieses Kooperationsmodell bietet Phison nicht nur branchenführende Zuverlässigkeit und Leistung von NAND-Flash-Speichern, sondern unterstützt Partner auch dabei, den Wert ihrer Softwaretechnologien zu maximieren. Letztendlich ermöglicht uns dies, Kunden Komplettprodukte anzubieten, die ein optimales Verhältnis von Leistung, Zuverlässigkeit und Gesamtbetriebskosten (TCO) bieten.

So wie CUDA die Einsatzmöglichkeiten von GPUs kontinuierlich erweitert hat, wird Phison den Anwendungsbereich von Flash-Speichern durch den Ausbau der aiDAPTIV-Funktionen weiter ausdehnen.

Wir sind überzeugt, dass das größte Zukunftspotenzial für NAND-Flash-Speicher nicht allein in der Speicherung größerer Datenmengen liegt, sondern auch in der Ermöglichung leistungsfähigerer und speicherintensiverer Anwendungen. Dies stellt den nächsten bedeutenden Wachstumspfad für die Flash-Industrie dar.