Abonnieren Sie unseren NEWSLETTER

Die Beziehung zwischen KI und Flash ist schwer zu definieren

Je mehr Daten eine Anwendung abrufen muss, desto größer ist der Leistungszuwachs, der durch die Speicherung von Daten in Flash statt auf Festplatten erzielt wird. Da KI eine sehr datenintensive Anwendung ist, liegt die Vermutung nahe, dass es ohne Flash keine moderne KI gäbe. Mehr als ein Mitglied unseres Panels stellte diese These jedoch in Frage.

"Einige in der Branche argumentieren, dass wir die heutige KI ohne die Umstellung auf Festkörperspeicher im letzten Jahrzehnt nicht hätten. Das mag zwar wahr sein, ist aber enorm schwer zu beweisen. KI-Training verbraucht enorme Ressourcen, und SSDs [Solid-State-Laufwerke] haben die Entwicklung der Rechenleistung in allen Bereichen beschleunigt, so dass die KI davon profitiert hat", so Jim Handy, Generaldirektor des Analystenhauses Objective Analysis. Er fügt hinzu: "Das Gleiche gilt für jede Disziplin, die auf fortschrittlicher Rechentechnik basiert - sei es Analytik, Kernphysik oder Meteorologie."

David Norfolk, Practice Leader für Entwicklung und Regierung beim Analystenunternehmen Bloor Research, ergänzt: "Flash macht Speicher schneller, billiger und zuverlässiger und ermöglicht so datenintensive Innovationen wie KI/ML, Analytik, IoT und Edge Processing. Umgekehrt benötigen diese Innovationen mehr schnellen, billigen und zuverlässigen Speicher, und ich erwarte, dass die Verbreitung von Flash mit der Verbreitung dieser Innovationen Schritt halten wird."

Leander Yu, Präsident und CEO von Graid Technology, gibt seine Einschätzung: "Bei Flash-Speicher und All-Flash-Array-Speicherlösungen geht es vor allem um Leistung. Die Killer-Apps KI/ML sowie Analytik sind die Bereiche, in denen Kunden in ihre IT-Infrastruktur investieren, und diese Workloads erfordern die Leistung von All-Flash-Speichern".

Eine umfassendere Sichtweise vertritt Peter Donnelly, Director of Products bei ATTO: "Ich glaube, dass wir uns mitten in einem dramatischen Wandel befinden, was die Art und Weise betrifft, wie und wo Daten gesammelt und genutzt werden. Daraus ergibt sich die Notwendigkeit, das Rechenzentrum aufzuteilen. Das heißt nicht, dass es keine Rechenzentren mehr geben wird, aber sie werden weniger strukturiert und flexibler. Dies ist eine wichtige Dynamik, die den Bedarf an Flash-Speicher und Flash-Storage vorantreibt. Wie können wir auf Daten zugreifen und sie nutzen, die sich im ganzen Land oder sogar auf der ganzen Welt befinden, und zwar auf eine Art und Weise, die den Anschein erweckt, dass sie lokal gespeichert sind? Flash hilft bei der Bewältigung dieser Herausforderung und ermöglicht neue Technologien wie KI und Datenanalyse in einem Umfang, der bisher unmöglich war.

KI und Analytik verändern die Architektur von Flash-basierten Speichersystemen

Auch wenn sich die Auswirkungen von Flash auf KI, Analysen, IoT und Edge-Processing nur schwer quantifizieren lassen, ist Flash mit Sicherheit ein Schlüsselelement in der IT-Infrastruktur, die zur Bewältigung dieser Workloads aufgebaut wird. Wenn es um die Implementierung von KI geht, wird diese Infrastruktur laut Randy Kerns, Senior Stratege beim Analystenunternehmen Futurum Group, mehr Aufmerksamkeit erhalten als bisher.

"Ich denke, wir beginnen gerade erst, die Bedeutung der zugrundeliegenden Gerätetechnologie zu erkennen, die für KI/ML verwendet wird. Derzeit liegt der Schwerpunkt auf den Algorithmen und der Datenaufbereitung aus verschiedenen Quellen, um damit zu arbeiten und die Trainings- und Testdaten zu erstellen. Zurecht lag das Hauptaugenmerk auf den funktionalen Aspekten, um diese zum Laufen zu bringen. Jetzt, da die Technologie ausgereift ist, werden die Optimierungen und die schnellere Erzielung von Ergebnissen dazu führen, dass die Technologien für die Speicherung stärker in Betracht gezogen werden. Einige Implementierungen mögen weiter fortgeschritten sein als andere, aber wir werden sehen, dass KI/ML und die Verwendung von Flash-Speichern immer wichtiger werden", so Kerns.

Die Fähigkeit von Flash, kleine, zufällige Datenzugriffe oder IO-Operationen zu verarbeiten, entspricht den Anforderungen von KI/ML und Analysen. "Festplattenlaufwerke sind Steampunk-Geräte. SSDs haben aufgrund ihrer enormen IOPs [IO-Operationen pro Sekunde] Vorteile bei allen Arbeitslasten, die kleine und/oder zufällige Übertragungen beinhalten, übernommen. KI/ML-Schulung und -Analyse beinhalten zufällige E/A-Workloads, und IoT wird von extrem kleinen Übertragungen dominiert, was beide zu frühen Erfolgsgeschichten für All-Flash-Speichersysteme macht", so Curtis Anderson, Softwarearchitekt bei Panasas.

Die Leistungsanforderungen von KI/ML tragen nicht nur zur Verbreitung von All-Flash-Speichersystemen bei, sondern treiben auch architektonische Änderungen innerhalb dieser Systeme voran. "Architektonische Überlegungen dazu, wie Daten in den Speicher gelangen und ihn verlassen, sind ebenfalls wichtig. Aus diesem Grund eignet sich herkömmlicher HPC-Speicher gut für KI-Workloads, und es gibt viele neue Speicherunternehmen auf dem Markt, die Flash und NVMe [das Speicherprotokoll, das für den Zugriff auf Flash verwendet wird] nutzen, um durchgängig niedrige Latenzzeiten zu liefern und mögliche Engpässe auf der Speicherebene zu beseitigen", so Amos Ankrah, Lösungsspezialist bei Boston.

Von TB bis PB - das Ausmaß der Flash-Nutzung variiert gewaltig

KI-Anwendungen wie autonomes Fahren und große Sprachmodelle (LLMs) sind nach Andersons Worten "Vorzeigebeispiele" für die Verwendung großer Datensätze zum Trainieren von KI-Modellen. Als Beispiel nennt er Teslas Nutzung von mehr als 200 PB an "Hot-Tier-Cache-Kapazität", wie es der Autohersteller nennt. Anderson merkt jedoch auch an, dass die meisten Unternehmen weitaus kleinere Datensätze für die KI-Entwicklung verwenden. "Die überwiegende Mehrheit der KI/ML-Projekte hat einen Kapazitätsbedarf von (deutlich) weniger als 100 TB.“

Anderson und seine Kollegen bei Panasas gehen davon aus, dass diese typischeren KI-Datensätze zwar wachsen werden, aber nur langsam. Das ist auch gut so, denn Flash ist deutlich teurer als Festplatten, aber seine Nutzung ist für das KI-Training oft unerlässlich. Die Kluft zwischen Festplatten- und Flash-Leistung ist bei KI sogar noch größer als bei anderen Anwendungen, da der Zugriff auf KI-Daten generell zufällig erfolgt. Seit Jahrzehnten kompensieren Speicherhersteller die relativ niedrige Geschwindigkeit, mit der Festplattenlaufwerke semi-zufällige Datenzugriffsanfragen verarbeiten, indem sie heiße Daten oder solche, auf die häufig zugegriffen wird, identifizieren und in sehr schnellen DRAM-Speicher-Lesecaches speichern. "Lesecaching ist sehr hilfreich, wenn auf einen kleinen Prozentsatz der Daten mehrfach zugegriffen wird.

KI/ML passt oft nicht zu diesen traditionellen E/A-Zugriffsmustern, was Unternehmen dazu zwingt, für viele KI/ML-Workloads einen weitgehend Flash-basierten Ansatz zu wählen", so Steven Umbehocker, Gründer und CEO von OSNexus.

Leistung ist nicht der einzige Vorzug von Flash, insbesondere für IoT und den Edge-Bereich

Die Leistung ist nicht der einzige Vorteil, den Flash im Vergleich zu Festplatten bietet, da SSDs weniger Strom verbrauchen und gleichzeitig zuverlässiger sind sowie anspruchsvollen Umgebungen standhalten können. "Bei Anwendungen wie IoT, Edge-Processing und TinyML (maschinelles Lernen am Rande) besteht eine der obersten Design-Prioritäten darin, den Stromverbrauch - sowohl den dynamischen als auch den Standby-Stromverbrauch - immer weiter zu senken und gleichzeitig die höchstmögliche Leistung zu gewährleisten. Darüber hinaus ist es für jedes IoT-Design eine weitere Priorität, die Kosten niedrig zu halten", so Coby Hanoch, CEO und Gründer von Weebit Nano.

Ein weiterer Vorteil ist die Fähigkeit von Flash-Speichern, raue Umgebungen zu überstehen. "Wenn wir die Infrastruktur am Rande von Mobilfunkmasten und anderer lokaler Infrastruktur meinen, dann sind Solid-State-Speicher, insbesondere SSDs, eine eindeutige Grundlagentechnologie, da sie bei extremen Temperaturen besser funktionieren als andere Speichertechnologien, wie etwa Festplattenlaufwerke, die damit Schwierigkeiten hätten", so Tom Coughlin, Präsident des Analystenunternehmens Coughlin Associates und Mitglied der Compute, Memory and Storage Initiative beim Branchenverband Storage Networking Industry Association (SNIA). Roy Illsley, Chefanalyst des Marktforschungsunternehmens Omdia, hebt eine weitere physikalische Eigenschaft von Flash hervor: "Ein zweiter erwähnenswerter Aspekt ist die Fähigkeit, auf kleinem Raum zu arbeiten. Die KI-Inferenz-Workloads können an entfernten Standorten eingesetzt werden, wenn Flash der Speicher der Wahl ist."

Dennis Hahn, Principal Analyst bei Omdia, merkt an, dass Flash-Speicher am Edge oft in hyperkonvergenten Infrastrukturen (HCI) eingesetzt wird. "In Anwendungsfällen wie Edge ist die Verarbeitung von Echtzeit-Ergebnissen häufig der Fall, so dass schneller Flash-Speicher lokal bei den Verarbeitungsservern erforderlich ist. Omdia hat bei seinen Untersuchungen festgestellt, dass diese Edge-Systeme häufig HCI-Systeme sind, die SSD-Geräte verwenden." Dies bedeutet jedoch nicht, dass IoT-Daten immer in Flash gespeichert werden. "Bei der Datenerfassung im Rahmen des IoT stehen oft die Kosten im Vordergrund, und die Daten werden häufig über das relativ langsame Internet übertragen. Infolgedessen werden häufiger Massenspeicherlösungen wie HDD verwendet. Aber letztendlich kommt Flash wegen seiner Geschwindigkeit ins Spiel, um die IoT-Datenverarbeitung zu ermöglichen."

Hanoch von Weebit Nano bezieht sich auf die NOR-Variante von Flash, die in System-on-a-Chip-Prozessoren eingebettet ist: "In Geräten, die KI oder ML am Rande ausführen, wird Flash nicht nur für die Code-/Firmware-Speicherung und das Booten verwendet, sondern vor allem auch für die Speicherung der für die KI-Berechnungen erforderlichen, neuronalen Netzwerkgewichte, insbesondere bei neueren NVM-Typen wie ReRAM. Um diese Funktionalität zu unterstützen und gleichzeitig die Kosten und den Stromverbrauch auf ein Minimum zu beschränken, drängen die Designs auf fortschrittlichere Knoten wie 28nm und 22nm, die derzeit der Sweet Spot für IoT- und Edge-Geräte sind. Dies erfordert NVM, das monolithisch in ein SoC eingebettet ist. Eingebetteter Flash lässt sich jedoch nicht auf 28nm und darunter skalieren, so dass die Entwickler ihn nicht mit anderen Funktionen auf einem einzigen Chip integrieren können. Dies ist eine große Herausforderung bei der Entwicklung dieser kleinen, preiswerten und oft batteriebetriebenen Geräte.

Der Abstand zwischen Festplatten- und Flash-Preisen wird sich nicht ändern

Die Variante des Flash-Speichers, welche die Flash-Nutzung stark dominiert, ist NAND-Flash. Bis in die späten 90er Jahre war NAND-Flash eine sehr teure und selten genutzte Technologie. Dies änderte sich Ende der 90er Jahre, als die Hersteller von batteriebetriebenen Geräten wie MP3-Playern und Mobiltelefonen nach einem Datenspeichermedium suchten, das weniger Strom verbrauchte als Miniatur-Festplattenlaufwerke. NAND-Flash war genau das Richtige, die Produktion stieg in die Höhe, und die Preise fielen. Überraschenderweise wurde NAND-Flash jedoch erst um 2004 billiger als DRAM-Speicher.

Der wichtigste Preisvergleich war jedoch immer der zwischen Flash und Festplatten. Obwohl der Preis für Flash-Speicher in den letzten zwanzig Jahren gesunken ist, ist der Preis für Festplattenlaufwerke ebenfalls gesunken, wenn man beide in Dollar pro Einheit Speicherkapazität misst. In den letzten zehn Jahren war der Abstand zwischen den beiden relativ konstant. "SSD $/TB haben in den letzten zehn Jahren ungefähr den gleichen 5- bis 7-fachen Multiplikator gegenüber HDD $/TB beibehalten", so Anderson. Diese Schätzung des Preisunterschieds wird von Umbehocker sowie von Giorgio Regni, CTO bei Scality, bestätigt, die beide den Preisunterschied pro TB auf das Fünffache beziffern.

"Wir glauben nicht, dass der Markt die Flash-Anbieter dazu drängt, dies in Zukunft zu ändern", so Anderson. In Bezug auf die sogenannten Fabriken - die Produktionsanlagen, in denen Flash und andere Halbleiterchips hergestellt werden - fügte Anderson an: "Es gibt nur eine Handvoll Flash-Fabriken auf der Welt, und neue werden nicht in einem Tempo gebaut, das das Wachstum der Flash-Nachfrage übersteigt." Auch diese Ansicht wird von anderen Experten geteilt, die auf die Notwendigkeit hinwiesen, neue Fabriken zu bauen, um die weltweite Produktion zu erhöhen, und auf die enormen Kosten, die von Hunderten von Millionen bis zu Milliarden Dollar pro Produktionsanlage reichen, sowie auf die Jahre der Planung und des Baus, die dafür erforderlich sind.

Experten erwarten, dass die Flash-Preise weiter fallen werden

Kurzfristig haben die Flash-Preise in der Vergangenheit immer wieder dramatische Schwankungen erlebt. Jim Handy, Objective Analysis: "Während einer Verknappung flachen die Preise in der Regel ab, aber manchmal steigen sie auch ein wenig. In sehr seltenen Fällen steigen sie beträchtlich an, wie etwa im Jahr 2018. Wenn die Knappheit in ein Überangebot umschlägt, kommt es immer zu einem alarmierend schnellen Preisverfall. Diesen Einbruch hatten wir in der zweiten Hälfte des Jahres 2022, als die Preise um bis zu 70% fielen."

Boyan Krosnov, CTO und Mitbegründer von StorPool, erläuterte die Faktoren, die die langfristigen Preistrends für Flash beeinflussen. "Der zukünftige Preis von Flash hängt von den Kapitalkosten, den Energiekosten, dem Angebot sowie der Nachfrage ab, die wiederum stark vom Gesamtwachstum der IT-Infrastruktur abhängen. Wenn man also davon ausgeht, dass die Weltwirtschaft wächst und die IT-Infrastruktur noch schneller wächst, dann wird der Preis für Flash in den nächsten 1-2 Jahren steigen. Dann werden die Produktionskapazitäten aufholen, und in ein paar Jahren wird der Preis wieder auf den langsamen Abwärtstrend zurückkehren.“

Shawn Meyers, Field CTO bei Tintri, stimmt dem zu: "Die Weltwirtschaft wird der größte treibende Faktor sein, abgesehen von neuen revolutionären Durchbrüchen in der Flash-Herstellung. Die Lieferkette wird auf absehbare Zeit dem Bullwhip-Effekt folgen." Zwischen Preisverfall und Preisanstieg fallen die Preise pro TB jedoch langsam, so Handy von Objective Analysis. „Die Preistrends sind überraschend vorhersehbar. Wir erstellen die beständigsten und genauesten Preisprognosen der Branche.“ Wie schnell werden die Flash-Preise nach Ansicht von Objective Analysis in den nächsten fünf Jahren fallen? "Von jetzt an bis Mitte 2028 wird der durchschnittliche Preisrückgang etwa 15% pro Jahr betragen", so Handy. Er fügt an, dass auf eine mögliche Verknappung Mitte bis Ende 2024 ein Überangebot und ein Preisverfall im Jahr 2026 folgen würden.

Regni von Scality prognostiziert jedoch einen immer schnelleren Preisverfall für die kostengünstigste QLC-Variante von Flash. "Basierend auf Roadmaps von Hardware- und Festplattenherstellern sehen wir einen drastischen Rückgang der Kosten (gemessen als $ pro Terabyte) von High-Density (QLC) Flash-SSDs. Die uns zur Verfügung gestellten Daten zeigen einen Preisrückgang von mehr als 60% zwischen 2022 und 2025."

Der von Regni genannte Preisrückgang von 60% für QLC-Flash-Speicher entspricht einem durchschnittlichen Preisrückgang von 26% zwischen 2022 und 2025, was deutlich schneller wäre als die von Handy prognostizierten 1% für die Gesamtpreise von Flash-Speicher über den längeren Zeitraum von 2023 bis 2028. Regni: "Dies ist zwar ein schnellerer Rückgang als bei äquivalenten High-Density-HDDs, aber wir sehen immer noch einen 5-fachen Kostenvorteil von HDDs gegenüber SSDs im gleichen Zeitraum."