Vom Rechenzentrum bis zum Edge: Wie industrielle Speichersysteme KI ermöglichen

Wenn wir heutzutage über KI-Infrastruktur sprechen, denkt man als Erstes an GPUs, Beschleunigercluster und Speicher mit hoher Bandbreite. Und sie alle verdienen es zu Recht, im Rampenlicht zu stehen. KI-Modelle benötigen enorme Rechenleistung und eine extrem hohe Speicherbandbreite, um ihre Aufgaben ordnungsgemäß erfüllen zu können. Lassen Sie mich Ihnen jedoch etwas über alles erzählen, was hinter den Kulissen geschieht – über die Infrastruktur, die dafür sorgt, dass KI-Cluster reibungslos laufen, verwaltbar und zuverlässig genug sind, um ihre Aufgaben über Jahre hinweg zu erfüllen.

Tatsächlich ist das KI-Rechenzentrum mehr als nur Beschleuniger und Petabytes an Hochgeschwindigkeitsspeicher. Es ist ein lebendiges Ökosystem, das aus vielen verschiedenen Komponenten besteht, von denen jede für den gesamten Prozess unverzichtbar ist. Und die Wahrheit ist, dass die meisten dieser Komponenten in gewissem Umfang Flash-Speicher benötigen. Dabei handelt es sich nicht um den Flash-Speicher, den wir gewohnt sind, um unsere Modelle und Datensätze zu speichern; es ist der Flash-Speicher, den wir benötigen, um den Boot-Code, die Firmware, Konfigurationen, Protokolle, Sicherheits- und Telemetriedaten zu speichern. Ohne Flash-Speicher wäre die umgebende Infrastruktur, die den Betrieb der KI-Cluster ermöglicht, nicht in der Lage, ihre Aufgaben zu erfüllen.

Wir stellen uns KI-Rechenzentren als Reihen von GPUs vor, doch in Wirklichkeit handelt es sich um eine komplexe, vielschichtige Umgebung, die aus vielen verschiedenen, miteinander vernetzten Systemen besteht, um die Endlösung bereitzustellen. Speichersysteme bilden das Rückgrat paralleler Dateisysteme wie Lustre oder GPFS und nutzen Flash-Speicher, um Daten-Striping und Datenübertragung mit hohem Durchsatz zu ermöglichen. Metadatenserver sind ein weiteres System, das die Speicherserver ergänzt und Flash-Speicher nutzt, um hochleistungsfähige Dateivorgänge und Namespace-Informationen bereitzustellen.

Auch die GPU-Rechenknoten selbst sind für den Systemstart, das Betriebssystem, den Treiberstack, Provisioning-Artefakte, Container-Laufzeitumgebungen und Diagnoseprotokolle auf lokalen Flash-Speicher angewiesen. Bei komplexeren KI-Architekturen gilt dies jedoch auch für DPUs, SmartNICs und andere Infrastrukturbeschleuniger, die häufig lokalen e.MMC- oder Small-Form-Factor-NVMe-Speicher zur Speicherung von Firmware-Paketen, kleinen Betriebssystemen, Mikro-Hypervisoren oder Netzwerkkonfigurationen nutzen.

Die zweite Schlüsselkomponente dieses Ökosystems ist der Management-Stack. Basis-Management-Controller (BMCs) nutzen lokalen Flash-Speicher für ihre eigene Firmware, Redfish- oder IPMI-Dienste oder sogar für Wiederherstellungsumgebungen. Ihre Hochverfügbarkeit ist offensichtlich entscheidend für die Überwachung oder sogar die Orchestrierung von Tausenden von Knoten. Im Bereich der Vernetzung nutzen Ethernet- oder sogar InfiniBand-Switches ebenfalls ihren eigenen lokalen Flash-Speicher zur Speicherung ihres Betriebssystems, ihrer Switch-Zustandskonfigurationen oder sogar ihrer Switch-Firmware.

Schließlich gibt es darüber hinaus noch die logische Steuerungsebene des Clusters, die ebenfalls in hohem Maße auf Speicher angewiesen ist. Wir haben Management- oder Orchestrierungsserver, die zuverlässige SSDs mit geringer Latenz für den Systemzustand, Metadaten zur Planung, die Bereitstellung oder sogar die Automatisierung nutzen. Außerdem gibt es Sicherheitslösungen, die Schlüsselverwaltung, Richtliniendefinitionen oder sogar Rollback-Informationen speichern – all dies ist ebenfalls auf zuverlässige und vertrauenswürdige Speicherlösungen angewiesen.

Selbst Knoten, die Einblicke in den Betrieb liefern – sei es im Bereich der Observability, der Telemetrie oder sogar der Protokollierung –, schreiben ständig riesige Mengen an Metriken, Indizes oder sogar Ereignissen in den lokalen Flash-Speicher. Ihr eigentlicher Zweck wird durch die Verfügbarkeit von Speicher definiert, der eine zuverlässige Schreibleistung bietet.

Betrachtet man diese Komponenten in ihrer Gesamtheit, ergibt sich ein recht klares Bild: KI-Rechenzentren erfordern ein riesiges Ökosystem aus Subsystemen, die alle erstklassige Flash-Speicherlösungen benötigen – auch wenn keines davon jemals in einem Benchmark-Diagramm oder einer Produktankündigung sichtbar sein wird.

Während KI in riesigen Rechenzentren exponentiell wächst, entwickelt sie sich auch am „Edge“ – näher an der Quelle. Edge-KI-Server führen KI-Inferenz in Fabriken, im Einzelhandel und sogar in unseren Städten durch. Edge-KI-Server führen Inferenz in Echtzeit auf Live-Kamerabildern und Maschinendaten durch. Dies verringert unsere Abhängigkeit von der Cloud und sorgt für mehr Datenschutz.

Flash-Speicher spielen bei diesen Edge-KI-Servern eine wichtige Rolle. Edge-KI-Server erfordern Datenpufferung und Caching in Echtzeit. Die Speichergeräte müssen Daten zwischenspeichern und in diesen Edge-Szenarien für Datenbeständigkeit sorgen. Zudem können diese Edge-Szenarien durch zeitweise unterbrochene Stromversorgung gekennzeichnet sein und sogar unter hohen Temperaturen betrieben werden. Daher müssen die Speichergeräte äußerst zuverlässig sein und unter diesen Bedingungen eine konstante Leistung erbringen.

Zu den Funktionen, die Teil des Funktionsumfangs werden, gehören unter anderem Datenaufbewahrung, Hardware-Verschlüsselung, Fernverwaltungsfunktionen, Schutz bei Stromausfall und Langlebigkeit. Am Edge müssen Speichergeräte jedoch mehr als nur schnell sein. Sie müssen vor allem zuverlässig sein.

Vom Rechenzentrum bis zum Edge muss Flash-Speicher eine Reihe komplexer Anforderungen erfüllen, darunter Stabilität über extreme Temperaturbereiche hinweg, anhaltende Schreibleistung für Protokoll- oder Telemetriedaten, hohe Leistung bei geringer Latenz für den Zugriff auf Metadaten oder Boot-Code sowie Datenintegrität im Falle eines Stromausfalls. Sicheres Firmware-Management und Hardware-Verschlüsselung gewinnen ebenfalls zunehmend an Bedeutung, ebenso wie die große Vielfalt an Formfaktoren, die alles von BMCs bis hin zu Edge-Gateways unterstützen.

Und natürlich wird Flash-Speicher in Industriequalität benötigt, nicht Flash-Speicher in Verbraucherqualität. Nur Flash-Speicher in Industriequalität kann die Anforderungen an Leistung, Lebensdauer und Zuverlässigkeit erfüllen, die sich aus ständigem Betrieb, extremen Temperaturen und schreibintensiven Workloads ergeben – Anforderungen, die sowohl für KI-Rechenzentren als auch für Edge-Umgebungen charakteristisch sind.

Zunächst einmal fügen sich unsere Stärken ganz natürlich in dieses Umfeld von KI-Systemen im Hintergrund ein. Unsere langen Produktlebenszyklen und unser Ansatz mit festgelegten Stücklisten (BOM) gewährleisten, dass genau dieselbe Komponente über viele Jahre hinweg garantiert verfügbar ist – was in einem Umfeld, in dem KI Veränderungen in der Komponentennachfrage vorantreiben kann, ein enormer Vorteil ist.

Zudem verfügen wir über eine streng kontrollierte, überwiegend in Europa angesiedelte Lieferkette. Alle unsere Produkte sind lückenlos rückverfolgbar, werden unter sicheren Bedingungen hergestellt und sind vor Angriffen auf die Lieferkette geschützt – ein zunehmend wichtiger Faktor in einem Umfeld, in dem KI-Systeme zu einem immer entscheidenderen Bestandteil der IT-Infrastruktur werden, was mit höheren Anforderungen an Vertrauen und die Einhaltung gesetzlicher Vorschriften einhergeht.

Und natürlich verfügen wir dank unserer jahrzehntelangen Erfahrung in den Bereichen Industrie-, Embedded- und Edge-Speicher auch über Flash-Speicherlösungen, die die Anforderungen von KI-Systemen an Leistung, Lebensdauer und Zuverlässigkeit erfüllen – und dabei still und unauffällig alles antreiben, von BMCs über leistungsstarke Telemetriesysteme bis hin zu robusten Edge-Servern.

Durchbrüche im Bereich der KI werden oft durch Fortschritte in der KI-Rechenleistung vorangetrieben – leistungsstarke GPUs, modernste Speichertechnologien wie HBM usw. Doch KI umfasst weit mehr als das. Tatsächlich bestehen KI-Systeme in der Praxis aus Dutzenden einzelner Komponenten – und jede einzelne davon benötigt robusten Flash-Speicher. Ohne Flash-Speicher können KI-Systeme schlichtweg nicht funktionieren.

Durch die Bereitstellung robuster, langlebiger und sicherer industrieller Speicherlösungen unterstützt Swissbit die Grundlagen, auf denen moderne KI-Infrastrukturen aufbauen. Es ist ein Beitrag, der zwar still im Hintergrund wirkt, aber dazu beiträgt, dass KI-Systeme stabil, vertrauenswürdig und zukunftsfähig bleiben.