Thought Leadership
CXL soll als Verbindung zwischen CPU und Speicher für schnellere Performance sorgen. Die Ankündigung ist nun auch schon einige Jahre alt, aber man hat den Eindruck, dass man CXL immer häufiger in Trendreports und Specs liest. Welchen Stand hat die Technologie bis dato?
Leserfrage: CXL soll als Verbindung zwischen CPU und Speicher für schnellere Performance sorgen. Die Ankündigung ist nun auch schon einige Jahre alt, aber man hat den Eindruck, dass man CXL immer häufiger in Trendreports und Specs liest. Welchen Stand hat die Technologie bis dato?
Antwort Doc Storage:
CXL (Compute Express Link) ist ein hochleistungsfähiger, cache-kohärenter und größtenteils offener Standard, der eine schnelle Verbindung zwischen CPUs und Hauptspeichern sowie anderen Geräten ermöglicht. Diese Technologie basiert auf der physikalischen PCIe-Schicht und fungiert als alternatives Protokoll. Durch die Etablierung eines gemeinsamen Adressraums für angeschlossene Geräte bietet CXL erhebliche Leistungssteigerungen, insbesondere für Hyperscale-Umgebungen. Der flexible Prozessor-Port kann sowohl im PCIe- als auch im CXL-Modus betrieben werden. Beide Gerätetypen können Datenraten von 32 GByte/s über PCIe 5 oder bis zu 64 GByte/s über PCIe 6 erreichen.
Das CXL-Konsortium, das 2019 von neun Unternehmen gegründet wurde, entwickelt nicht nur technische Spezifikationen, sondern definiert auch neue Anwendungsfälle und fördert die Markteinführung der Technologie. Anwendungen wie Künstliche Intelligenz (KI), Maschinelles Lernen (ML) und Cloud-Infrastrukturen profitieren besonders von der hohen Geschwindigkeit und dem kohärenten Speicherzugriff, den CXL bietet.
Wie funktioniert CXL?
Grundsätzlich sorgt das CXL-Framework dafür, dass der Speicher der CPU mit dem Speicher jedes angeschlossenen Geräts koordiniert wird. Dies ermöglicht eine effiziente Bündelung und gemeinsame Nutzung von Speicherressourcen und reduziert gleichzeitig die Komplexität des Software-Stacks. Damit dieses Speicher-Pooling funktioniert, müssen sowohl der Host-Rechner als auch die angeschlossenen Geräte CXL-fähig sein. Daten werden über Flusskontrolleinheiten (Flits) mit minimalem Overhead übertragen. Durch CXL-Switching kann der Host auf mehrere Geräte verteilt werden, was in jeder Richtung einen hohen Durchsatz gewährleistet. Ressourcen, einschließlich Beschleuniger und verfügbarer CXL-Speicher, können dynamisch neu zugewiesen werden, wenn sich die Systemauslastung ändert. Die CXL 2.0-Spezifikation führte einen standardisierten Fabric-Manager ein, der eine nahtlose Konfiguration und Fehlerberichterstattung unabhängig vom Pooling-Typ, Rechner oder Nutzungsmodell ermöglicht.
Anwendungsfälle für CXL
Im Zuge der Weiterentwicklung des Standards haben sich drei verschiedene Gerätetypen herauskristallisiert:
- Typ-1-Geräte: Beschleuniger und Geräte ohne eigenen lokalen Speicher, die auf die CPU angewiesen sind. CXL.io und CXL.cache-Protokolle ermöglichen eine effiziente Kommunikation und Nutzung der CPU-Speicherkapazität.
- Typ-2-Geräte: Geräte mit eigenen Speicherfunktionen, die sowohl ihren eigenen Speicher als auch den CPU-Speicher nutzen. Diese Geräte kombinieren alle drei CXL-Protokolle, um eine zusammenhängende Speicherfreigabe mit der CPU zu unterstützen.
- Typ-3-Geräte: Erweiterungen für den CPU-Speicher, die CXL.io und CXL.memory-Protokolle verwenden, um den CPU-Zugriff auf externe Speicher zu ermöglichen, bei gleichzeitig verbesserter Bandbreite und niedriger Latenz.
Vorteile von CXL
Durch die verbesserte Anschlussfähigkeit und gemeinsame Ressourcennutzung optimiert CXL die Leistung von Arbeitslasten und reduziert gleichzeitig die Komplexität und die Kosten. Dies ist besonders relevant für die Senkung der Gesamtbetriebskosten (TCO) durch schnellere Datenverarbeitung und geringere Preise. Ein zentraler Vorteil ist die Verbindung von CXL-Speicher-Pools, die zuverlässige Konsistenz gewährleisten. Heterogene Architekturen, die verschiedene Prozessoren kombinieren, werden vom CXL-Standard umfassend unterstützt, was besonders für komplexe KI- und ML-Systeme von Bedeutung ist. Niedrige Latenz ist hierbei ein Schlüsselfaktor, und CXL erfüllt diese Anforderungen, insbesondere mit der Einführung von PCIe 6.
CXL-Protokolle und -Standards
Die Veröffentlichung des CXL 1.0-Standards im Jahr 2019 markierte den Beginn des CPU-Zugriffs auf gemeinsam genutzten externen Speicher. Seither wurden die Protokolle und Standards in mehreren Schritten erweitert:
- CXL 1.1: Verbesserte Compliance und Interoperabilität bei gleichzeitiger Abwärtskompatibilität.
- CXL 2.0: Einführung von Switching-Funktionen für Ressourcen-Pooling und persistente Speicherunterstützung sowie erhöhte Sicherheit durch Link-Level-Integrität und Datenverschlüsselung (CXL IDE).
- CXL 3.0: Verdopplung der Datenrate auf 64 GByte/s und Erweiterung der Paketgröße auf 256 Byte, sowie Verbesserungen in Fabric-Management, Speicherfreigabe und Peer-to-Peer-Kommunikation.
CXL und PCIe
PCI Express (PCIe) hat sich in den letzten zwei Jahrzehnten als Standard für serielle Hochgeschwindigkeitsbusarchitekturen etabliert, wobei Punkt-zu-Punkt-Verbindungen zu angeschlossenen Geräten bereitgestellt werden. Trotz seiner Leistungsfähigkeit zeigt PCIe bei großen Rechenzentrumsanwendungen Schwächen, insbesondere in der gemeinsamen Nutzung von Speicherressourcen und der Latenz.
PCIe 6, die neueste abwärtskompatible Version, wird durch CXL eine Verdoppelung des Durchsatzes im Vergleich zu PCIe 5 ermöglichen. CXL nutzt die physikalische PCIe-Schicht und erweitert die Vielseitigkeit der PCIe-Architektur durch neue Speicherfreigabefunktionen. CXL-Speicher-Pooling reduziert die Latenz und verbessert die Leistung von Beschleunigern. Standard-PCIe-Geräte und CXL-Software können über dieselbe Verbindung unterstützt werden, und ein flexibler Prozessor-Port ermöglicht schnelle Aushandlung von PCIe- oder CXL-Verbindungstransaktionen.
Die Geschichte von CXL
Die erste Version von CXL wurde im März 2019 vorgestellt, gefolgt von einem kleineren Update auf CXL 1.1 drei Monate später. Das umfassende Upgrade auf CXL 2.0 im November 2020 brachte Funktionen wie Link-Switching und Link-Sicherheit mit sich und definierte Hot-Plug-Flows für Anwendungen wie CXL über Ethernet. Die Entwicklung neuer CXL-Geräte und die Einrichtung von Compliance-Programmen unterstreichen den Bedarf an zuverlässigen Protokollanalyse- und Testlösungen. CXL 2.0 und 3.0 unterstützen mittlerweile Verbindungen mit 32 bzw. 64 GByte/s.
Grüße
Doc Storage
Weiterführende Links:
