NVIDIA erweitert xio-sig um cuObject und veröffentlicht SCADA Server SDK

NVIDIA hat neue Entwicklungen für beschleunigte KI-Datenspeicher-Workflows angekündigt. Dazu gehören die allgemeine Verfügbarkeit der cuObject-Client- und Server-Bibliotheken, die Erweiterung der xio-sig-Initiative sowie die Veröffentlichung des Scaled Accelerated Data Access (SCADA) Server SDKs. Diese Updates zielen darauf ab, den direkten Speicherzugriff für Rechenbeschleuniger zu verbessern, indem Remote Direct Memory Access (RDMA) genutzt wird, um Daten ohne CPU-gesteuerte Speicherkoppelung zu übertragen.

Standardisierung des Objektzugriffs mit cuObject und xio-sig

Die xio-sig-Initiative, die sich zuvor auf cuFile konzentrierte, umfasst nun auch cuObject, um gemeinsame APIs und Wire-Protokolle für Objektspeicher zu etablieren. Mit der allgemeinen Verfügbarkeit der cuObject-Bibliotheken können Entwickler Anwendungen erstellen, die sowohl auf Datei- als auch auf Objektspeicher direkt über RDMA zugreifen. Dies verringert die CPU-Auslastung und reduziert gleichzeitig die Latenz bei GPU-gesteuerten Workloads. NVIDIA arbeitet bei dieser Erweiterung mit Google Cloud und Microsoft zusammen, wobei Google Cloud eine erweiterte Teilnahme prüft und Microsoft dem xio-sig-Board beitritt, um die I/O-Interoperabilität zu unterstützen.

Die Repository-Struktur von xio-sig ist sowohl für cuFile- als auch für cuObject-Komponenten eingerichtet. Header-Dateien, Übertragungsprotokolle und Bibliotheks-Implementierungscode – einschließlich libxFile und xFile-Kernel-Code – sollen verteilt werden, sobald der produktionsreife Software-Stack Konformitätstests erfolgreich besteht.

Beschleunigung feingranularer I/O über das SCADA Server SDK

Um kleine, von der GPU initiierte Datenanfragen zu adressieren, die außerhalb herkömmlicher Speichermechanismen liegen, hat NVIDIA das SCADA Server SDK als Teil seiner breiteren Storage-Next-Initiative vorgestellt. Das SDK ermöglicht es Speicheranbietern, Server zu entwickeln, die Anfragen von GPU-basierten SCADA-Clients direkt verarbeiten und Ergebnisse über RDMA zurückgeben können. Das Framework umfasst ein Befehlszeilen-Utility zur Konfiguration sowie den quelloffenen Storage Lender Service.

Als erste Implementierung demonstrierte IBM einen Prototyp, der das System IBM Storage Scale mit einem Server verbindet, der auf dem neuen SCADA Server SDK basiert. Dieser Aufbau veranschaulicht Client-zu-Server-GPU-Speicherinteraktionen, die für feingranulare Workloads mit hohem Durchsatz wie semantische Suche, Empfehlungssysteme und Betrugserkennungssysteme konzipiert sind.

KI-generierte redaktionelle Illustration; kein Dokumentarfoto.

Quelle: Expanding AI Storage Access with NVIDIA cuObject and the NVIDIA SCADA Server SDK