Ankündigung von SOCI-indizierten Images für schnellere SageMaker-KI-Jobs

Schlagzeile von Amazon Web Services (AWS) · aus 2 Quellen zusammengestellt

AWS gibt an, dass Jobs auf seinem SageMaker-KI-Service jetzt "in Sekunden statt Minuten"[1] starten können. Das Unternehmen schrieb in seinem Blog für maschinelles Lernen, dass die Änderung die GPU-Leerlaufzeit während des Image-Downloads um bis zu 90 Prozent in unseren Benchmarks[1]

Amazon Web Services kündigte Seekable OCI (SOCI) Indizierung für Amazon SageMaker AI Training und Amazon SageMaker AI Processing Jobs[1] an, wie in einem Beitrag auf dem Blog des Unternehmens angegeben. AWS schrieb, dass "der Container-Image-Download reiner Overhead ist: abrechenbare Job-Zeit, die keinen Modellfortschritt erzeugt."[1] Das Unternehmen fügte hinzu, dass Deep-Learning-Images routinemäßig 10 GB oder mehr überschreiten[1]. Nach Angaben von AWS lädt die Funktion nur die Dateien herunter, die zum Starten des Containers erforderlich sind, und streamt den Rest im Hintergrund, während Ihr Code ausgeführt wird[1]. Das Unternehmen sagte, dass Benutzer es aktivieren können, indem sie auf einen vor-indizierten AWS Deep Learning Container (DLC) verweisen oder einen Index zu ihrem eigenen Image hinzufügen[1]. AWS testete acht Images, 1,8–35,4 GB komprimiert[1], und behauptete, dass die indizierten Images keine Auswirkungen auf die Trainingsleistung[1] hatten. Das Unternehmen sagte, dass Jobs bei Bedarf immer auf einen Standard-Download zurückgreifen[1], daher stoppt das Hinzufügen eines Index einen Job niemals. AWS sagte auch, dass bestehende Job-Definitionen, API-Aufrufe und Datenpipelines genau gleich bleiben[1]. AWS warnte, dass SOCI-indizierte Images auf einer containerd-basierten Laufzeit ausgeführt werden[1] und riet Benutzern, ihre Skripte auf Code zu überprüfen, der von Docker abhängig ist. Nach Angaben von AWS ist die Funktion in allen AWS-Regionen verfügbar[1]. Im Dezember 2025 kündigte AWS die gleiche Indizierung für SageMaker Studio an und sagte, dass sie die Container-Startzeiten um 30-50% bei Verwendung von benutzerdefinierten Images verkürzt[2].

Das Lied hörenAI News — October 28, 2026

Quellen

  1. [1]Announcing SOCI-indexed images for faster SageMaker AI jobs | Artificial Intelligence
  2. [2]Amazon SageMaker Studio now supports SOCI indexing for faster container startup times - AWS

Jeder Satz gibt wieder, was ein genanntes Medium berichtet hat, mit Link. Von 93 aus der unten verlinkten Berichterstattung zusammengestellt.

Aus der englischen Ausgabe übersetzt. Die Zitate verlinken auf die Originalberichte.

Mehr zu diesem Thema

Dieses Thema, Tag für Tag

Ankündigung von SOCI-indizierten Images für schnellere SageMaker-KI-Jobs | 93