Оголошення SOCI-індексованих образів для прискорення завдань AI SageMaker

Заголовок від Amazon Web Services (AWS) · зібрано з 2 джерел

AWS повідомляє, що завдання у своєму сервісі AI SageMaker тепер можуть запускатися "за секунди замість хвилин"[1]. Компанія написала у своєму блозі машинного навчання, що ця зміна зменшила час простою GPU під час завантаження образів на до 90 відсотків в наших тестах[1]

Amazon Web Services оголосила про Seekable OCI (SOCI) індексування для Amazon SageMaker AI Training та Amazon SageMaker AI обробки завдань[1], згідно з публікацією на блозі компанії.AWS написала, що "завантаження образу контейнера є чистими накладними витратами: оплачуваний час завдання, який не дає прогресу моделі."[1] Компанія додала, що образи глибокого навчання звичайно перевищують 10 ГБ або більше[1].Згідно з AWS, функція отримує лише файли, необхідні для запуску контейнера, і потокує решту на тлі під час виконання вашого коду[1]. Компанія сказала, що користувачі можуть увімкнути це вказуючи на попередньо індексований AWS Deep Learning Container (DLC) або додаючи індекс до вашого власного образу[1].AWS протестувала вісім образів, 1,8–35,4 ГБ стиснутих[1], і стверджувала, що індексовані образи мали без впливу на продуктивність навчання[1].Компанія сказала, що завдання завжди повертаються до стандартного завантаження за потреби[1], тому додавання індексу ніколи не зупиняє завдання від виконання. AWS також сказала, що існуючі визначення завдань, виклики API та конвеєри даних залишаються абсолютно однаковими[1].AWS застерегла, що SOCI-індексовані образи працюють на середовищі виконання на основі containerd[1] і рекомендувала користувачам перевірити свої скрипти на код, який залежить від Docker.Згідно з AWS, функція доступна у всіх регіонах AWS[1]. У грудні 2025 року AWS оголосила те ж саме індексування для SageMaker Studio і сказала, що це зменшило час запуску контейнера на 30-50% при використанні користувацьких образів[2].

Слухати піснюAI News — October 28, 2026

Джерела

  1. [1]Announcing SOCI-indexed images for faster SageMaker AI jobs | Artificial Intelligence
  2. [2]Amazon SageMaker Studio now supports SOCI indexing for faster container startup times - AWS

Кожне речення передає те, що повідомило назване видання, з посиланням. Зібрано 93 з наведених нижче матеріалів.

Перекладено з англійського випуску. Цитати ведуть до оригінальних матеріалів.

Більше на цю тему

Ця тема, день за днем

Оголошення SOCI-індексованих образів для прискорення завдань AI SageMaker | 93