Amazon SageMaker AI запустила training sessions: свой алгоритм дообучения модели без своих GPU
Amazon SageMaker AI открыла training sessions — программный доступ к дообучению модели, где алгоритм пишет сама компания, а видеокарты, загрузку модели и сбои берёт на себя облако. Платят за обработанные токены, а не за часы серверов.
22 октября в 19:30 по Москве AWS объявила о training session API в SageMaker AI. Это новый уровень серверлесс-дообучения моделей. Раньше в сервисе можно было выбрать модель и готовый метод, а дальше облако обучало само. Теперь компания пишет собственный цикл обучения на Python: шаг расчёта, шаг оптимизации, генерацию ответов для проверки. Серверы с видеокартами арендовать и настраивать не нужно.
Что именно запустила AWS
- Живая сессия обучения. Операции `forward_backward()`, `optim_step()` и `sample()` — это обычные вызовы API к сессии, которая помнит своё состояние. Их зовут из своего кода.
- Что берёт на себя облако. Выделение видеокарт, загрузку модели и адаптеров LoRA, распределённый расчёт, восстановление после сбоев, хранение контрольных точек, защиту. Остановиться и продолжить с сохранённой точки можно из коробки.
- Что можно сделать. Повторить классическое обучение на примерах (SFT) или на парах «хороший ответ — плохой ответ» (DPO). Задать свою функцию потерь, свой сигнал награды для обучения с подкреплением, порядок подачи данных или алгоритм из свежей научной статьи.
- Оплата. За обработанные токены. Свои расчёты на стороне компании — например, оценка ответов для награды — не считаются временем видеокарт. Ставок за токен в объявлении нет.
- Регионы. Два в США (Северная Вирджиния и Орегон) плюс Мумбаи.
- Как начать. Через SageMaker Python SDK и готовый сборник рецептов с примерами SFT и обучения с подкреплением, либо из блокнота в SageMaker Studio с подключённым ИИ-помощником для кода.
В тот же день AWS расширила список моделей для серверлесс-дообучения: добавила Qwen3.8 на 27 млрд параметров и Ministral 3 на 3, 8 и 14 млрд. Для них доступны SFT и DPO, а также обучение с подкреплением (RFT), с адаптером LoRA или полным дообучением.
Что это значит для бизнеса в России
Начнём с честного. С 2022 года AWS не принимает новых клиентов из России, так что оплата и доступ к сервису — отдельная проблема. Обучающие данные почти всегда содержат клиентов: переписку, звонки, заявки. Персональные данные граждан России по закону записываются и хранятся в базах на территории страны. Так что отправить архив разговоров в Орегон, чтобы дообучить на нём модель, — не вариант.
Ценность новости в другом. Она показывает, куда движется рынок, и эта логика переносится на российские серверы.
Дообучение стало программированием, а не закупкой железа. Раньше свой алгоритм обучения означал свою команду и свои видеокарты: собрать кластер, настроить, следить за сбоями. Теперь крупное облако продаёт это как вызов функции. Скоро так же начнут продавать и другие поставщики, в том числе российские. Ждать, пока «появится бюджет на GPU», уже не обязательно.
Платить за токены — значит считать данные, а не часы. Прикинуть объём можно заранее. Пример расчёта для компании, которая хочет научить модель отвечать в своём стиле:
| Что считаем | Пример |
|---|---|
| Примеров для обучения | 5 000 разобранных диалогов |
| Длина одного примера | около 1 500 токенов |
| Объём за один проход | 7,5 млн токенов |
| Проходов по данным | 3 |
| Итого к оплате | около 22,5 млн токенов |
Дальше умножаете на тариф выбранного поставщика. Для обучения с подкреплением добавьте токены, которые модель сгенерирует при проверке ответов. А оценку этих ответов своим кодом, по правилам AWS, отдельно не считают. Главный вывод: стоимость теперь зависит от того, сколько хороших примеров вы собрали, а не от того, сколько недель простоял сервер.
Небольшие модели — на своём сервере. Модели размером 3–27 млрд параметров, как Ministral 3 и Qwen3.8 из объявления, обычно дообучают через адаптер LoRA на одном сервере с видеокартами. Если у модели открытые веса и лицензия разрешает коммерческое использование, её можно дообучить и развернуть на сервере в России. Тот же цикл SFT или DPO собирается на открытых библиотеках.
Где это реально нужно бизнесу:
- Разбор документов. Модель учится вытаскивать поля из ваших счетов, договоров, накладных — с вашими формулировками и ошибками поставщиков.
- Ответы клиентам. Обучение на парах «удачный ответ — неудачный» учит модель вашему тону и вашим правилам.
- Классификация заявок и звонков. Своя награда за верную категорию — понятный сценарий обучения с подкреплением.
- Внутренний поиск. Модель лучше понимает термины компании и названия товаров.
Но сама модель — меньшая часть работы. Надо собрать и почистить обучающие данные, написать проверку качества, встроить результат в CRM и 1С, следить, чтобы новая версия не стала хуже старой. Под эту часть у КАРАДЕСК есть IT-специалист — собственный IT-специалист компании в аренду. Он делает прикладные программы и сервисы, интеграции с CRM и 1С, скрипты и доработки. Задачи ставятся голосом, текстом или брифом, как сотруднику, а код и документация остаются у клиента. Аренда ежемесячная и дешевле штатного программиста, стоимость называется после оценки задач. Архитектуру утверждает инженер, приёмка — за клиентом.
О том, как выбрать модель под задачу, мы писали в статье нейросеть для бизнеса: какую выбрать. А другой вариант дообучения с почасовой арендой видеокарт разбирали в новости про Together Post-Training.
Коротко
- 22 октября AWS запустила в SageMaker AI training session API: компания пишет свой цикл дообучения модели, а видеокарты и сбои берёт на себя облако.
- Можно повторить SFT и DPO, задать свою функцию потерь или свою награду для обучения с подкреплением.
- Оплата за обработанные токены, ставок в объявлении нет. Регионы — США и Мумбаи.
- Для России сервис малодоступен, а данные клиентов по закону хранятся в стране. Небольшие модели с открытыми весами дообучают на российских серверах.
- Бюджет дообучения теперь считают по объёму данных: примеры × длина × проходы.
Вопросы и ответы
Что такое SageMaker training sessions?
Программный доступ к дообучению модели в Amazon SageMaker AI. Компания из своего кода на Python вызывает шаги обучения, а облако выделяет видеокарты, загружает модель, хранит контрольные точки и восстанавливает работу после сбоев.
Сколько стоит дообучение в SageMaker training sessions?
AWS берёт плату за обработанные токены, но ставок в объявлении не назвала. Свои расчёты на стороне компании, например оценка ответов, временем видеокарт не считаются.
Можно ли пользоваться SageMaker в России?
С 2022 года AWS не принимает новых клиентов из России, а сервис доступен в регионах США и Индии. Персональные данные граждан России по закону хранятся в базах на территории страны, поэтому обучающие данные с клиентами в зарубежное облако не отправляют.
Как дообучить модель на своих данных без своих видеокарт в России?
Взять открытую модель с подходящей лицензией и арендовать сервер с видеокартой у российского облака на время обучения. Бюджет начинается с подсчёта: сколько примеров, какой они длины и сколько проходов нужно.
Продукт: IT-специалист
Обсудим вашу задачу
Оставьте телефон — перезвоним в рабочее время, покажем демонстрацию на вашем сценарии и честно скажем, где ИИ не подойдёт.
