NVIDIA Minerva: AIOps-платформа мониторинга ИИ-фабрик — что она меняет для бизнеса в России
NVIDIA Minerva — новая AIOps-платформа, которая собирает телеметрию кластера GPU и задач на нём и сама ищет, из-за какой детали встала работа. Для компаний это сигнал: считать нужно полезную работу оборудования, а не просто его загрузку.
NVIDIA 22 октября, в 18:00 по Москве, представила Minerva. Это AIOps-платформа для так называемых ИИ-фабрик — больших кластеров, где обучают и запускают модели. Она сводит в одно место данные от железа и от задач, а затем специально обученные модели разбирают их и подсказывают, что чинить. Цель компания назвала «выходом ИИ-фабрики»: часы работы GPU, полезную производительность (goodput), время без сбоев и число выданных токенов.
Что именно умеет NVIDIA Minerva
| Возможность | Как это работает |
|---|---|
| Карта кластера | Живой граф связей: GPU, сетевые карты SuperNIC, коммутаторы, кабели и задачи, которые на них идут. Медленную задачу можно проследить до конкретного кабеля |
| Разбор телеметрии | Миллиарды точек данных в час, обучение с учителем и без |
| Поиск аномалий | Платформа запоминает нормальное поведение, замечает новые отклонения и предсказывает будущие отказы |
| Группировка событий | Лавину тревог сводит в несколько инцидентов с вероятной причиной |
| Помощник | Встроенный ИИ-помощник отвечает на вопросы обычным языком и подключается к внешним агентам |
| Исправление | Чинит человек вручную или автоматика через API инфраструктуры |
По словам NVIDIA, Minerva прослеживает связи в кластерах на сотни тысяч GPU. Первым клиентом названа IREN, которая уже настраивает с ней свои ИИ-фабрики. Развернуть платформу собираются Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI и Tesla. Продавать Minerva в составе своих решений будут три производителя серверов: Dell, Lenovo, Supermicro. Цены в анонсе нет. Цифр вроде «простоев стало на столько-то меньше» тоже нет: компания обещает реже прерывания, быстрее ремонт и больше понимания, что происходит.
Что это значит для бизнеса в России
Купить Minerva напрямую российская компания вряд ли сможет: NVIDIA ушла с рынка в 2022 году, а про доступность в России в анонсе ничего нет. Да и кластер на тысячи GPU есть у считанных игроков. Но сама мысль из анонса полезна всем, кто платит за ИИ-вычисления.
Загрузка и полезная работа — разные вещи. Видеокарта может показывать 100% нагрузки и при этом тратить время впустую: ждать данные, пересчитывать задачу после сбоя, упираться в сеть. Счёт за аренду сервера при этом приходит полный. Поэтому NVIDIA и говорит про goodput, долю времени, которая дала результат.
Простой стоит денег, даже если сервер чужой. Компания арендует GPU в российском облаке под распознавание звонков или свою модель. Задача упала ночью, никто не заметил, утром её перезапустили. Счёт за ночь всё равно придёт. Тот же расчёт мы разбирали для станков в статье «Простой оборудования на производстве»: час стоящей машины считается так же, как час рабочей.
Что можно сделать без Minerva. Минимальный набор для своего или арендованного сервера:
- Собирать метрики GPU и задач в одну панель — загрузку, память, температуру, ошибки.
- Ставить тревогу на остановку задачи, а не только на падение сервера.
- Считать стоимость каждой задачи: часы аренды делить на полезный результат — минуты расшифровки, документы, ответы.
- Хранить журнал сбоев с причиной. Через месяц станет видно, что ломается чаще.
Энергия и мощности в России ограничены. Мы писали, что нагрузка ЦОД в России будет расти из-за ИИ. Свободных GPU в облаках меньше, чем желающих, и простаивающая карта обходится дороже.
Такие задачи — панели, скрипты сбора метрик, тревоги в рабочий чат, отчёты о расходах — берёт IT-специалист КАРАДЕСК. Это собственный IT-специалист компании в аренду: задачи ставятся голосом, текстом или брифом, код и документация остаются у клиента, а архитектуру утверждает инженер. Стоимость аренды — после оценки задач, дешевле штатного программиста.
Коротко
- NVIDIA 22 октября выпустила Minerva — AIOps-платформу наблюдаемости для кластеров GPU.
- Она строит карту железа и задач, разбирает миллиарды точек данных в час и находит вероятную причину сбоя.
- Первый клиент — IREN; внедрять собираются IBM, Tesla, Lambda и ещё четыре компании, продавать будут Dell, Lenovo, Supermicro. Цены нет.
- Для российской компании главный урок — считать полезную работу GPU и цену простоя, даже на арендованном сервере.
Вопросы и ответы
Что такое NVIDIA Minerva?
AIOps-платформа для больших кластеров GPU. Она собирает телеметрию оборудования и задач, ищет аномалии, предсказывает отказы и подсказывает, какая деталь виновата в сбое.
Сколько стоит Minerva?
NVIDIA цену не назвала. Платформу будут предлагать сама компания и производители серверов — Dell, Lenovo, Supermicro — в составе своих решений.
Можно ли купить NVIDIA Minerva в России?
В анонсе про Россию ничего нет, а NVIDIA с 2022 года официально в стране не работает. Похожий мониторинг для своих или арендованных серверов можно собрать на открытых инструментах.
Что такое goodput?
Доля работы, которая дала полезный результат. Видеокарта может быть загружена полностью, но часть времени тратить на ожидание данных или повтор задачи после сбоя.
Продукт: IT-специалист
Обсудим вашу задачу
Оставьте телефон — перезвоним в рабочее время, покажем демонстрацию на вашем сценарии и честно скажем, где ИИ не подойдёт.
