Modal перешла на процессоры Nvidia Vera для ИИ-агентов: вдвое больше задач, чем на Intel и AMD

19 октября агентство Reuters сообщило, что Nvidia получила заказ на центральные процессоры от Modal — быстрорастущего облака, где разработчики ИИ арендуют мощности. Раньше обычные процессоры у Modal были только от Intel и AMD. В тот же день инженеры Modal выложили в блоге замеры: первый сервер с Vera Nvidia привезла им в офис в Сан-Франциско неделей раньше. Главная цифра — до двух раз больше выполненных задач под нагрузкой.

Что именно выбрала Modal и что показали тесты

Vera — процессор Nvidia на архитектуре Arm, сделанный под работу ИИ-агентов. Агенту нужна не только видеокарта для модели. Он компилирует код, ищет по файлам, работает с git, запускает тесты — и всё это идёт на обычном процессоре, в изолированной среде-песочнице. У Modal таких песочниц тысячи одновременно.

Сама Modal честно называет ограничения. Это ранние прогоны на одном сервере, тест синтетический, а сравнение шло с процессорами, которые продаются сейчас. Intel и AMD готовят новые модели, и разрыв может сократиться. Глава Modal Эрик Бернхардссон сказал Reuters, что от прежних поставщиков компания не уходит: парк будет смешанным, и каждую задачу отправят на то железо, где она идёт лучше. Переход потребует глубоких изменений в программах Modal, ведь до сих пор она работала только на x86.

Цифры по самой Modal из того же материала Reuters: неделей раньше компания привлекла 750 млн долларов при оценке 15,75 млрд, рассчитывает на 1 млрд долларов продаж за следующий год, выручка за год выросла больше чем в 15 раз. Nvidia ждёт от продаж Vera не меньше 20 млрд долларов в этом финансовом году и оценивает свой рынок примерно в 200 млрд. Раньше Nvidia называла среди будущих покупателей Vera компании OpenAI, Anthropic, Oracle и Perplexity.

Что это значит для бизнеса

Новость о процессорах, но вывод из неё для бизнеса простой: ИИ-агенты стоят денег не только за модель. Каждая задача агента — это проверка кода, сборка, поиск по данным, и всё это крутится на обычных серверах. Когда агентов много, именно процессор становится узким местом, как мы писали в новости о росте акций Intel на спросе ИИ-агентов.

Что из этого следует для компании, которая внедряет агентов или автоматизацию у себя:

• Считать всю цепочку, а не только запросы к модели. Тесты, сборки и обработка данных занимают серверное время. Если агент гоняет проверки сотни раз в день, это заметная строка бюджета.
• Не привязывать код к одному железу. Modal строит смешанный парк и выбирает процессор под задачу. Та же логика годится и для небольшой компании: код, который переносится между серверами, можно увезти туда, где дешевле, без переписывания.
• Смотреть на нагрузку, а не на одиночный замер. В тесте Modal одна задача на пустом сервере шла почти одинаково на всех процессорах. Разница появилась только при множестве задач сразу. Сравнивать варианты стоит на своей реальной нагрузке.

Цен на Vera у Modal пока нет, сроков запуска для клиентов тоже. Поэтому планировать переезд на это железо рано, а приводить в порядок свой код и учёт затрат можно уже сейчас.

Такую работу — программы, сервисы, интеграции с CRM и 1С, доработку существующего кода с тестами и документацией — берёт IT-специалист КАРАДЕСК: задачи ставятся голосом, текстом или брифом, код остаётся у клиента. Из чего складывается бюджет на внедрение ИИ, мы разбирали в статье «Стоимость внедрения ИИ в бизнес», а как устроена разработка агента — в статье «Разработка ИИ-агента».