Архитектура ИИ-агентов от Meta: «тонкий оркестратор» и 14 узких помощников вместо одного агента

Компания Meta (признана экстремистской и запрещена в России) 19 октября опубликовала в инженерном блоге разбор того, как она сделала своих ИИ-агентов надёжнее. Главная мысль звучит непривычно: чтобы агент ошибался реже, его «начальнику» нужно дать меньше работы, а не больше. Компания называет такую схему тонким оркестратором. Подготовка конфигурации для новой колонки данных занимала у инженеров 3–4 дня, с прежней автоматизацией — около дня, теперь — меньше часа.

Что именно сделала Meta

Агенты нужны компании для рутинной задачи: добавлять новые поля данных в системы рекомендаций. Одно такое добавление затрагивает три хранилища кода, три языка программирования и до шести этапов обработки.

Сначала всё это делал один большой агент, которому в контекст загрузили правила по всем подсистемам и более чем десяти источникам данных. Дальше определённого объёма знания начали мешать друг другу: правила одной подсистемы попадали в работу с другой, и в рабочей эксплуатации агент начал выдумывать. Запасной вариант — один агент с отдельной подсказкой, которую инженер пишет под каждую задачу, — давал 70–80% успешных запусков, а без такой подсказки только 10–20%.

Новая схема устроена так:

Перенос конвейера Meta добавила одним новым шаблоном, без нового кода агентов. По словам компании, около двух третей изменений, которые готовит система, принимаются без серьёзных правок людьми. Своих цифр по ошибкам и стоимости Meta не приводит. Для сравнения она ссылается на сторонний препринт медицинской школы Маунт-Синай: там согласованная группа агентов дала 65,3% точности на пакетах из 80 задач против 16,6% у одиночного агента и тратила до 65 раз меньше токенов.

Ограничения авторы называют сами: схема меняет универсальность на глубокое знание предметной области, под каждую новую область нужны свои файлы знаний и свои помощники. Масштабирование на новые области ещё идёт.

Что это значит для компаний в России

Разбор Meta полезен тем, кто уже попробовал «одного умного агента на всё» и упёрся в странные ошибки. Причина часто одна: агенту дали слишком много правил сразу, и они смешиваются. Из опыта Meta для бизнеса следуют четыре практичных вывода.

• Маршрутизация — без ИИ. Решать, куда отправить заявку, письмо или задачу, должна обычная программа: по словам в тексте и заполненным полям. Модель нужна там, где без рассуждения не обойтись.
• Одна роль — один агент. Агент, который разбирает договоры, не должен держать в голове скрипты продаж. Узкий контекст — меньше путаницы, а ошибка остаётся внутри одного помощника и не расползается по всей системе.
• Новый процесс — сначала шаблон. Прежде чем строить нового агента, стоит проверить, нельзя ли собрать процесс из уже работающих в другом порядке.
• Знания — в файлах, а не в коде. Регламенты и прайсы, которые подгружаются при запуске, можно поправить за минуты, не трогая программу.

Для российских компаний сюда добавляется ещё одно требование: данные клиентов по закону хранятся в России, поэтому сама схема разделения ролей удобна и здесь — помощнику, который пишет код, не нужен доступ к персональным данным, а работа с базами клиентов остаётся на российских серверах.

Внедрять такую систему с нуля дорого: нужен человек, который разберётся в системах компании и разложит процессы на роли. Эту работу в КАРАДЕСК берёт IT-специалист — собственный IT-специалист компании в аренду. Он делает программы и интеграции с CRM и 1С, задачи ставятся голосом, текстом или брифом, как сотруднику. Каждое изменение проходит тесты и ревью инженера, выкладка — только после одобрения клиента, код и документация остаются у компании. Подробнее о подходах — в статье о разработке ИИ-агента и в разборе ИИ-агентов для бизнеса; о том, как агентов делят на команды в разработке, мы писали в новости про JetBrains Air Teams.