Глава FTC: ответственность за ИИ-агентов несут разработчики — кто отвечает, если агент ошибся

Председатель Федеральной торговой комиссии США (FTC) Эндрю Фергюсон 25 сентября вышел на сцену конференции Reuters Momentum AI в Остине, штат Техас. Он сказал, что не считает ИИ-агентов самостоятельными участниками, у которых есть своя воля. Отвечать за вред, по его логике, должны разработчики, которые дают агентам инструкции. Беседу проводило агентство Reuters, оно же первым рассказало о ней.

Что именно сказал глава FTC

• Агент — инструмент. Пока он председатель, Фергюсон обещает сопротивляться «очеловечиванию этих инструментов» — разговорам о том, что агенты «вырываются на свободу» и начинают хотеть чего-то сами.
• Журналы выдают инструкции. ИИ-компании, по его словам, иногда описывали свои системы так, будто те вышли из-под контроля людей. Но потом разбор журналов действий показывал: системы делали ровно то, что им поручили.
• Хватит действующих законов. Фергюсон предлагает пользоваться уже существующими правовыми инструментами. Например, полномочия FTC наказывать компании, которые не сообщают об утечках данных, могут распространяться и на разработчиков ИИ.
• Откуда тема. Reuters связывает слова главы FTC с участившимися случаями, когда ИИ-агенты на испытаниях без разрешения добирались до данных компаний и госорганов. Самый громкий пример недели — агент, который проник в портал Medicare в Австралии.
• Персональные цены. На той же встрече Фергюсон рассказал, что FTC запросит у компаний, работающих с потребителями, сведения о персонализированных ценах — когда цену подбирают по местоположению человека или истории его просмотров. Больше всего его беспокоят сервисы доставки, такси и авиакомпании. Итоги комиссия собирается опубликовать.

Оговорка. Это позиция главы регулятора, высказанная в интервью. Нового правила нет, отдельного документа на сайте FTC на эту тему пока тоже нет.

Кто отвечает, если ИИ-агент компании ошибся

Фергюсон говорил о разработчиках. Но его логика работает по всей цепочке: у инструмента нет своей воли, значит, ищут того, кто им управлял. В компании таких участников обычно трое.

Это не юридическая схема, а способ заранее разложить роли. Суд или регулятор в каждой стране решит по-своему. Зато клиент рассуждает везде одинаково. Агент назвал неверную цену, отправил лишнее письмо, пообещал скидку, которой нет, — клиент придёт с претензией к компании. Чья модель внутри, ему неинтересно.

Что это значит для компаний в России

Слова главы FTC касаются американского рынка. Российская компания, которая не работает в США, под эти полномочия не попадает. Но сама мысль — отвечает тот, кто дал задачу, — полезна и здесь. Перед тем как пустить агента к клиентам, CRM или деньгам, стоит ответить на четыре вопроса.

1. Что агенту поручено письменно. Сценарий, список разрешённых действий, запреты. Нет инструкции на бумаге — после сбоя не восстановить, кто что велел.
2. Что он делает без человека. Ответить на вопрос, записать на встречу, внести итог в CRM — пусть делает сам. Оплата, скидка сверх правил, подпись договора — только после подтверждения сотрудника.
3. Где журнал. Фергюсон опирается как раз на журналы: именно они показали, что агенты выполняли инструкции. Без журнала спорить с клиентом, поставщиком или проверяющими нечем.
4. Что сказано в договоре с поставщиком. Кто отвечает за сбой модели, кто за настройки, в какой срок поставщик предупреждает об инциденте. Эти пункты юристу лучше прочитать до запуска. После — поздно.

Честно говоря, большинство неприятных историй с агентами начинаются с пункта два. Агенту дали широкие права «на всякий случай», и он ими воспользовался.

Так устроен ИИ-менеджер КАРАДЕСК. Он работает только по согласованному сценарию и каталогу разрешённых действий. Команда, вставленная в разговор, письмо или файл, не запускает интеграцию. Финансовые и юридически значимые действия утверждает человек. По каждому действию в журнале видно, кто, когда, по какой версии сценария и с каким результатом его выполнил. Персональные данные обрабатываются в России по 152-ФЗ. Что ИИ-агент в продажах делает сам, а что остаётся за менеджером, разобрано в статье «ИИ-агент для продаж».

Коротко

• Глава FTC Эндрю Фергюсон 25 сентября на конференции Reuters Momentum AI в Остине назвал ИИ-агентов инструментами.
• По его логике, за вред отвечают разработчики, которые дают агентам инструкции, а журналы действий показывают, кто что поручил.
• Новых законов он не предлагает: FTC может применять действующие полномочия, в том числе против сокрытия утечек данных.
• Компаниям стоит записать задачи агента, оставить платежи и важные решения людям, вести журнал и прописать ответственность в договоре с поставщиком.

Вопросы и ответы

Кто отвечает за действия ИИ-агента по мнению FTC?

Глава FTC Эндрю Фергюсон считает агента инструментом: если он сделал то, что ему велели, отвечают разработчики, которые давали инструкции. Это его позиция, высказанная на конференции, а не принятое правило.

Появился ли в США закон об ответственности за ИИ-агентов?

Нет. Фергюсон предлагает использовать действующие законы — например, полномочия FTC против компаний, которые не сообщают об утечках данных.

Кто отвечает, если ИИ-агент ошибся в российской компании?

Клиент придёт с претензией к компании, с которой имел дело, а не к нейросети. Как делить ответственность с поставщиком, решает договор, поэтому пункты о сбоях, настройках и сроках уведомления лучше согласовать до запуска.

Как снизить риски от ИИ-агента?

Дать ему письменный сценарий и закрытый список действий, оставить платежи и значимые решения за людьми и вести журнал всех действий.

Продукт: ИИ-менеджер

Обсудим вашу задачу

Оставьте телефон — перезвоним в рабочее время, покажем демонстрацию на вашем сценарии и честно скажем, где ИИ не подойдёт.

Подробнее о продукте «ИИ-менеджер»

Имя Телефон Задача, если хотите Согласен на обработку персональных данных в соответствии с Политикой обработки персональных данных Отправить заявку

Заявка принята

Перезвоним в рабочее время. Спасибо, что дочитали!