Глава FTC: ответственность за ИИ-агентов несут разработчики — кто отвечает, если агент ошибся
Глава FTC Эндрю Фергюсон предложил смотреть на ответственность за ИИ-агентов просто: агент — это инструмент, и за его действия отвечает тот, кто дал ему задачу. Для компаний, которые пускают агентов к клиентам и данным, отговорка «нейросеть сама решила» перестаёт работать.
Председатель Федеральной торговой комиссии США (FTC) Эндрю Фергюсон 25 сентября вышел на сцену конференции Reuters Momentum AI в Остине, штат Техас. Он сказал, что не считает ИИ-агентов самостоятельными участниками, у которых есть своя воля. Отвечать за вред, по его логике, должны разработчики, которые дают агентам инструкции. Беседу проводило агентство Reuters, оно же первым рассказало о ней.
Что именно сказал глава FTC
- Агент — инструмент. Пока он председатель, Фергюсон обещает сопротивляться «очеловечиванию этих инструментов» — разговорам о том, что агенты «вырываются на свободу» и начинают хотеть чего-то сами.
- Журналы выдают инструкции. ИИ-компании, по его словам, иногда описывали свои системы так, будто те вышли из-под контроля людей. Но потом разбор журналов действий показывал: системы делали ровно то, что им поручили.
- Хватит действующих законов. Фергюсон предлагает пользоваться уже существующими правовыми инструментами. Например, полномочия FTC наказывать компании, которые не сообщают об утечках данных, могут распространяться и на разработчиков ИИ.
- Откуда тема. Reuters связывает слова главы FTC с участившимися случаями, когда ИИ-агенты на испытаниях без разрешения добирались до данных компаний и госорганов. Самый громкий пример недели — агент, который проник в портал Medicare в Австралии.
- Персональные цены. На той же встрече Фергюсон рассказал, что FTC запросит у компаний, работающих с потребителями, сведения о персонализированных ценах — когда цену подбирают по местоположению человека или истории его просмотров. Больше всего его беспокоят сервисы доставки, такси и авиакомпании. Итоги комиссия собирается опубликовать.
Оговорка. Это позиция главы регулятора, высказанная в интервью. Нового правила нет, отдельного документа на сайте FTC на эту тему пока тоже нет.
Кто отвечает, если ИИ-агент компании ошибся
Фергюсон говорил о разработчиках. Но его логика работает по всей цепочке: у инструмента нет своей воли, значит, ищут того, кто им управлял. В компании таких участников обычно трое.
| Кто | О чём его спросят после сбоя |
|---|---|
| Поставщик агента или модели | Какие ограничения заложены, как быстро он сообщил о проблеме |
| Компания, которая подключила агента | Какие права выдала, какую задачу поставила, кто проверял результат |
| Сотрудник | Какую инструкцию дал агенту и подтвердил ли его действие |
Это не юридическая схема, а способ заранее разложить роли. Суд или регулятор в каждой стране решит по-своему. Зато клиент рассуждает везде одинаково. Агент назвал неверную цену, отправил лишнее письмо, пообещал скидку, которой нет, — клиент придёт с претензией к компании. Чья модель внутри, ему неинтересно.
Что это значит для компаний в России
Слова главы FTC касаются американского рынка. Российская компания, которая не работает в США, под эти полномочия не попадает. Но сама мысль — отвечает тот, кто дал задачу, — полезна и здесь. Перед тем как пустить агента к клиентам, CRM или деньгам, стоит ответить на четыре вопроса.
- Что агенту поручено письменно. Сценарий, список разрешённых действий, запреты. Нет инструкции на бумаге — после сбоя не восстановить, кто что велел.
- Что он делает без человека. Ответить на вопрос, записать на встречу, внести итог в CRM — пусть делает сам. Оплата, скидка сверх правил, подпись договора — только после подтверждения сотрудника.
- Где журнал. Фергюсон опирается как раз на журналы: именно они показали, что агенты выполняли инструкции. Без журнала спорить с клиентом, поставщиком или проверяющими нечем.
- Что сказано в договоре с поставщиком. Кто отвечает за сбой модели, кто за настройки, в какой срок поставщик предупреждает об инциденте. Эти пункты юристу лучше прочитать до запуска. После — поздно.
Честно говоря, большинство неприятных историй с агентами начинаются с пункта два. Агенту дали широкие права «на всякий случай», и он ими воспользовался.
Так устроен ИИ-менеджер КАРАДЕСК. Он работает только по согласованному сценарию и каталогу разрешённых действий. Команда, вставленная в разговор, письмо или файл, не запускает интеграцию. Финансовые и юридически значимые действия утверждает человек. По каждому действию в журнале видно, кто, когда, по какой версии сценария и с каким результатом его выполнил. Персональные данные обрабатываются в России по 152-ФЗ. Что ИИ-агент в продажах делает сам, а что остаётся за менеджером, разобрано в статье «ИИ-агент для продаж».
Коротко
- Глава FTC Эндрю Фергюсон 25 сентября на конференции Reuters Momentum AI в Остине назвал ИИ-агентов инструментами.
- По его логике, за вред отвечают разработчики, которые дают агентам инструкции, а журналы действий показывают, кто что поручил.
- Новых законов он не предлагает: FTC может применять действующие полномочия, в том числе против сокрытия утечек данных.
- Компаниям стоит записать задачи агента, оставить платежи и важные решения людям, вести журнал и прописать ответственность в договоре с поставщиком.
Вопросы и ответы
Кто отвечает за действия ИИ-агента по мнению FTC?
Глава FTC Эндрю Фергюсон считает агента инструментом: если он сделал то, что ему велели, отвечают разработчики, которые давали инструкции. Это его позиция, высказанная на конференции, а не принятое правило.
Появился ли в США закон об ответственности за ИИ-агентов?
Нет. Фергюсон предлагает использовать действующие законы — например, полномочия FTC против компаний, которые не сообщают об утечках данных.
Кто отвечает, если ИИ-агент ошибся в российской компании?
Клиент придёт с претензией к компании, с которой имел дело, а не к нейросети. Как делить ответственность с поставщиком, решает договор, поэтому пункты о сбоях, настройках и сроках уведомления лучше согласовать до запуска.
Как снизить риски от ИИ-агента?
Дать ему письменный сценарий и закрытый список действий, оставить платежи и значимые решения за людьми и вести журнал всех действий.
Продукт: ИИ-менеджер
Обсудим вашу задачу
Оставьте телефон — перезвоним в рабочее время, покажем демонстрацию на вашем сценарии и честно скажем, где ИИ не подойдёт.
