Билл Гейтс призвал к государственному регулированию ИИ: «саморегулирования недостаточно»

Билл Гейтс считает, что ИИ-компании не удержат контроль над технологией в одиночку. В интервью программе Meet the Press телеканала NBC сооснователь Microsoft сказал, что саморегулирования отрасли мало. На вопрос, нужен ли в США федеральный закон об ИИ, он ответил одним словом: «Безусловно». Анонс интервью с цитатами NBC News опубликовало 25 сентября в 14:00 по Москве, полная запись выходит в эфир в воскресенье, 27 сентября.

Что именно сказал Гейтс

• О саморегулировании. «Никто не думает, что саморегулирования достаточно».
• О законе. На вопрос, должен ли Вашингтон принять закон, — «Безусловно».
• О том, кто должен участвовать. По словам Гейтса, к разговору о защитных мерах и мониторинге должны подключиться правоохранительные органы и политики. И эти меры должны быть обязательными. Для отрасли это обернётся «небольшими накладными расходами», но работу резко не замедлит.
• О масштабе риска. ИИ, по его словам, уже достаточно мощный, чтобы запустить события, которые приведут к миллиарду смертей. Самым опасным оружием в истории он назвал сочетание людей со злым умыслом и новейших ИИ-инструментов.

Оговорка. Пока это анонс: NBC News привело несколько цитат из интервью. Полной расшифровки на момент нашей публикации нет, сумм и сроков в опубликованных фрагментах Гейтс не называет.

Почему к словам Гейтса прислушаются

Гейтс не политик и не регулятор. Но он сооснователь одной из крупнейших технологических компаний мира, и его слышат в Вашингтоне. Когда за обязательные правила выступает человек из самой отрасли, спор «регулировать или нет» уходит на второй план. Остаётся другой вопрос: как именно.

И его задают со всех сторон. На этой неделе США и Китай договорились о канале связи на случай ИИ-инцидентов. Глава FTC заявил, что за ошибки ИИ-агентов отвечают разработчики. Направление одно: от добровольных обещаний к требованиям, которые можно проверить.

Что это значит для компаний в России

Американский закон российский бизнес напрямую не затронет. Но вопросы у регуляторов везде похожие. Кто контролирует ИИ? Что он сделал? Где лежат данные клиентов? Компании, которая пускает ИИ к клиентам, проще заложить ответы сейчас, чем переделывать систему после первой проверки или первой жалобы.

Три требования стоит записать в договор с поставщиком ИИ ещё до подключения.

1. Человек подтверждает значимые решения. Скидка сверх правил, возврат денег, медицинская рекомендация, подпись документа. ИИ может всё это подготовить, решает сотрудник.
2. Журнал действий. По каждому шагу должно быть видно, кто его сделал, когда, по какой версии сценария и чем всё закончилось. Без журнала на вопрос «почему так вышло» отвечают по памяти. А память у сотрудников короткая.
3. Данные в России. Персональные данные клиентов обрабатываются по 152-ФЗ и размещаются в стране. Спросите поставщика прямо, где физически лежат записи разговоров и расшифровки. Ответ «в облаке» не годится.

Есть и четвёртый пункт, о нём часто забывают. Что ИИ делать нельзя вообще. Гейтс говорит о людях со злым умыслом, и в обычной компании этот риск выглядит приземлённо: клиент или посторонний пытается вставить в разговор команду для робота. Чем короче список разрешённых действий, тем меньше вреда от такой попытки.

Звучит как бюрократия. На деле это страница в договоре и один ответственный человек.

ИИ-менеджер КАРАДЕСК устроен вокруг этих требований. Финансовые, медицинские и другие значимые решения он выполняет только с согласованием человека. По каждому действию в журнале видно, кто, когда, по какой версии сценария и с каким результатом. Персональные данные обрабатываются по 152-ФЗ с размещением в России, данные каждой компании отделены от чужих. Команда, вставленная в разговор, письмо или файл, интеграцию не запускает: исполняются только действия из утверждённого каталога.