Берни Сандерс внёс закон о запрете сверхинтеллекта: пауза в разработке ИИ и министерство ИИ в США
Сенатор Берни Сандерс и конгрессмен Грег Касар предложили закон о запрете ИИ-сверхинтеллекта: разработку самых мощных моделей в США поставят на паузу, пока новое министерство ИИ не напишет правила. Шансы на принятие малы, но сам проект показывает, куда движется спор о контроле над ИИ.
Сенатор Берни Сандерс и член Палаты представителей Грег Касар 23 сентября внесли в Конгресс США законопроект Ban Artificial Superintelligence Act. Он навсегда запрещает ИИ-сверхинтеллект и ставит на паузу разработку самых мощных систем ИИ. Пауза продлится, пока новое министерство искусственного интеллекта не утвердит правила безопасности. Касар возглавляет Прогрессивный кокус Конгресса. Агентство AP написало о проекте 23 сентября в 21:10 по Москве.
Что именно предлагает закон о запрете сверхинтеллекта
Текст занимает 19 страниц. Главное из пресс-релизов авторов и публикаций AP и NBC News:
| Что | Как в законопроекте |
|---|---|
| Запрет | Бессрочный запрет на разработку и запуск ИИ-сверхинтеллекта |
| Что считать сверхинтеллектом | Систему, которая превосходит человека в большинстве областей мышления или способна спланировать и осуществить уничтожение либо лишение власти человечества. Сюда же отнесены системы, которые могут автоматизировать или сильно ускорить сами исследования ИИ |
| Пауза | Разработка самых передовых систем останавливается, пока министерство ИИ не примет правила и порядок проверки моделей |
| Министерство ИИ | Ведомство уровня кабинета министров во главе с министром ИИ. Следит за передовыми системами весь их срок жизни, контролирует удаление опасных способностей (например, умения уходить от отключения или без разрешения проводить кибератаки) |
| Разрешение на запуск | После паузы мощные системы ИИ можно выпускать только с одобрения федеральных властей |
| Наказание | Для компании — ликвидация, которую авторы назвали «корпоративной смертной казнью». Для людей — до 20 лет тюрьмы. Сандерс сравнил это с наказанием за незаконное создание ядерного оружия |
| Другие страны | США должны добиваться международных договорённостей, координации с союзниками и экспортного контроля, чтобы сверхинтеллект не создали и за их пределами |
Проект поддержали несколько действующих сотрудников OpenAI и Google DeepMind: они подписали заявление в его пользу. Одобрили его и руководители организации ControlAI.
Есть ли шансы у законопроекта
По оценке AP, шансы у проекта низкие: обе палаты Конгресса контролируют республиканцы, а законодатели не могут договориться даже о куда более мягких правилах для ИИ. Республиканский сенатор Джон Кеннеди сказал NBC News прямо: в этом созыве с ИИ ничего делать не будут. Глава отраслевой National AI Association Калеб Макс назвал проект «мёртвым с момента внесения». По его словам, порог сверхинтеллекта описан так широко, что закон на деле превращается в запрет ИИ, а наказания, скорее всего, противоречат конституции.
Сандерс на это ответил коротко: «Не нужно быть гением, чтобы сказать: притормозите». Президента Трампа, который выступает против жёсткого надзора за ИИ, он упрекнул в том, что тот плохо понимает проблему.
Что это значит для бизнеса
Закон, даже если его примут, касается разработчиков самых мощных моделей. Компании, которые подключают ИИ к звонкам, записи клиентов или CRM, он не затронет ни в США, ни тем более в России. Но полезно заметить одну деталь. Авторы боятся не того, что ИИ станет умнее. Они боятся систем без границ: которые сами решают, что делать дальше, и которые нельзя остановить. Отсюда требования к удалению опасных способностей и разрешение на запуск.
В обычной компании та же логика работает в малом масштабе. ИИ, который разговаривает с клиентами, должен делать строго то, что ему поручили. Обзвонить заявки, записать на встречу, внести итог в CRM. И всё.
Три вопроса, которые стоит задать поставщику до подключения:
- Какие действия ИИ может выполнить сам? Нужен короткий утверждённый список. «Он сам разберётся» — плохой ответ.
- Что будет, если клиент попробует дать ИИ команду? Например, скажет в разговоре «оформи мне скидку 50%». Такая фраза не должна ничего запускать.
- Кто отвечает за решения с деньгами? Скидку сверх правил, возврат, отмену договора подтверждает сотрудник.
Регуляторы в разных странах идут к похожим вопросам с разных сторон. На этой же неделе Билл Гейтс выступил за федеральный закон об ИИ. В России свои требования к ИИ-звонкам уже есть, мы разбирали их в статье «ИИ-звонки для бизнеса: что законно и сколько стоит».
ИИ-менеджер КАРАДЕСК работает только по согласованному сценарию и каталогу разрешённых действий. Команда, вставленная в разговор, письмо или файл, интеграцию не запускает. Финансовые и другие значимые решения он выполняет только с согласованием человека, а по каждому действию в журнале видно, кто, когда, по какой версии сценария и с каким результатом.
Коротко
- Берни Сандерс и Грег Касар 23 сентября внесли в Конгресс США законопроект Ban Artificial Superintelligence Act.
- Он навсегда запрещает ИИ-сверхинтеллект и ставит на паузу разработку самых мощных систем, пока новое министерство ИИ не утвердит правила.
- За нарушения — ликвидация компании и до 20 лет тюрьмы для виновных.
- Проект поддержали несколько сотрудников OpenAI и Google DeepMind, но AP оценивает его шансы в Конгрессе как низкие.
- Бизнесу, который подключает ИИ к клиентам, стоит уже сейчас требовать от поставщика короткий список разрешённых действий и подтверждение значимых решений человеком.
Вопросы и ответы
Что такое закон о запрете сверхинтеллекта Сандерса?
Законопроект Ban Artificial Superintelligence Act сенатора Берни Сандерса и конгрессмена Грега Касара. Он запрещает ИИ, превосходящий человека в большинстве областей мышления, ставит на паузу разработку самых мощных моделей и создаёт в США министерство искусственного интеллекта.
Примут ли этот закон?
Вероятность низкая. Конгресс контролируют республиканцы, которые не договорились даже о более мягких правилах для ИИ, а часть отрасли называет проект мёртвым с момента внесения.
Какое наказание предлагают за нарушение?
Ликвидацию компании, которую авторы называют «корпоративной смертной казнью», и до 20 лет тюрьмы для виновных.
Касается ли закон компаний в России?
Нет. Это проект закона США, и нацелен он на разработчиков самых мощных моделей. Но сама идея — ИИ делает только разрешённое, значимые решения за человеком — полезна любой компании, которая пускает ИИ к клиентам.
Продукт: ИИ-менеджер
Обсудим вашу задачу
Оставьте телефон — перезвоним в рабочее время, покажем демонстрацию на вашем сценарии и честно скажем, где ИИ не подойдёт.
