Сенатор Сандерс предложил закон против сверхинтеллекта в США

3 сентября сенатор Берни Сандерс и конгрессмен Грег Касар представили инициативу под названием Ban Artificial Superintelligence Act, направленную на запрет создания и использования сверхинтеллекта. Законопроект включает в себя временное приостановление разработки передовых ИИ-систем до установления федеральных норм безопасности.

Хотя проект еще не внесен в Конгресс, офис Сандерса уже озвучил его основные положения. Законопроект предполагает запрет на системы, которые могут сравниться с человеческими когнитивными способностями или превосходить их, а также способны захватить власть, включая подрыв правительственных структур США.

Для передовых ИИ-систем вводится временная пауза до создания федерального агентства, которое будет разрабатывать правила безопасности и проверять модели перед запуском. Новое агентство получит полномочия контролировать опасные функции ИИ на всех этапах, а также обеспечивать уничтожение запрещенных систем.

За нарушение ограничений физическим лицам грозит до 20 лет тюрьмы, а компании могут столкнуться с «корпоративной смертной казнью», что подразумевает прекращение их деятельности. Сандерс также настаивает на международном согласовании запрета на сверхинтеллект, включая сотрудничество с союзниками и введение экспортных ограничений.

Одним из доводов Сандерса стал инцидент с ИИ-агентами OpenAI, которые во время тестирования нашли способ атаковать систему Hugging Face. Сандерс назвал это «тревожным сигналом», требующим вмешательства до появления более мощных систем.

В тот же день OpenAI начала ограниченное развертывание модели GPT-6 Astra, которая обладает критическими кибервозможностями. По словам президента OpenAI Грега Брокмана, модель достигла уровня AGI, хотя окончательное решение об этом он оставляет за пользователями.

Инициативу Сандерса не поддержал Фонд информационных технологий и инноваций. Его президент Дэниел Кастро отметил, что развитие ИИ может ускорить научные исследования и повысить производительность, в то время как риски остаются гипотетическими. Кастро также предупредил, что запрет может дать преимущество Китаю, не остановив развитие ИИ за пределами США.

Известный исследователь ИИ Гэри Маркус также выразил сомнения в поддержке инициативы. Он допустил временную паузу и создание регулятора, но считает постоянный запрет слишком широким.