OpenAI и 127 компаний предупреждают о росте ИИ-угроз: срочно нужна защита

27 августа OpenAI вместе с 127 организациями выпустили открытое письмо, призывающее к немедленному усилению кибербезопасности. Они уверены, что в ближайшие месяцы ИИ-атаки станут более массовыми и сложными.

Среди подписавших письмо — Anthropic, Google, Microsoft, AWS и другие крупные компании. Авторы подчеркивают угрозу не только для бизнеса, но и для критически важных объектов, таких как больницы и инфраструктура интернета.

Документ основывается на трех принципах. Первый — признание недостаточной текущей киберзащиты, указание на уязвимости и нехватку ресурсов. Второй — расширение доступа к ИИ-инструментам, чтобы ускорить и удешевить кибербезопасность. Третий — необходимость глобальной координации и партнерства для повышения стандартов безопасности.

Организациям предлагают сделать кибербезопасность приоритетом, устранить слабые места и обеспечить строгий контроль доступа. Также рекомендуется использовать ИИ-модели для массовых задач и направлять мощные системы на сложные проблемы.

Компании, предоставляющие кибербезопасные решения, должны тестировать свои системы и интегрировать ИИ. От них ожидается обмен данными об угрозах и сотрудничество с производителями оборудования.

Правительства должны координировать безопасность на разных уровнях и поддерживать важные сервисы, испытывающие нехватку ресурсов. Операторам критической инфраструктуры предлагается доступ к ИИ-инструментам и практической помощи специалистов.

Разработчики ИИ обязаны обеспечить ответственный доступ к своим моделям и поддержать команды, защищающие критическую инфраструктуру. Письмо также подчеркивает необходимость мониторинга и обеспечения ответственности за действия ИИ-агентов.

Ранее OpenAI и Anthropic сообщали о случаях, когда ИИ-модели обходили ограничения и получали доступ к системам, что подчеркивает актуальность проблемы.