ФСТЭК готовит правила безопасности для искусственного интеллекта

До конца 2025 г. Федеральная служба по техническому и экспортному контролю (ФСТЭК) планирует представить проект стандарта по безопасной разработке систем искусственного интеллекта (ИИ) в дополнение к стандарту по безопасной разработке программного обеспечения (ПО). Об этом заявил первый заместитель директора ФСТЭК Виталий Лютиков на форуме BIS-2025. Лютиков уточнил, что речь идет о тех уязвимостях и угрозах, которые специфичны для ИИ, связанных с дата-центричностью, с моделями машинного обучения и т. д.

«Мы сейчас прорабатываем и в ближайшее время представим проект стандарта по безопасной разработке системы ИИ как дополнение к стандарту по безопасной разработке ПО. Я думаю, что до конца года у нас появится документ, который мы представим для обсуждения экспертному сообществу», — заявил Лютиков.

По мнению экспертов, новый проект стандарта ФСТЭК будет представлять собой детализированное методическое руководство, дополняющее существующие "Требования по безопасной разработке программного обеспечения" специфическими мерами для жизненного цикла систем ИИ. Существующий стандарт по безопасной разработке ПО (SDLC) охватывает общие практики безопасности на всех этапах создания ПО. Но ИИ-системы имеют фундаментальные отличия, которые не учитываются в традиционных моделях угроз.

В 117-м приказе ФСТЭК, который вступает в силу с 1 марта 2026 г. и устанавливает новые требования к защите информации в государственных информационных системах, есть достаточно большой раздел, посвященный вопросам безопасности ИИ, моделей и датасетов, которые используются для обучения этих моделей. Но такая непростая тема не может обойтись только одной страницей внутри приказа, который только постулирует само требование по защите ИИ, но не рассказывает, как это сделать.

Поэтому и назрела необходимость наличия стандарта, который будет описывать конкретные меры, предназначенные для компаний, внедряющих ИИ в свои проекты. В таком документе будут прописаны вопросы, связанные не только с ИИ-моделями, но и с тем, как собирать датасеты, как их хранить, как их размечать безопасным образом, как обеспечивать их целостность и конфиденциальность, поскольку они могут представлять интерес для различных злоумышленников. Там будет прописан процесс, связанный с обеспечением всего цикла разработки безопасного ИИ.

Разрабатываемые требования будут распространяться на разработчиков ИИ-решений, особенно тех, кто создает продукты для государственного сектора и критической информационной инфраструктуры, а также госзаказчиков и операторов, предполагают эксперты. В перспективе эти требования могут стать де-факто отраслевым стандартом и для коммерческого сектора.

Традиционные меры кибербезопасности неэффективны против новых угроз, характерных для ИИ, таких как "инъекция" промтов, "отравление" данных и эксплуатация "галлюцинаций" моделей, поэтому требуется специализированный стандарт, чтобы закрыть эти пробелы, считают эксперты.

На сегодняшний день существует свыше 150 стандартов по ИИ и большинство из них носят отраслевой характер (ИИ в медицине, ИИ в сельском хозяйстве и т. д.). Новый стандарт представляется более важным и охватывающим все направления, но не заменяющим другие стандарты.

В противном случае мы можем столкнуться с большим количеством инцидентов, когда ИИ, обученный либо на некорректных, либо на сфальсифицированных, либо на мошеннических данных, будет принимать некорректное решение, в результате чего пострадают люди, различные государственные проекты и иные системы, принимающие решения, в том числе имеющие юридические последствия, на базе ИИ.