Опубликован проект изменений в 117 Приказ ФСТЭК по искусственному интеллекту

24 августа опубликован проект изменений в 117 Приказ ФСТЭК.

Планируемые изменения направлены на уточнение требований по применению искусственного интеллекта.

В состав планируемых изменений входит:

• Уточнение состава требуемых к разработке документов, в том числе определен документ, который должен содержать правила защиты информации при использовании искусственного интеллекта
• Исключение необходимости применения только доверенных технологий искусственного интеллекта в рамках осуществления мониторинга информационной безопасности
• Изменен состав объектов воздействия угроз безопасности, в частности, необходимо обеспечивать защиту моделей ИИ, их параметров и агентов ИИ-систем
• Для ИИ-систем должен быть выделен отдельный сегмент ИС
• Администраторы должны осуществлять многофакторную аутентификацию при доступе в сегмент ИИ-системы
• В сегменте ИИ-системы должен реализовывать принцип назначения минимально-необходимых прав доступа
• В сегменте ИИ-системы должна обеспечиваться регистрация событий защиты информации, в т. ч. действий пользователей
• В случае применения ИИ для обработки информации ограниченного доступа, дополнительно необходимо обеспечить контроль доступа пользователей к моделям ИИ, фильтрацию входных запросов и выходных данных, квотирование количества входных данных, ограничение и контроль функциональности моделей ИИ
• Уточнен состав компонентов системы защиты ИИ, которые могут использоваться в информационной инфраструктуре, в том числе как компонента ПО самой ИС, а также в виде отдельных средств защиты моделей ИИ
• Определены ссылки на Федеральный Закон «О поддержке развития технологий искусственного интеллекта»
• Определены дополнительные требования по обеспечению контроля функционирования и установления правил доступа для агентов ИИ-систем