Администрация госспецсвязи утвердила "Рекомендации по киберзащите информационно-коммуникационных систем, которые используют технологии искусственного интеллекта". Этот документ, разработанный во исполнение Концепции развития ИИ, является первой в Украине попыткой систематизировать подходы к защите ІТ-систем, которые используют искусственный интеллект.
Зачем нужны рекомендации и кого они касаются?
Как отмечено в приказе, рекомендации имеют информационный и добровольный характер и не являются нормативно-правовым актом. Они предназначены для владельцев и распорядителей информационных, коммуникационных и технологических систем, которые используют или планируют использовать технологии ИИ.
Главная цель документа - предложить таксономию специфических для ИИ киберугроз и предоставить практические меры по киберзащите для уменьшения соответствующих рисков.
Ключевые этапы внедрения систем из ИИ
Рекомендации предлагают структурированный подход к внедрению ИИ, которое начинается с подготовительных действий:
1. Определение целей: четкое понимание, какие задания должно выполнять ИИ и какие преимущества это предоставит.
2. Привлечение квалифицированных специалистов: формирование команды, ответственной за разработку, тестирование и обновление моделей ИИ.
3. Обеспечение качества и релевантності данных: внедрение метрик для контроля точности, полноты и актуальности данных, на которых учится модель.
4. Управление рисками предубежденности: документирование возможных источников предубежденности в данных, регулярное тестирование моделей и их корректировка.
5. Разработка политики использования ИИ: создание внутреннего документа, что базируется на этичных принципах и регуляторных требованиях.
6. Комплексная оценка рисков: интеграция процесса управления рисками, связанными из ИИ, в общую систему управления рисками организации.
Госспецсвязи также выделяет шесть основных категорий специфических киберугроз. Подробнее в документе
Для бизнеса, который внедряет или планирует внедрять решение на основе ИИ, эти рекомендации являются важным ориентиром для построения надежной системы киберзащиты. LIGA360 предоставляет доступ к актуальной нормативной базе и экспертной аналитике, что позволяет выстроить эффективную стратегию управления рисками.
