ГАММА_ИИ_Безопасность_ГОТОВО

1.

ИКОНКИ

2.

ФОН

3.

ФОН

4.

ФОН

5.

ЛОГО

6.

ЛОГО

7.

ЗАГОЛОВОК СЛАЙДА
Иван
Иванов

8.

ЗАГОЛОВОК СЛАЙДА
Иван Иванов

9.

ЗАГОЛОВОК
СЛАЙДА
Иван Иванов

10.

ЗАГОЛОВОК СЛАЙДА
Иван
Иванов

11.

ЗАГОЛОВОК
СЛАЙДА

12.

ЗАГОЛОВОК
СЛАЙДА

13.

ЗАГОЛОВОК
СЛАЙДА

14.

ЗАГОЛОВОК
СЛАЙДА

15.

ЗАГОЛОВОК
СЛАЙДА
Подзаголовок
Подзаголовок
Подзаголовок
Федеральное государственное
унитарное предприятие «Научнопроизводственное предприятие
«Гамма» (ФГУП «НПП «Гамма»)
Федеральное государственное
унитарное предприятие «Научнопроизводственное предприятие
«Гамма» (ФГУП «НПП «Гамма»)
Федеральное государственное
унитарное предприятие «Научнопроизводственное предприятие
«Гамма» (ФГУП «НПП «Гамма»)
Федеральное государственное унитарное предприятие
«Научно-производственное предприятие «Гамма» (ФГУП
«НПП «Гамма»)
Федеральное государственное унитарное предприятие
«Научно-производственное предприятие «Гамма» (ФГУП
«НПП «Гамма»)

16.

ЗАГОЛОВОК
Подзаголовок
Подзаголовок
Федеральное государственное
унитарное предприятие «Научнопроизводственное предприятие
«Гамма» (ФГУП «НПП «Гамма»)
70%
Федеральное государственное
унитарное предприятие «Научнопроизводственное предприятие
«Гамма» (ФГУП «НПП «Гамма»)
5%
10%
Федеральное государственное
унитарное предприятие «Научнопроизводственное предприятие
«Гамма» (ФГУП «НПП «Гамма»)
15%
Федеральное государственное
унитарное предприятие «Научнопроизводственное предприятие
«Гамма» (ФГУП «НПП «Гамма»)

17.

ЗАГОЛОВОК
СЛАЙДА
6
5
4
3
2
1
0
Категория 1
Категория 2
Категория 3
Ряд 1
Ряд 2
Ряд 3
Категория 4

18.

ЗАГОЛОВОК
Подзаголовок
20%
Федеральное государственное
унитарное предприятие «Научнопроизводственное предприятие
«Гамма» (ФГУП «НПП «Гамма»)
Подзаголовок
20%
Федеральное государственное
унитарное предприятие «Научнопроизводственное предприятие
«Гамма» (ФГУП «НПП «Гамма»)
Подзаголовок
20%
Федеральное государственное
унитарное предприятие «Научнопроизводственное предприятие
«Гамма» (ФГУП «НПП «Гамма»)
Подзаголовок

19.

ЗАГОЛОВОК
Подзаголовок
Федеральное государственное унитарное
предприятие «Научно-производственное
предприятие «Гамма» (ФГУП «НПП «Гамма»)
учреждено на базе подразделения Научноисследовательского института автоматической
аппаратуры имени академика В.С. Семенихина
(НИИ АА им. Семенихина) 30 августа 1991 года
в целях проведения работ в области
комплексной
защиты
информации
в автоматизированных системах управления,
средствах информатизации и информационных
технологиях, а также расширения конверсионных
работ в интересах народного хозяйства
и населения.
В 2008 году Указом Президента РФ ФГУП
«НПП «Гамма» включено в «Перечень
стратегических предприятий и стратегических
акционерных обществ».
(Указ Президента РФ от 29.05.2008 г. № 861).

20.

ЗАГОЛОВОК
Подзаголовок
Подзаголовок
Федеральное государственное унитарное предприятие
«Научно-производственное предприятие «Гамма» (ФГУП
«НПП
«Гамма»)
учреждено
на
базе
подразделения
Научноисследовательского
института
автоматической
аппаратуры имени академика В.С. Семенихина (НИИ АА
им. Семенихина) 30 августа 1991 года
Подзаголовок
Федеральное государственное унитарное предприятие
«Научно-производственное предприятие «Гамма» (ФГУП
«НПП
«Гамма»)
учреждено
на
базе
подразделения
Научноисследовательского
института
автоматической
аппаратуры имени академика В.С. Семенихина (НИИ АА
им. Семенихина) 30 августа 1991 года

21.

ЗАГОЛОВОК
Подзаголовок
СК4-МАХ6
СК4-МАХ6

22.

Подзаголовок
Федеральное государственное унитарное
предприятие «Научно-производственное
предприятие «Гамма» (ФГУП «НПП «Гамма»)
учреждено на базе подразделения Научноисследовательского института автоматической
аппаратуры имени академика В.С. Семенихина
(НИИ АА им. Семенихина) 30 августа 1991 года

23.

Подзаголовок

24.

ЗАГОЛОВОК
Подзаголовок

25.

СПАСИБО ЗА ВНИМАНИЕ!
nppgamma.ru

26.

СПАСИБО ЗА ВНИМАНИЕ!
nppgamma.ru

27.

nppgamma.ru
СПАСИБО
ЗА ВНИМАНИЕ!

28.

Вызовы безопасности при внедрении ИИ
Состязательные атаки
искажение входных данных →
неверное решение модели
Отравление данных
вредоносные примеры в
обучающей выборке
«Чёрный ящик»
непредсказуемость решений,
сложность аудита
Безопасность ИИ должна закладываться на этапе проектирования архитектуры [Приказ
№117, п.9]

29.

Нормативная база: ключевые документы
• ГОСТ Р 71476-2024 (ИСО/МЭК 22989:2022)
«Искусственный интеллект. Концепции и терминология…»
• ГОСТ Р 71752-2024 «Искусственный интеллект.
Техническое задание…»
• ГОСТ Р 59277-2020 «Системы искусственного интеллекта.
Классификация…»
• ГОСТ Р ИСО/МЭК 42001-2024 «Искусственный интеллект.
Система менеджмента»
• ГОСТ Р 71688-2024 «Искусственный интеллект. Наборы
данных для разработки…»
• ПНСТ 1046-2026 «Искусственный интеллект в критической
информационной инфраструктуре…»
Системный подход, охватывающий все этапы жизненного цикла

30.

Проблема доверенности искусственного
интеллекта
Алгоритм (модель)
кто и как оценит модель внутри
закрытого контура? Как получить
сертификат?
Датасет
где взять чистые данные? Защита
от data poisoning в закрытом
периметре
Периметр
ответственность за обновление,
мониторинг, безопасность
модели [Приказ №117, п.60]
Доверенность ИИ – многогранная задача: безопасность алгоритмов, достоверность
данных, защита инфраструктуры

31.

Принципы защиты систем искусственного
интеллекта
• Безопасность на всех этапах жизненного цикла [Приказ №117, п.9]
• Валидация данных и контроль источников
• Человек в контуре [Приказ №117, п.61]
• Централизованный мониторинг и реагирование [Приказ №117, п.49]
• Контурная модель безопасности и разграничение доступа [Приказ №117, п.71–72]

32.

Контурная модель безопасности
Сегмент сбора и первичной подготовки
данных
обезличенные данные, фильтрация,
нормализация. Изолирован, логируется.
Защищённый сегмент обработки и
управления
алгоритмы ИИ, верифицированные
уведомления оператору. Наивысший класс
защиты, строгая ролевая модель.
Дополнительно: разграничение доступа к результатам работы ИИ метками конфиденциальности

33.

Ограничения бумажных описаний
• Статичный текст, не приспособлен для автоматизации
объектов
защиты
• Даже будучи актуальными (Приказ №77), остаются неприменимыми для систем
поддержки принятия решений
• Аналитик вручную просматривает сотни страниц
• Медленно, трудоёмко, подвержено ошибкам
В условиях динамичного развития ИИ такой подход не масштабируется

34.

Цифровая модель объекта защиты как
• Формализованное, структурированное, машиночитаемое представление
решение
системы
• Каждый элемент (сервер, сеть, БД, приложение, ИИ-модуль) описан
атрибутами
• Связи, потоки данных, уязвимости, меры защиты – в виде строгой структуры
• База знаний об архитектуре, реализуемая как граф
Не бумажный отчёт, а работающий инструмент

35.

Преимущества цифровой модели
• Автоматизация оценки угроз
• Интеграция с системами мониторинга и аналитики (SIEM, TIP, системы
поддержки принятия решений)
• Актуализация в реальном времени
• Смена парадигмы – фундамент для интеллектуальной кибербезопасности

36.

Автоматизация моделирования угроз и
оценки рисков
Цифровая модель → основа для модели угроз по методике ФСТЭК
Программа (в перспективе – ИИ) сопоставляет элементы модели с БДУ ФСТЭК
Результат: определение релевантных угроз без ручного анализа [Приказ №117, п.34(а)]
Переход от реактивной защиты к проактивной (прогнозирование рисков)
Реактивная → Проактивная

37.

Применение искусственного интеллекта
для усиления безопасности
ИИ анализирует данные из SIEM, TIP, систем управления активами
Функции: выявление аномалий, корреляция событий, прогнозирование последствий
изменений архитектуры [Приказ №117, п.49]
Человек остаётся в контуре – ИИ инструмент усиления, а не замены эксперта
Окончательное решение в критических ситуациях принимает человек

38.

Заключение: цифровая модель как основа
кибербезопасности
• Обеспечение технологического суверенитета
• Проактивное управление рисками
• Создание отечественных, доверенных решений в области
кибербезопасности
Интеллектуальная, масштабируемая система защиты, отвечающая вызовам
нового времени

39.

Приглашение к сотрудничеству
Кого приглашаем:
промышленные предприятия,
разработчики, регуляторы
Цель:
формирование отраслевых стандартов
безопасного применения ИИ
Контакты: nppgamma.ru
Спасибо за внимание. Готов ответить на вопросы.