ML_Cybersecurity_v2

1.

Машинное
обучение
Поиск уязвимостей и автоматизация атак
Ануфриев Данила
ККСО-04-21
статический анализ
фаззинг
LLM-пентест
adversarial ML
МАШИННОЕ ОБУЧЕНИЕ × КИБЕРБЕЗОПАСНОСТЬ × 2025

2.

Масштаб проблемы
Зачем применять машинное обучение в кибербезопасности
26 000+
< 15 мин
$4.5 млн
новых CVE
за 2023 год
среднее время
от публикации до эксплойта
средний ущерб
от утечки данных (2023)
рост 15% год к году
по данным Palo Alto Networks
по отчёту IBM Cost of a Data Breach
Почему ручных методов уже недостаточно:
Специалист может проверить несколько сотен функций в день — ML модель анализирует
миллионы строк кода за часы
Атаки становятся полиморфными: сигнатурные антивирусы перестают справляться, нужно
обнаружение аномалий
Пространство поиска уязвимостей огромно — ML умеет находить скрытые паттерны, невидимые
человеку
Машинное обучение в кибербезопасности

3.

ML для поиска уязвимостей
Три основных подхода
1
Статический анализ кода с нейросетями
Модели CodeBERT и Graph Neural Networks обучаются на миллионах функций с известными CVE. Входные
данные — Abstract Syntax Tree (AST) или граф потока управления. Находят SQL-инъекции, buffer overflow, useafter-free прямо в pull request'е, до попадания кода в продакшн. Применяется в Snyk, GitHub Code Scanning,
Semgrep AI.
2
Направленный фаззинг (Neural Fuzzing)
Классический фаззер (AFL) мутирует входные данные случайно. ML-фаззеры (Neuzz, AFL++ с нейросетевым
предиктором) учатся предсказывать, какие байты влияют на ветвление кода. Результат — в 2–5× больше
обнаруженных crash-точек при том же времени. Google использует похожие техники в OSS-Fuzz.
3
Анализ бинарных файлов без исходного кода
Инструменты Asm2Vec и SAFE создают векторные представления (embeddings) функций прямо из
ассемблерного кода. Это позволяет искать известные уязвимые фрагменты в закрытом ПО — прошивках
роутеров, IoT-устройствах, коммерческих библиотеках. Работает без доступа к исходникам.
Машинное обучение в кибербезопасности

4.

Автоматизация атак
Как ML меняет арсенал злоумышленников
Генерация эксплойтов
Фишинг нового поколения
LLM (GPT-4, CodeLlama) генерируют proof-of-concept
эксплойты по описанию CVE. Проект PentestGPT
автоматизирует весь цикл пентеста: от разведки до
постэксплуатации. Исследования показывают, что
GPT-4 самостоятельно эксплуатирует CVE в реальных
системах.
Генеративные модели создают
персонализированные письма, имитируя стиль
конкретного человека на основе его публичных
постов. Deepfake-голос и видео используются для
атак типа Business Email Compromise (BEC).
Стоимость таких атак резко упала.
Разведка (OSINT + ML)
Обход средств защиты
Инструменты автоматически агрегируют данные из
LinkedIn, GitHub, Shodan, утечек паролей. ML строит
граф связей и предлагает наиболее уязвимые точки
входа. Время от выбора цели до первоначального
доступа сокращается с дней до часов.
GAN-сети генерируют вредоносный код, невидимый
для антивирусных сигнатур. Adversarial examples —
специально искажённые входные данные — обходят
ML-детекторы IDS/IPS. Атака переносится на новые
системы без переобучения.
Машинное обучение в кибербезопасности

5.

Инструменты: от исследований к практике
Примеры реальных проектов и коммерческих продуктов
DeepExploit
Автоэксплуатация
Neuzz
Neural Fuzzer
PassGAN
Взлом паролей
PentestGPT
LLM-ассистент
Darktrace / Vectra
Защита: аномалии
ML-обёртка над Metasploit: автоматически выбирает эксплойт и payload на основе
результатов сканирования Nmap. Open source.
Нейросеть на PyTorch предсказывает мутации байт, ускоряющие покрытие. В 2–3×
эффективнее стандартного AFL на реальных программах.
GAN обучается на утечках (RockYou, LinkedIn) и генерирует правдоподобные пароли.
Взламывает на 51–73% больше хешей, чем классические словари.
GPT-4 ведёт пентестера: интерпретирует вывод Nmap/Metasploit, предлагает
следующие шаги, объясняет уязвимости. Arxiv 2023.
Unsupervised ML строит базовую модель поведения каждого хоста и пользователя,
обнаруживает отклонения в режиме реального времени.
Машинное обучение в кибербезопасности

6.

Защита: ML против ML
Симметричная гонка вооружений
Векторы атак через ML
Защитные ML-инструменты
Data poisoning — отравление обучающих
данных IDS
Adversarial examples — обход детектора
малвари
Model stealing — кража модели через API
запросы
Deepfake — обход биометрической
аутентификации
Prompt injection в LLM-ассистентах
безопасности
UEBA — поведенческий анализ
пользователей и сущностей
Adversarial training — обучение на примерах
атак
Explainable AI — объяснимые решения для
аналитика
ML в SIEM: корреляция событий, снижение
false-positive
Threat intelligence с NLP — автоанализ
отчётов ИБ
VS
Машинное обучение в кибербезопасности

7.

Итоги
Ключевые тезисы доклада
01
ML кардинально снижает стоимость атак
Автоматизация делает сложные атаки доступными для низкоквалифицированных злоумышленников
02
Три ключевые задачи в поиске уязвимостей
Статический анализ, направленный фаззинг и анализ бинарей уже применяются в продакшне
03
LLM меняют пентест и социальную инженерию
GPT-4 способен самостоятельно эксплуатировать CVE — это задокументированный факт, а не фантастика
04
Защита требует симметричного ответа
Поведенческий анализ, adversarial training и ML-SIEM — необходимость, а не опция
05
Этика и регулирование отстают от технологий
Dual-use проблема: одни и те же методы используются атакующими и защитниками одновременно
Машинное обучение в кибербезопасности