СтепановФёдорАлександрович_ВКР_Презентация

1. Выпускная квалификационная работа

Тема: Извлечение и классификация сущностей в научных текстах по математике
Группа: ИД 23.1/Б3-22
Студент: Степанов Фёдор Александрович
Научный руководитель: Атаева Ольга Муратована
1

2. Цель работы

Цель: Разработка локального программного модуля,
обеспечивающего автоматическое извлечение и классификацию
именованных сущностей из неструктурированных научных текстов
на русском языке
2

3.

Актуальность
• Автоматизация извлечения сущностей важна по следующим
причинам:
1. Постоянный рост объёма научных публикаций
2. Трудоёмкость и высокая вероятность ошибок ручного анализа
3. Недостаточная адаптация существующих инструментов к
специфике научных работ
4. Дефицит корпусов документов с разметкой для обучения
3
3

4. Постановка задачи

1. Сбор XML-архивов и формирование корпуса с разметкой по 6
классам.
2. Проектирование гибридного модуля, RuBERT-tiny2 и регулярные
выражения с арбитражным контроллером координат.
3. Реализация FastAPI сервиса с системой непрерывного обучения.
4. Разработка веб-интерфейса для отображения найденных классов
в браузере.
4

5. Датасет

• Источник: Математическая
Энциклопедия (libmeta.ru)
• Объем: 6172 файла
• Формат: XML
6

6. Обработка датасета

Итог:
• 6170 предложении
• 101 247 слов
• 148 512 токенов
7

7. Проектирование модуля

• Объединение RegEx и RuBERTtiny2
• Регулярные выражение совершает
поиск формул
• RuBERT-tiny2: все классы
• Арбитражный контроль:
сопоставление координат
8

8. Обучение модели

Разделение датасета на:
• 70% - обучающая выборка
• 15% - валидационная выборка
• 15% - тестовая выборка
Базовая архитектура:
• RuBERT-tiny2
Конфигурация:
• Максимальная длина – 512 токенов
• Размер батча – 8 последователей
• Эпохи – 15
Кросс-энтропия:
•