Transfer Learning

1.

Transfer Learning

2.

План лекции
1. Transfer Learning
2. Извлечение признаков
3. Дообучение
4. Сценарии Transfer Learning

3.

Transfer Learning
Transfer Learning – (неформально) использование
предварительно обученных моделей для решения новой задачи
Transfer Learning
извлечение признаков
(feature extraction)
дообучение
(fine-tuning)

4.

Transfer Learning
«Нулевой» подход к Transfer Learning состоит в том, чтобы найти
обученную модель для решения вашей задачи.
В таком случае не придется совершать дополнительных действий.

5.

Извлечение признаков

6.

Дообучение

7.

Дообучение
Если при дообучении разморозить все слои,
то будет ли в этом практическая значимость?

8.

Сценарии Transfer Learning
Условия
набор данных похож
на набор для обучения
набор данных не похож
на набор для обучения
маленький
набор данных
использование готовой модели
ИЛИ
новый классификатор
новый классификатор
большой
набор данных
дообучение
И
разморозка последних слоёв
дообучение
И
разморзка всех слоёв