Задача регрессии. Линейная регрессия. Лекция №3

1.

Лекция №3
Задача регрессии.
Линейная регрессия.
Автор: ассистент Отырба Р. Р.
Факультета компьютерных наук
Кафедры технологий обработки и защиты
информации

2.

ЦЕЛЬ ЛЕКЦИИ
Освоить основные концепции задачи регрессии и метода линейной регрессии, а
также понять, как применять градиентный спуск для эффективного обучения модели.
По завершению лекции вы должны:
• Понимать суть задачи регрессии и уметь её формулировать.
• Понимать модель линейной регрессии. Знать основные понятия, такие как
линейная зависимость и анализ регрессионных коэффициентов.
• Понимать, какие функции потерь используются в линейной регрессии и как они
оценивают качество модели.
• Уметь объяснить принципы работы градиентного спуска и его роль в обучении
линейной регрессии.
• Уметь выбирать и настраивать гиперпараметры модели, такие как скорость
обучения (learning rate), количество итераций и т.д.
• Быть способными применять полученные знания на практике, реализуя обучение
линейной регрессии с помощью градиентного спуска на реальных данных.
2

3.

СОДЕРЖАНИЕ
01
ЗАДАЧА РЕГРЕССИИ
02
ЛИНЕЙНАЯ РЕГРЕССИЯ
03
ФУНКЦИЯ ОШИБКИ
04
05
ГРАДИЕНТНЫЙ СПУСК И ПРОИЗВОДНАЯ
ПРОГРАММНАЯ РЕАЛИЗАЦИЯ ПАРНОЙ РЕГРЕССИИ,
ИСПОЛЬЗУЯ NUMPY И SKLEARN
06
НЕЛИНЕЙНЫЕ ВИДЫ РЕГРЕССИИ
3

4.

ЗАДАЧА РЕГРЕССИИ
Задача регрессии – это ещё одна из основных задач машинного обучения,
которая в отличие от задачи классификации, используется для предсказания
числовых значений на основе данных. Она помогает понять, как одна или несколько
переменных (называемых "признаками") влияют на другую переменную, которую
мы хотим предсказать (называемую "целевой переменной или признаком").
В задаче регрессии используются следующие обучающие данные:
• X - характеристики (признаки), описывающие объекты;
• y - целевой признак (непрерывное множество).
Геометрический смысл регрессии состоит в нахождении наиболее
оптимальной функции, которая наиболее точно предсказывает значения
целевого признака y на основе ваших данных X.
f x1 , x2 ,..., xn y
4

5.

ЗАДАЧА РЕГРЕССИИ
Рассмотрим пример задачи регрессии для предсказания
цены недвижимости.
Для простоты мы будем использовать один признак