Новая презентация

1.

Прогнозирование дефолта заемщиков
Цель проекта:
Построить модель машинного обучения для предсказания вероятности невозврата кредита.
Жамиева Аяулым

2.

Описание данных
Источник: датасет application_train
Количество наблюдений: 307 511
Количество признаков: 122
Целевая переменная:
TARGET = 0 — кредит возвращен
TARGET = 1 — дефолт

3.

EDA — Исследовательский анализ данных
Выполнен анализ структуры данных:
типы признаков;
распределения числовых признаков;
распределения категориальных
признаков;
анализ целевой переменной.
Был выявлен дисбаланс данных. Целевой
показатель несбалансирован (8% невыплат)

4.

Распределения категориальных признаков

5.

Распределения числовых признаков
Сумма кредита
Сумма аннуитета - Размер
ежемесячного платежа

6.

Сравнительный анализа категориальных признаков в зависимости от целевой переменной
TARGET

7.

Корреляционный анализ

8.

Feature Engineering
Были созданы новые признаки
Срок кредита = общий кредит / аннуитет
Признаки, описывающие жилье клиента:
APARTMENTS_AVG — средняя характеристика количества квартир.
BASEMENTAREA_AVG — площадь подвала.
YEARS_BUILD_AVG — год постройки.
COMMONAREA_AVG — площадь общих помещений.
LIVINGAREA_AVG — жилая площадь.
NONLIVINGAPARTMENTS_AVG — количество нежилых помещений.
NONLIVINGAREA_AVG — площадь нежилых помещений.
Новый признак MEAN_BUILDING_SCORE_AVG - среднее значение всех характеристик жилья для клиента. Чем выше значение, тем в
среднем лучше характеристики недвижимости.

9.

Отбор признаков

10.

Модели машинного обучения
Разведочный анализ показал серьезный дисбаланс классов, поэтому использую стратифицированное
разбиение
Алгоритмы
Логистическая регрессия
Случайный лес
Gradient Boosting
LightGBM
Сравнение моделей
Logistic Regression: ROC-AUC = 0.7247
Random Forest: ROC-AUC = 0.7380
Gradient Boosting: ROC-AUC = 0.7475
LightGBM: ROC-AUC = 0.7464

11.

Feature Importance Analysis