Similar presentations:
Персептрон и его назначение
1.
ИСКУССТВЕННЫЕ НЕЙРОННЫЕ СЕТИ · ОСНОВЫПерсептрон
и его назначение
Простейшая модель искусственного нейрона: устройство, математика и области применения
2.
СОДЕРЖАНИЕЧто мы рассмотрим
01
Что такое персептрон
02
История создания
03
Строение персептрона
04
Математическая модель
05
Функции активации
Определение и общая идея
Розенблатт и предпосылки
Из чего он состоит
Формулы и вычисления
06
Виды персептронов
07
Обучение персептрона
08
Назначение и применение
09
Преимущества и ограничения
Однослойный и многослойный
Правило коррекции весов
Где используется сегодня
Сильные и слабые стороны
Как принимается решение
Персептрон и его назначение
2
3.
01 · ОПРЕДЕЛЕНИЕЧто такое персептрон
Персептрон — это простейшая математическая модель
искусственного нейрона, способная принимать несколько входных
x1
сигналов, обрабатывать их и выдавать один выходной сигнал.
x2
По сути, это алгоритм бинарной классификации: он делит объекты на
два класса, проводя разделяющую линию (гиперплоскость) в
пространстве признаков.
Автор: Фрэнк Розенблатt
x3
Σ
f
выход y
x4
Год: 1957
Тип модели: Линейный классификатор
Выход: 0 / 1 (да / нет)
Персептрон и его назначение
3
4.
02 · ИСТОРИЯИстория создания
1943
Уоррен Маккаллок и Уолтер Питтс предложили первую
математическую модель нейрона.
1949
Дональд Хебб сформулировал принцип обучения нейронных связей
(«правило Хебба»).
1957
Фрэнк Розенблатт разработал персептрон в Корнеллской
авиационной лаборатории.
➕
Место для фотографии
1969
Марвин Минский и Сеймур Пейперт показали ограничения
персептрона (проблема XOR).
1980-е
Появление многослойных персептронов и алгоритма обратного
распространения ошибки.
Персептрон и его назначение
(например, портрет Ф. Розенблатта
или фото персептрона Mark I)
4
5.
03 · СТРОЕНИЕСтроение персептрона
bias b
x1
x2
x3
w1
w2
w3
Σ
сумматор
...
wn
f(net)
функция
активации
y
выходной
сигнал
xn
x1...xn — входные сигналы w1...wn — веса связей b — смещение (bias) Σ — взвешенная сумма f — функция активации
Персептрон и его назначение
5
6.
0 4 · М А Т Е М АТ И К АМатематическая модель
Взвешенная сумма
Пороговая функция активации
net = w₁x₁ + w₂x₂ + ... + wₙxₙ + b
y = 1, если net ≥ 0
net = Σ(wᵢ · xᵢ) + b
y = 0, если net < 0
Правило обновления весов (обучение)
wᵢ(t+1) = wᵢ(t) + η · (d − y) · xᵢ
η (эта) — скорость обучения
d — желаемый (эталонный) выход
y — фактический выход сети
Веса корректируются, только если ответ персептрона не совпал с
ожидаемым — так модель постепенно «учится» на ошибках.
wᵢ(t) — вес до / после шага обучения
Персептрон и его назначение
6
7.
05 · АКТИВАЦИЯФункции активации
Классический персептрон использует пороговую функцию, но в развитых моделях применяются и другие варианты:
1
2
3
Пороговая (Step)
Сигмоида
ReLU
f(net) = 1, net ≥ 0; 0, net < 0
Классический вариант Розенблатта. Жёсткое
решение «да/нет».
Персептрон и его назначение
f(net) = 1 / (1 + e⁻ⁿᵉᵗ)
Плавный переход 0–1. Используется в
многослойных сетях.
f(net) = max(0, net)
Быстро вычисляется, применяется в
глубоком обучении.
7
8.
06 · ВИДЫВиды персептронов
Однослойный персептрон
Многослойный персептрон (MLP)
y
y
• Один слой связей вход → выход
• Решает только линейно разделимые задачи (AND, OR)
• Не способен решить задачу XOR
• Есть скрытые слои между входом и выходом
• Решает нелинейные задачи (в т.ч. XOR)
• Обучается методом обратного распространения ошибки
• Простой и быстрый в обучении
• Основа современных нейросетей и глубокого обучения
Персептрон и его назначение
8
9.
07 · ОБУЧЕНИЕАлгоритм обучения персептрона
1
2
3
4
5
Инициализация
Подача примера
Вычисление выхода
Коррекция весов
Повтор
Задать случайные (часто
нулевые) веса wᵢ и смещение
b.
Взять обучающий пример x с
известным правильным
ответом d.
Рассчитать net = Σ(wᵢxᵢ) + b и
получить y = f(net).
Если y ≠ d, обновить веса: wᵢ
+= η(d − y)xᵢ.
Повторять шаги 2–4 для всех
примеров, пока ошибки не
исчезнут.
Важно: процесс называют «обучение с учителем» (supervised learning) — для каждого примера заранее известен правильный ответ d, с которым
сверяется результат сети.
Персептрон и его назначение
9
10.
0 8 · Н А З Н АЧ Е Н И ЕНазначение и применение
Персептрон создавался как модель распознавания образов и остаётся фундаментом современных нейросетей.
1
Распознавание образов
2
Бинарная классификация
Классификация изображений, букв и символов —
исходная задача Розенблатта.
Разделение объектов на два класса: спам / не
спам, брак / норма.
4
5
Основа глубокого обучения
Персептрон — «строительный блок»
многослойных нейросетей и MLP.
Персептрон и его назначение
Финансовый и медицинский
скоринг
Простые модели оценки риска и первичной
диагностики.
3
Простые логические функции
Реализация базовых операций типа AND, OR, NOT.
6
Обучающая модель в ИИ
Классический пример для изучения принципов
машинного обучения.
10
11.
09 · ИТОГИПреимущества и ограничения
+
Преимущества
−
Ограничения
Простота устройства и понимания
Решает только линейно разделимые задачи
Быстрое обучение на линейно разделимых данных
Не способен решить задачу XOR
Низкие вычислительные затраты
Чувствителен к масштабу и шуму входных данных
Наглядная интерпретация результата
Не выдаёт вероятность — только жёсткий класс
Фундамент для построения сложных нейросетей
Требует ручного подбора скорости обучения η
Персептрон и его назначение
11
12.
ЗАКЛЮЧЕНИЕПерсептрон — точка отсчёта
искусственного интеллекта
Простая модель одного нейрона показала, что машина способна учиться на примерах. Несмотря на
ограничения, персептрон заложил основу для многослойных сетей, глубокого обучения и всего
современного ИИ.
Спасибо за внимание!
informatics