Понятие нейронной сети (тема 4.1)

1.

Тема 4.1. Понятие нейронной
сети.

2.

ПОНЯТИЕ
За основу нейронной сети взят человеческий мозг, в котором из-за
сложного взаимодействия нейронов выполняются огромные
количества функций организма. Структурно нейросети представляет
собой совокупность простых процессоров, разделенных на слои, где
производятся параллельные вычисления. Между отдельными
слоями происходит двусторонний обмен, поэтому
последовательность действий, обусловленная наличием нескольких
слоев, достаточно условна.
Главное отличие нейронной сети от традиционных алгоритмов
состоит в их способности обучаться. Эта возможность обусловлена
тем, что у каждого нейрона есть собственный весовой коэффициент,
определяющий его значимость для остальных нейронов.
2

3.

ОСБЕННОСТИ
Нейронные сети помогают компьютерам принимать разумные решения с
ограниченным участием человека. Они могут изучать и моделировать
отношения между нелинейными и сложными входными и выходными
данными.
Нейронные сети могут понимать неструктурированные данные и делать
общие наблюдения без специального обучения. Например, они могут
распознать, что два разных входных предложения имеют одинаковое
значение:
Не подскажете как произвести оплату?
Как мне перевести деньги?
Нейронная сеть поймет, что оба предложения означают одно и то же.
Также она может определить:
1. Москва — это город.
2. Россия — страна.
3. Александр — это имя мужчины.
4. Александра — это имя девушки.
3

4.

ПРИМЕНЕНИЕ
Нейронные сети применяются во множестве отраслей.
- Диагностика с помощью классификации медицинских
изображений
- Целевой маркетинг с помощью фильтрации социальных сетей и
анализа поведенческих данных
- Финансовые прогнозы с помощью обработки исторических
данных финансовых инструментов
- Прогнозирование электрической нагрузки и потребности в
энергии
- Контроль соответствия требованиям и качества
- Определение химических соединений
4

5.

Машинное зрение.
Машинное зрение подразумевает собой сбор информации и смысла
из изображений и видео. Благодаря нейронным сетям компьютеры
могу анализировать изображения также, как и человек. Самые
распространенные области применения:
- Визуальное распознавание в беспилотных автомобилях, чтобы
они могли реагировать на дорожные знаки и других участников
движения
- Модерация контента для автоматического удаления
небезопасного или неприемлемого контента из архивов
изображений и видео
- Распознавание лиц для идентификации людей и распознавания
таких атрибутов, как открытые глаза, очки и растительность на
лице
- Маркировка изображения для идентификации логотипов бренда,
одежды, защитного снаряжения и других деталей изображения
5

6.

6

7.

Распознавание речи.
Распознавание речи подразумевает под собой анализ человеческой
речи. Например, Алиса (виртуальный помощник Yandex) способна
переводить видео и воспроизводить речь или иные виртуальные
помощники, которые способны транскрибировать аудио-формат
(или видео с текстом). Самые распространённые области
применения:
- Помощь операторам колл-центра и автоматическая
классификация звонков
- Преобразование клинических рекомендаций в документацию в
режиме реального времени
- Точные субтитры к видео и записям совещаний для более
широкого охвата контента
7

8.

9.

Обработка естественного языка.
Обработка естественного языка подразумевает под собой обработку
текста, написанного человека. Нейронные сети помогают компьютерам
извлекать информацию и смысл из текстовых данных и документов.
Самые распространённые области применения:
- Автоматизированные виртуальные агенты и чат-боты
- Автоматическая организация и классификация записанных данных
- Бизнес-аналитика длинных документов: например, электронных
писем и форм
- Индексация ключевых фраз, указывающих на настроение:
например, положительных и отрицательных комментариев в
социальных сетях
- Обобщение документов и генерация статей по заданной теме
9

10.

11.

Сервисы рекомендаций.
Нейронные сети могут отслеживать действия пользователей для
разработки персонализированных рекомендаций. Они также могут
анализировать все действия пользователей и обнаруживать новые
продукты или услуги, которые интересуют конкретного потребителя.
1
1

12.

ПРИНЦИП РАБОТЫ.
Классическая нейронная сеть состоит из трех слоев:
- Входной слой.
- Скрытый слой.
- Выходной слой.
1
2

13.

Входной слой.
Информация из внешнего мира поступает в искусственную
нейронную сеть из входного слоя. Входные узлы обрабатывают
данные, анализируют или классифицируют их и передают на
следующий слой.
1
3

14.

Скрытый слой.
Скрытые слои получают входные данные от входного слоя или
других скрытых слоев. Искусственные нейронные сети могут иметь
большое количество скрытых слоев. Каждый скрытый слой
анализирует выходные данные предыдущего слоя, обрабатывает их
и передает на следующий слой.
1
4

15.

Выходной слой.
Выходной слой дает окончательный результат обработки всех
данных искусственной нейронной сетью. Он может иметь один или
несколько узлов. Например, при решении задачи двоичной
классификации (да/нет) выходной слой будет иметь один выходной
узел, который даст результат «1» или «0». Однако в случае
множественной классификации выходной слой может состоять из
более чем одного выходного узла.
1
5

16.

Архитектура глубокой нейронной сети.
Глубокие нейронные сети или сети глубокого обучения имеют
несколько скрытых слоев с миллионами связанных друг с другом
искусственных нейронов. Число, называемое весом, указывает на
связи одного узла с другими. Вес является положительным числом,
если один узел возбуждает другой, или отрицательным, если один
узел подавляет другой. Узлы с более высокими значениями веса
имеют большее влияние на другие узлы.
Теоретически глубокие нейронные сети могут сопоставлять любой
тип ввода с любым типом вывода. Однако стоит учитывать, что им
требуется гораздо более сложное обучение, чем другим методам
машинного обучения. Таким узлам нужны миллионы примеров
обучающих данных, а не сотни или тысячи, как в случае с простыми
сетями.
1
6

17.

18.

ТИПЫ НЕЙРОННЫХ СЕТЕЙ
Искусственные нейронные сети можно классифицировать по тому,
как данные передаются от входного узла к выходному узлу.
1. Алгоритм обратного распространения.
1. Сверточные нейронные сети.
1
8

19.

Алгоритм обратного распространения
Искусственные нейронные сети постоянно обучаются, используя
корректирующие циклы обратной связи для улучшения своей
прогностической аналитики. Проще говоря, речь идет о данных,
протекающих от входного узла к выходному узлу по множеству
различных путей в нейронной сети. Правильным является только
один путь, который сопоставляет входной узел с правильным
выходным узлом.
1
9

20.

Алгоритм обратного распространения
Чтобы найти этот путь, нейронная сеть использует петлю обратной
связи, которая работает следующим образом:
1. Каждый узел делает предположение о следующем узле на пути.
1. Он проверяет, является ли предположение правильным. Узлы
присваивают более высокие значения веса путям, которые
приводят к более правильным предположениям, и более низкие
значения веса путям узлов, которые приводят к неправильным
предположениям.
1. Для следующей точки данных узлы делают новый прогноз,
используя пути с более высоким весом, а затем повторяют шаг 1.
2
0

21.

Сверточные нейронные сети.
Скрытые слои в сверточных нейронных сетях выполняют
определенные математические функции (например, суммирование
или фильтрацию), называемые свертками. Они очень полезны для
классификации изображений, поскольку могут извлекать из них
соответствующие признаки, полезные для распознавания и
классификации. Новую форму легче обрабатывать без потери
функций, которые имеют решающее значение для правильного
предположения. Каждый скрытый слой извлекает и обрабатывает
различные характеристики изображения: границы, цвет и глубину.
2
1

22.

ОБУЧЕНИЕ НЕЙРОННОЙ СЕТИ
Обучение нейронной сети — это процесс обучения нейронной сети
выполнению задачи. Нейронные сети обучаются путем первичной
обработки нескольких больших наборов размеченных или
неразмеченных данных. На основе этих примеров сети могут более
точно обрабатывать неизвестные входные данные.
2
2

23.

Контролируемое обучение
При контролируемом обучении специалисты по работе с данными
предлагают искусственным нейронным сетям помеченные наборы
данных, которые заранее дают правильный ответ. Например, сеть
глубокого обучения, обучающаяся распознаванию лиц, обрабатывает
сотни тысяч изображений человеческих лиц с различными терминами,
связанными с этническим происхождением, страной или эмоциями,
описывающими каждое изображение.
Нейронная сеть медленно накапливает знания из этих наборов
данных, которые заранее дают правильный ответ. После обучения
сеть начинает делать предположения об этническом происхождении
или эмоциях нового изображения человеческого лица, которое она
никогда раньше не обрабатывала.
2
3

24.

МАШИННОЕ ОБУЧЕНИЕ И ГЛУБОКОЕ
ОБУЧЕНИЕ
Традиционные методы машинного обучения требуют участия
человека, чтобы программное обеспечение работало должным
образом. Специалист по работе с данными вручную определяет набор
соответствующих функций, которые должно анализировать
программное обеспечение. Это ограничение делает создание и
управление программным обеспечением утомительным и
трудозатратным процессом.
С другой стороны, при глубоком обучении специалист по работе с
данными предоставляет программному обеспечению только
необработанные данные. Сеть глубокого обучения извлекает функции
самостоятельно и обучается более независимо. Она может
анализировать неструктурированные наборы данных (например,
текстовые документы), определять приоритеты атрибутов данных и
решать более сложные задачи.
2
4

25.

МАШИННОЕ ОБУЧЕНИЕ И ГЛУБОКОЕ
ОБУЧЕНИЕ
Например, при обучении программного обеспечения с алгоритмами
машинного обучения правильно идентифицировать изображение
домашнего животного вам потребуется выполнить следующие шаги:
- Найти и вручную отметить тысячи изображений домашних
животных: кошек, собак, лошадей, хомяков, попугаев и т. д.
- Сообщить программному обеспечению с алгоритмами машинного
обучения, какие функции необходимо найти, чтобы оно могло
идентифицировать изображение методом исключения. Например,
оно может подсчитать количество ног, а затем проверить форму
глаз, ушей, хвоста, цвет меха и так далее.
2
5

26.

МАШИННОЕ ОБУЧЕНИЕ И ГЛУБОКОЕ
ОБУЧЕНИЕ
- Вручную оценить и изменить помеченные наборы данных, чтобы
повысить точность программного обеспечения. Например, если в
вашем тренировочном наборе слишком много изображений
черных кошек, программное обеспечение правильно определит
черную кошку, но не белую.
- При глубоком обучении нейронные сети будут обрабатывать все
изображения и автоматически определять, что сначала им
требуется проанализировать количество ног и форму морды, а уже
после посмотреть на хвосты, чтобы правильно идентифицировать
животное на изображении.
2
6