Similar presentations:
Основы генерация
1.
1НА УЛИЦЕ
ШЕЛ СИЛЬНЫЙ …
2.
2НА УЛИЦЕ
ШЕЛ СИЛЬНЫЙ
ДОЖДЬ
3.
3НА УЛИЦЕ
ШЕЛ СИЛЬНЫЙ СНЕГ
4.
4НА УЛИЦЕ
ШЕЛ СИЛЬНЫЙ СЛОН
5.
5НА УЛИЦЕ
ШЕЛ СИЛЬНЫЙ
ОДУВАНЧИК
6.
Что будем делатьУже больше полувека мы хотим
научить компьютер говорить…
…и пообщаться с ним
7.
Зависимость понимания значения от контекстаИз-под земли
бил ключ…
Жизнь бьет
ключом…
Вася
нарисовал
скрипичный
ключ…
В двери
повернули
ключ…
8.
Сложность задачиВ современном
языке
миллионы
текстов
В этих текстах
на разные
тысячи слов,
темы
переплетенных
десятками
различных
контекстов
9.
Современные возможностиЯзыковые модели 20 лет назад
Современные языковые модели
10.
Генеративные состязательные сетиДискриминация и генерация
Отличать объекты разных классов — задача дискриминации
Порождать новые объекты — задача генерации
Задача генерации принципиально сложнее задачи
дискриминации и долгое время относилась к категории сильного
искусственного интеллекта
11.
Генеративные состязательные сетиЗадача дискриминации
Сначала соберем выборку
12.
Генеративные состязательные сетиЗадача дискриминации
Изображения в каждом классе как-то распределены.
Задача дискриминации состоит в том, чтобы разделить два этих
распределения
13.
Генеративные состязательные сетиГенеративные состязательные сети (GANы)
Две модели:
Первая (генератор) пытается создавать новые объекты (изображения)
Вторая (дискриминатор) пытается отличать настоящие объекты от
сгенерированных
14.
Генеративные состязательные сетиЗадача генерации
(в идеале) генератор после нескольких итераций научится
воспроизводить то самое распределение целевых объектов,
которое есть в выборке настоящих
15.
Генеративные состязательные сетиЧто умеет ИИ: создавать новое
Алгоритмы создают новые изображения
Алгоритмы создают тексты песен
Алгоритмы создают музыку
Алгоритмы синтезируют человеческую речь
Алгоритмы синтезируют формулы новых лекарств
…
16.
Генеративные состязательные сетиНе GANы
Идея использовать вторую сеть для контроля качества очень
сильная, но в некоторых задачах можно обойтись и без нее
Что еще бывает
вариационные кодировщики
трансформеры и модели с памятью
вероятностные модели
17.
Генеративные состязательные сетиУвеличение разрешения
Инструмент: SRGAN
18.
Генеративные состязательные сетиГенерация по наброскам
Инструмент: GauGAN / SPADE
19.
Генеративные состязательные сетиЗачем еще нужны GANы
Больше данных для обучения моделей
Дискриминаторы хорошо дискриминируют
Сохранение приватности данных
Борьба с adversarial attacks (повышение устойчивости
классификации)