Генеративные состязательные сети как искусственный интеллект научился творить

1. Генеративные состязательные сети как искусственный интеллект научился творить

Андрей Фильченков
к.ф.-м.н., руководитель лаборатории машинного обучения
доцент факультета информационных технологий и программирования
iВолга
25 августа 2020, zoom

2. Кто я и чем занимаюсь (1/2)

Генеративные состязательные сети
Кто я и чем занимаюсь (1/2)
Доцент факультета информационных технологий
и программирования
Читаю лекции про искусственный интеллект и
машинное обучение
Научный руководитель магистерской программы
«Анализ данных и машинное обучение» (Data
Analysis and Machine Learning)
2 / 38

3. Кто я и чем занимаюсь (2/2)

Генеративные состязательные сети
Кто я и чем занимаюсь (2/2)
Руководитель лаборатории машинного обучения
в Центре компьютерных технологий
Много разных интересных теоретических и
прикладных исследований в области машинного
обучения и анализа данных
Мы придумываем алгоритмы, которые помогают
решать разные полезные задачи в медицине,
производстве и разных науках
3 / 38

4. Генерация обложки книги по ее описанию

Генеративные состязательные сети
Генерация обложки книги по ее описанию
Дано короткое описание книги. На основе него
алгоритм должен создать уникальную обложку.
4 / 38

5. О чем мы сегодня будем говорить?

Генеративные состязательные сети
О чем мы сегодня будем говорить?
Искусственный интеллект
Машинное обучение
Глубокие нейронные сети
Анализ данных
5 / 38

6. Дартмутский семинар

Генеративные состязательные сети
Дартмутский семинар
Два месяца летом 1956 года в США
Несколько десятков виднейших ученых
Создание «думающих машин»
6 / 38

7. Котеньки и пёсели

Генеративные состязательные сети
Котеньки и пёсели
7 / 38

8. Сильный и слабый искусственный интеллект

Генеративные состязательные сети
Сильный и слабый искусственный интеллект
8 / 38

9. Слабый искусственный интеллект

Генеративные состязательные сети
Слабый искусственный интеллект
Решает хорошо
поставленные задачи
как человек или лучше
Не способен решать
другие задачи
9 / 38

10. Сильный искусственный интеллект

Генеративные состязательные сети
Сильный искусственный интеллект
Работает на уровне
человеческого мышления
или лучше
Решает произвольные
задачи
Не существует
Нет единого понимания, как
определить, что это
10 / 38

11. Машинное обучение

Генеративные состязательные сети
Машинное обучение
Алгоритмы, у которых качество решения задачи
повышается с опытом
Наиболее популярная задача — задача
предсказания
Алгоритмам нужны данные и (в предсказании)
правильные ответы (метки)
При обучении таких алгоритмов минимизируются
ошибка / максимизируется степень похожести на
правильный ответ
11 / 38

12. Что такое глубокая нейронная сеть?

Генеративные состязательные сети
Что такое глубокая нейронная сеть?
Глубокая нейронная сеть:
Семейство математических алгоритмов
Слабо связана с нейробиологией
Очень сильно связана с машинным обучением
Получила популярность примерно в 2012 году
От обычных нейронных сетей отличается числом
скрытых слоев (больше двух)
12 / 38

13. Что сейчас умеет искусственный интеллект?

Генеративные состязательные сети
Что сейчас умеет искусственный интеллект?
13 / 38

14. Что умеет ИИ: обыгрывать человека

Генеративные состязательные сети
Что умеет ИИ: обыгрывать человека
В шашки
В шахматы
В го
В покер
В Dota2
…
14 / 38

15. Что умеет ИИ: предсказывать

Генеративные состязательные сети
Что умеет ИИ: предсказывать
Алгоритмы ставят диагноз, часто лучше врачей
Алгоритмы предсказывают поломки на станках
Алгоритмы определяют, кто на изображении
Алгоритмы находят аварийные ситуации
Алгоритмы предсказывают нагрузку на дорогах
Алгоритмы угадывают поведение финансовых
рынков
…
15 / 38

16. Что умеет ИИ: управлять

Генеративные состязательные сети
Что умеет ИИ: управлять
Алгоритмы управляют роботами
Алгоритмы управляют беспилотными
автомобилями
Алгоритмы управляют другими алгоритмами
16 / 38

17. Что вообще хотели от ИИ?

Генеративные состязательные сети
Что вообще хотели от ИИ?
17 / 38

18. Задание №1

Генеративные состязательные сети
Задание №1
На картинке изображен Петербург на восходе или
закате?
18 / 38

19. Задание №2

Генеративные состязательные сети
Задание №2
Нарисуйте Петербург на закате
19 / 38

20. Дискриминация и генерация

Генеративные состязательные сети
Дискриминация и генерация
Отличать объекты разных классов — задача
дискриминации
Порождать новые объекты — задача генерации
Задача генерации принципиально сложнее
задачи дискриминации и долгое время
относилась к категории сильного искусственного
интеллекта
20 / 38

21. Задача дискриминации

Генеративные состязательные сети
Задача дискриминации
Сначала соберем выборку
21 / 38

22. Задача дискриминации

Генеративные состязательные сети
Задача дискриминации
Изображения в каждом классе как-то
распределены.
Задача дискриминации состоит в том, чтобы
разделить два этих распределения
22 / 38

23. Генеративные состязательные сети (GANы)

Генеративные состязательные сети
Генеративные состязательные сети (GANы)
Две модели:
Первая (генератор) пытается создавать новые объекты
(изображения)
Вторая (дискриминатор) пытается отличать настоящие
объекты от сгенерированных
23 / 38

24. Задача генерации

Генеративные состязательные сети
Задача генерации
(в идеале) генератор после нескольких итераций
научится воспроизводить то самое распределение
целевых объектов, которое есть в выборке
настоящих
24 / 38

25. Что умеет ИИ: создавать новое

Генеративные состязательные сети
Что умеет ИИ: создавать новое
Алгоритмы создают новые изображения
Алгоритмы создают тексты песен
Алгоритмы создают музыку
Алгоритмы синтезируют человеческую речь
Алгоритмы синтезируют формулы новых лекарств
…
25 / 38

26. Не GANы

Генеративные состязательные сети
Не GANы
Идея использовать вторую сеть для контроля
качества очень сильная, но в некоторых задачах
можно обойтись и без нее
Что еще бывает
• вариационные кодировщики
• трансформеры и модели с памятью
• вероятностные модели
26 / 38

27. Нейронная оборона

Генеративные состязательные сети
Нейронная оборона
В июне 2016 два сотрудника Яндекса записывают альбом в стиле Летова:
https://music.yandex.ru/artist/4445922
“Другая мода
А в глазах твоих нет слез
Твоя свобода
Ветер дунул и унес”
«Мы будем драться»
Основано на нейропоэте: https://yandex.ru/autopoet
27 / 38

28. БИИТВА: рэп-баттл на русском

Генеративные состязательные сети
БИИТВА: рэп-баттл на русском
В апреле 2017 прошла битва между создателям ИИ, написавшими
алгоритмы, которые создали им тексты для рэп-битвы
28 / 38

29. Генерация текста

Генеративные состязательные сети
Генерация текста
Инструмент: CTRL (conditional transformer language model …)
29 / 38

30. DeepArt и Prisma

Генеративные состязательные сети
DeepArt и Prisma
В 2015 создан DeetArt: https://deepart.io/
В июне 2016 создан на его основе создано
приложение Prisma
30 / 38

31. Перенос стиля

Генеративные состязательные сети
Перенос стиля
Инструмент: CycleGAN
31 / 38

32. Какое изображение создал компьютер?

Генеративные состязательные сети
Какое изображение создал компьютер?
Инструмент: StyleGAN
32 / 38

33. Увеличение разрешения

Генеративные состязательные сети
Увеличение разрешения
Инструмент: SRGAN
33 / 38

34. Генерация по наброскам

Генеративные состязательные сети
Генерация по наброскам
Инструмент: GauGAN / SPADE
34 / 38

35. Генерация по наброскам

Генеративные состязательные сети
Генерация по наброскам
Инструмент: GauGAN
35 / 38

36. Генерация музыки

Генеративные состязательные сети
Генерация музыки
36 / 38

37. Зачем еще нужны GANы

Генеративные состязательные сети
Зачем еще нужны GANы
Больше данных для обучения моделей
Дискриминаторы хорошо дискриминируют
Сохранение приватности данных
Борьба с adversarial attacks (повышение
устойчивости классификации)
37 / 38

38. Научился ли ИИ создавать искусство?

Генеративные состязательные сети
Научился ли ИИ создавать искусство?
Искусство vs ремесло
Вдохновение vs алгоритм
Механизм эмоций vs анализ распределений
ИИ не сможет создавать искусство в
общепринятом смысле в обозримом будущем
В некоторой перспективе ИИ сможет тонко
манипулировать эмоциями зрителя
38 / 38

39. Спасибо! Вопросы?

Андрей Фильченков
[email protected]
iВолга
25 августа 2020, zoom