chatGPT. Затравочное программирование (семинар)

1.

chatGPT
Затравочное программирование
Семинар

2.

Татьяна Шаврина
● SberDevices: Старший эксперт по технологиям
● AI Research Institute (AIRI): Руководитель
исследовательских проектов в NLP
● Проекты:
○
○
○
○
○
ruGPT-3
mGPT
ruDALL-E
нейросуммаризатор, рерайтер
книга в соавторстве ruGPT-3 и Павла Пепперштейна

3.

На этой неделе:
chatGPT
Введение в промпт-инжиниринг
Инструменты для работы с генеративными моделями
Генерация текстов и изображений

4.

5.

6.

Новые возможности языковых моделей

7.

Домашнее задание
Получить доступы на порталах нейросетей:
Нужен:
- VPN любой не РФ, Белоруссия
- Заграничный номер телефона https://hottelecom.net/virtual-number-of-armenia.html
Альтернатива:
https://trends.rbc.ru/trends/industry/63a192819a79478fae5762ad#access
Регистрируемся:
chatGPT https://chat.openai.com/chat
Dall-e 2 https://openai.com/dall-e-2/
MidJourney https://www.midjourney.com/home/
Stable Diffusion https://beta.dreamstudio.ai/
Disco Diffusion https://accomplice.ai/styles/5dd13fb8-bd26-4d13-9543-608c7e3d27cb
Желательно наличие нероссийской карты, если хотите использовать платные версии

8.

Домашнее задание
-
OpenAI разрабатывает официальный API к модели
Регистрируемся:
chatGPT API waitlist https://community.openai.com/t/openai-chatgpt-api-waitlist/39247
chatGPT pro - платная версия на подходе!

9.

Что такое chatGPT
ChatGPT - нейросеть на базе архитектуры GPT-3 и обучения с подкреплением (RL, reinforcement
learning).
InstructGPT + GPT-3.5 DaVinci
chatGPT удачно совмещает интенсивный
ChatGPT поддерживает русский язык, но
и экстенсивный подход в DL:
ответы на английском работают лучше.
ChatGPT поддерживает 7 языков —
1) архитектура крайне удачная и
английский, французский, испанский,
хорошо моделирует естественный
немецкий, итальянский, португальский и
язык
русский.
2) Обучающие данные GPT-3.5
DaVinci - огромные. Поисковый
индекс, энциклопедии…
3) Подход с обучением с
подкреплением позволяет
передать модели человеческие
“ценности”
9

10.

Отличия от GPT-3