10.47M

Category:

software

Искусственный интеллект и 1С: большие языковые модели и распознавание речи

1.

Искусственный
интеллект и 1С:
большие языковые
модели и распознавание
речи
Инструменты для бизнеса
Преподаватели:
Андрей Гершун, Кирилл Афонин
Лаборатория ИИ
1С-Рарус

Авторы курса
Андрей Гершун - ведущий эксперт
Лаборатории ИИ 1С-Рарус
30+ лет опыта в области управленческого
консалтинга, цифровой трансформации и
внедрения ИТ, более 500 проведенных
проектов
Автор книг и статей по стратегическому
менеджменту, реализации стратегии и
МСФО.
Старший преподаватель программ EMBA и
MBA РАНХиГС, НИУ ВШЭ, Мирбис
Автор библиотеки AlaSQL.js
Образование: Harvard Business School,
Кирилл Афонин - руководитель отдела
разработки Лаборатории ИИ 1С-Рарус
Разработчик с более чем 10 летним
стажем программирования и
проектирования программных продуктов.
В своём бэкграунде имеет опыт
разработки на языках: Java. C++. C#. 1C.
Python.
Последние 5 лет руководит отделом
разработки
Автор программы MindTables
Денис Омельченко –
Разработчик решения "1С:Управление
строительной организацией".
Более 5 лет опыта в разработке
программных продуктов на платформе
1С.
Преподаватель программирования на 1С
в университете.
Закончил институт по направлениям
"Информатика и вычислительная
техника" и "Программная инженерия".
Активный участник конференции «1СРарус TechDay».

5.

Лаборатория ИИ 1С-Рарус
Повышаем компетенции и предлагаем
образовательные программы для
руководителей и сотрудников
в области ИИ
Создаем продукты и ИТ-сервисы,
проводим заказную разработку
информационных систем с
использованием технологий ИИ
Предоставляем вычислительные
мощности для работы с ИИ в аренду

6.

Предупреждение
Область искусственного
интеллекта и больших
языковых моделей
является новой
динамично
развивающейся и ещё
не полностью
устоявшейся областью

7.

Цели курса
● Подключать большие языковые модели к системе 1С
● Автоматизировать рутинные задачи с помощью
искусственного интеллекта
● Создавать умные решения для обработки документов,
анализа текстов и расшифровки аудио с помощью ИИ
● Составлять эффективные запросы к LLM для получения
точных результатов

8.

Программа курса
Занятие 1: Применение ИИ в работе
• Основы ИИ и его интеграция с 1С
• Примеры использования ИИ для повышения эффективности
• Практика: подключение ИИ в 1С
Занятие 2: Использование ИИ из 1С
• Автоматизация бизнес-процессов с помощью ИИ в 1С
• Настройки, возможные проблемы и решения
• Практика: решение бизнес-задач в 1С с ИИ
Занятие 3: Промпт-инжиниринг
• Правила составления эффективных промптов
• Полезные промпты для различных задач
• Практика: составление и корректировка запросов

9.

ИИ: Ожидания
Что будет:
• Большие языковые
модели
• Распознавание речи
• Промпт-инжиниринг
• Кейсы применения LLM
в бизнесе
• Упражнения 1С
Чего не будет (будет, но
потом):
RAG
Агенты
Мультмодальные
моделей (изображения,
видео и т.д.)
ML
o
o
o
o

10.

Программа занятия №1
● Введение в ИИ: основные понятия и технологии.
● Примеры использования ИИ в бизнесе.
● Повышение эффективности с помощью ИИ.
● Практическое занятия: подключение ИИ в 1С.

11.

Большие
языковые
модели

12.

ИИ – задача машинного перевода
2017-2023 - Трансформеры
1960 - Язык оказался очень сложным
● С помощью словаря и правил «ЕСЛИТОГДА-ИНАЧЕ» перевод не
запрограммируешь
● Формальные грамматики хорошо подходят
для ЯП, но не человеческих языков
1990 - Нейросети RNN
● Последовательная обработка
● Очень медленное обучение
● Забывание контекста
Проблемы
● Невысокое качество перевода
● В конце предложения система забывала о
том, что было в начале
Ноам Хомский

13.

Большие языковые модели (LLM, БЯМ)
Большая языковая модель (Large Language Model),
это программа для обработки человеческого языка.
LLM обучены на огромных объемах текстовых данных,
что позволяет им выполнять различные задачи,
связанные с языком, такие как:
Генерация текста: Создание текстов разных
стилей и форматов, от простых ответов на
вопросы до написания целых статей.
Перевод: Перевод текстов с одного языка на
другой.
Суммирование: Сжатие длинных текстов,
сохраняя при этом основную идею.
Анализ настроений: Определение
эмоциональной окраски текста (позитивная,
негативная или нейтральная).
Ответ на вопросы: Поиск информации в тексте и
предоставление краткого и точного ответа.
Запрос
(промпт)
Большая
языковая
модель
Ответ

14.

Большие языковые модели в быту
Примеры применения LLM в повседневной жизни:
"Расскажи про учет основных средств."
"Почему не рекомендуется использовать зимние шины
летом?"
"Отредактируй текст"
Собеседник с энциклопедическими знаниями:
Решение школьных задач:
Сколько будет 2+2?
У Маши - 3 яблока, а у Сережи - на 2 яблока больше.
Сколько всего яблок у ребят?
Проведи синтаксический разбор предложения “Ворона
сидела на дереве”
Личности:
Решение сложных математических задач:
Докажи теорему косинусов
Я не понял, поясни с примерами и числами
Расскажи это в стиле Жванецкого
Юрист:
Ты - корпоративный юрист. Напиши допсоглашение к
договору о продлении сроков выполнения работ договора
на 1 месяц.
Коуч личностного роста:
Сложные математические задачи
Нарисуй графики функций sin(x), cos(x), а также
sin(x)^2+cos(x)^2?
Нарисуй сердечко
Подготовь 3 слайда для школьной презентации для урока
истории про персидский поход Петра Первого
Расскажите историю создания Интернета.
Какие преимущества у электрических автомобилей?
Используя модель коучинга GROW (цель, реальность,
варианты, воля), помоги мне создать план личностного
развития для достижения моих целей.
Психолог:
Доктор, меня все игнорируют…

15.

Как устроены большие языковые модели?
LLM основаны на нейронных сетях,
имитирующих работу человеческого мозга
Модели обучаются на огромных корпусах
текстов, выявляя закономерности и связи
между словами
LLM предсказывают следующее слово в
последовательности, создавая осмысленные
тексты
Размер модели определяется количеством
параметров («весов»):
Например, модель 30B содержит 30 миллиардов
параметров и размер модели составляет около 60
Гб (2 байта на 1 вес)
Пример модели:
nanoGPT 85K
https://bbycroft.net/llm

16.

Какие модели бывают?
Модели для обработки текстов
Западные коммерческие (500B-2T)
Интеллектуальные задачи
Open-source большие (70-400B)
Задачи обработки крупных текстов
Несложные логические задачи
Российские коммерческие (30B)
Обработка средних текстов
Open-source малые (7-14B)
Обработка небольших текстов
Open-source малые (0.5-4B)
Небольшие задачи
Специализированные модели
Специализированные модели
Специализированные задачи
Мультимодальные
модели
Совместная обработка текстов, видео и
аудио

17.

Передовые коммерческие модели
Большие языковые модели:
chat.openai.com - ChatGPT
claude.com - Anthropic ClaudAI
gemini.google.com - Google Gemini (или из
браузера Chrome @gemini)
x.ai - X Grok
Агрегаторы:
openrouter.com - OpenRouter
poe.com - Poe
groq.com - Groq (быстрый инференс)
Особенности применения:
Ограниченно доступны
Использование возможно только в облачном
варианте
https://lmarena.ai/?leaderboard

18.

Модели open-source
Основные базовые модели:
Llama
Mistral AI
Qwen
Cohere Command-R
Cohere Aya
Большинство остальных
моделей - дообученные версии
базовых моделей
https://huggingface.co/spaces/open-llm-leaderboard/open_llm_leaderboard

19.

Версии моделей open-source
Варианты моделей:
• Базовые модели – продолжение
текста («Солнце – это…»)
• Instruct – вопрос-ответ
• Chat – диалог
• Coder – написание программ

20.

Окно контекста
Какого максимального
размера может быть
«вопрос + ответ»
Измеряется в токенах
(условно в словах или
слогах)
Обычно составляет от 4К
до 128К токенов

21.

Применимость для России
Коммерческие:
● Сбер GigaChat - сервис
● Yandex GPT - сервис
Open-source (тюнинги
популярных моделей)
● Вихрь
● Разные дообученные
версии Llama-3, Mistral,
Qwen

22.

Галлюцинации
Расскажи рассказ Ивана Тургенева “Муму”
"Муму" - это рассказ Ивана Тургенева,
который рассказывает историю о бедной
крестьянке Лизе и ее любимой коровке Муму.
Лиза является дочерью богатого помещика,
который не заботится о ее благополучии. Она
живет в маленькой избушке на границе
усадьбы и занимается уходом за скотом.
Однажды помещик решает сократить расходы
и приказывает Лизе продать часть коров,
включая Муму. Муму - это не просто животное
для Лизы, это ее лучший друг и поддержка.
Она очень страдает от мысли о том, что
должна 失去 Муму.
失去 - терять (кит.)

23.

Оборудование

24.

Оборудование для ИИ
Память
Mistral 7B - 14 Гб
Mixtral 8x7B - 90 Гб
Llama-3 - 150 Гб
Command-R - 150 Гб (веса) + до 176 Гб (кэш)
Скорость выдачи:
50-70 токенов в секунду
400 токенов в секунду при нагрузке
Что еще?
Энергопотребление (450 ватт на 1 карту)
Температура
Стоимость
Нестандартное оборудование
Доступность оборудования
24

25.

Оборудование для ИИ
CPU - простенькие задачи ML,
очень маленькие LLM
● NVIDIA 3090, 4090 и т.п. - ML
● NVIDIA A5000 и т.п. - ML,
простенькие задачи LLM, речь
● NVIDIA A100/40 - речь, LLM
● NVIDIA A100/80, H100/80 - умная
LLM
● NVIDIA DGX (16хA100) - умная
LLM

26.

Подключение к LLM

27.

1.1. Установка учебной версии 1С
Для выполнения
практических упражнений в
учебном курсе необходимо
установить учебную
версию:
https://uc1.1c.ru/uchebnaya-v
ersiya-1s/

28.

1.2. Создание простой программы
с выводом сообщения в 1С
Для разминки создадим
простую программу с
выводом сообщения на экран
&НаКлиенте
///
Процедура ПоказатьСообщение(Команда)
Сообщить("Привет, мир!");
КонецПроцедуры
///

29.

1.3. Регистрация в сервисе или установка
локальной LLM. Получение ключей доступа
Подключитесь к одной из доступных LLM:
● OpenRouter
○
GigaChat*
○
giga.chat
OpenAI ChatGPT**
○
openrouter.ai
openai.com
Ollama
○
○
ollama.com
устанавливается локально
*Из-за ограничений, доступ к GigaChat возможен только из РФ.
**Из-за ограничений, доступ к продуктам OpenAI возможен
только за пределами РФ, и это решение может использоваться
только пользователями в других странах.
Подробная инструкция по
подключению в материалах

30.

Подключение к OpenRouter и получение ключей
https://openrouter.ai

31.

LLM - внешний сервис (особенно
западные). Никакой персональной
или бизнес конфиденциальной
информации, никаких личных
переписок и клиентских данных!

32.

Подключение к локальной LLM (Ollama)
Пакет для локального запуска
LLM:
https://ollama.com
Желательно минимум 8 Гб на
компьютере

33.

1.4. Запрос к языковой модели
через чат-приложение
Войдите в приложение чата
● https://openrouter.ai/chat
Введите пробный запрос:
2+2 =

34.

Примеры запросов
Примеры применения LLM в повседневной жизни:
"Расскажи про учет основных средств."
"Почему не рекомендуется использовать зимние
шины летом?"
"Отредактируй текст"
Собеседник с энциклопедическими знаниями:
Подготовь 3 слайда для школьной презентации для урока истории про
персидский поход Петра Первого
Расскажите историю создания Интернета.
Какие преимущества у электрических автомобилей?
Личности:
Решение школьных задач:
Сколько будет 2+2?
У Маши - 3 яблока, а у Сережи - на 2 яблока больше.
Сколько всего яблок у ребят?
Проведи синтаксический разбор предложения
“Ворона сидела на дереве”
Расскажи это в стиле Жванецкого
А теперь стихами Маяковского
Юрист:
Ты - корпоративный юрист. Напиши допсоглашение к договору о продлении
сроков выполнения работ договора на 1 месяц.
Коуч личностного роста:
Решение сложных математических задач:
Докажи теорему косинусов
Я не понял, поясни с примерами и числами
Сложные математические задачи
Нарисуй графики функций sin(x), cos(x), а также
sin(x)^2+cos(x)^2?
Нарисуй сердечко
Используя модель коучинга GROW (цель, реальность, варианты, воля),
помоги мне создать план личностного развития для достижения моих
целей.
Моя цель: научиться ездить на серфе
Психолог:
Доктор, меня все игнорируют…

35.

Улучшение производительности труда у людей, использующих чат с ИИ /
BCG
Распределение усредненных
результатов выполнения 18
заданий для испытуемых в трех
экспериментальных группах:
● красный показывает
испытуемых, использующих
GPT + имевших
предварительный воркшоп с
обзором технологии и
промптов;
● зеленый - только GPT;
● синий - самостоятельное
выполнение задач.
BCG, 2023

36.

Пример: Разработка регламента
Промпт:
Сгенерируйте документацию для процесса обработки платежей от
контрагентов, включая все этапы, от получения счета до его оплаты, и
указания ответственных лиц
Ответ:
Документация процесса обработки платежей от контрагентов:
1.
Получение счета:
a.
Описание процесса обработки платежей
1. Получение счета от контрагента. Счет направляется в отдел бухгалтерии
для проверки.
2. Бухгалтер проверяет счет на соответствие договору и актуальным
условиям оплаты. В случае несоответствия — запрос дополнительных
данных у контрагента.
3. После проверки бухгалтер передает счет на утверждение руководителю
финансового отдела.
4. Руководитель утверждает счет и передает его в кассу для оплаты.
5. Кассовый отдел выполняет платеж и направляет подтверждение
контрагенту.
6. Документирование платежа в учетной системе и закрытие
задолженности.
7. Архивирование документов для дальнейших проверок и отчетности.
b.
2.
Проверка счета:
a.
b.
3.
b.
Ответственный: Руководитель финансового отдела.
Описание: Руководитель утверждает счет, проверяет правильность
расчетов, после чего передает его в кассовый отдел для оплаты.
Оплата:
a.
b.
5.
Ответственный: Бухгалтер.
Описание: Бухгалтер проверяет счет на соответствие условиям
договора и текущим условиям оплаты. Если обнаружены
несоответствия, запрашиваются дополнительные данные у
контрагента.
Утверждение счета:
a.
4.
Ответственный: Менеджер отдела продаж.
Описание: После получения счета от контрагента, он направляется в
бухгалтерию для проверки.
Ответственный: Казначейство
Описание: Казначейство выполняет платеж по утвержденному счету и
направляет подтверждение контрагенту.
Документирование и архивирование:
a.
b.
Ответственный: Бухгалтерия.
Описание: После оплаты платеж документируется в учетной системе,
и задолженность закрывается. Все документы архивируются для
дальнейшего использования в отчетности и проверках.

37.

Две трети должностей может быть автоматизированы ИИ / Goldman
Sachs
Речь идет в первую очередь о
работниках интеллектуального
труда.
Работники, занятые в
строительной отрасли, пока
вне угрозы.
Критерии автоматизации:
несложная
интеллектуальная работа,
которой легко обучить
исполнителя

38.

Принятие ИИ сотрудниками
1. ИИ повысил производительность сотрудников на 14% - они
смогли решать на 30% больше вопросов клиентов в час. Это
произошло за счет сокращения времени обработки одного
обращения, увеличения количества обрабатываемых
обращений в час, и небольшого роста доли успешно решенных
вопросов.
2. Наибольший прирост производительности получили менее
опытные и квалифицированные сотрудники. ИИ помог им
быстрее достичь уровня более опытных коллег.
3. Предполагается, что ИИ помогает распространять неявные
знания и опыт лучших сотрудников. Анализ текстов диалогов
показал, что менее квалифицированные сотрудники после
внедрения ИИ стали общаться с клиентами более похоже на
лучших работников.
4. Кроме того, ИИ улучшил настроение клиентов в диалогах,
снизил текучесть персонала, особенно среди новичков, и
уменьшил количество обращений клиентов с просьбой
соединить их с менеджером.
GPT существенно снижает разницу в качестве
работы между сильными и менее опытными
или талантливыми сотрудниками
Худшие агенты техподдержки и новички
только вышедшие на работу показали
максимальный прирост результата.
https://economics.mit.edu/sites/default/files/inline-files/Noy_Zhang_1_0.pdf
https://danielle-li.github.io/assets/docs/GenerativeAIatWork.pdf
38

39.

1.6. Подключение к сервису LLM через REST API
REST API
Запрос
{
"model": "gpt-3.5-turbo",
"messages": [{"role": "user", "content": "Привет, как ты сегодня?"}],
"temperature": 0.7
}
Ответ:
{
"id": "chatcmpl-7a4b7d12345",
"object": "chat.completion",
"created": 1682679072,
"model": "gpt-3.5-turbo",
"choices": [
{
"index": 0,
"message": {
"role": "assistant",
"content": "Привет! Я здесь, чтобы помочь вам. Чем могу
помочь сегодня?"
},
"finish_reason": "stop"
}
],...}
Библиотека для доступа к БЯМ из 1С
(большая языковая модель)
ПараметрыБЯМ = Инициализировать_БЯМ("сервис", "модель", "APIключ");
OpenRouter
GigaChat
OpenAI
Ollama
Ответ = ВыполнитьЗапрос_БЯМ(ПараметрыБЯМ, СообщениеБЯМ,
ИсторияСообщенийБЯМ);
role: Роль отправителя сообщения (например, "user" для
пользователя).
content: Текст запроса или содержимое сообщения, которое нужно
передать модели.

40.

1.7. Создание простого приложения (запрос)
Давайте создадим простое
приложение, которое будет
обращаться к сервису через
REST API с помощью
библиотеки доступа
APIKay = <APIKey который вы получили на сайте openrouter.ai>;
Модель = <Название модели которое можно найти на сайте
openrouter.ai>;
СообщениеБЯМ = Новый Структура();
СообщениеБЯМ.Вставить("role", "user");
СообщениеБЯМ.Вставить("content", "Сколько будет 2+2?");
ПараметрыБЯМ = БЯМ.Инициализировать_БЯМ("OpenRouter",
Модель, APIKay);
ОтветБЯМ = БЯМ.ВыполнитьЗапрос_БЯМ(ПараметрыБЯМ,
СообщениеБЯМ);
Сообщить(ОтветБЯМ.message.content);

41.

1.8. Создание простого приложения (переводчик)
В конструкторе формы
создайте два реквизита с
названиями:
● ТекстЗапроса
● ТекстОтвета
APIKay = <APIKey который вы поличили на сайте openrouter.ai>;
Модель = <Название модели которое можно найти на сайте
openrouter.ai>;
Промт = "Переведи текст на английский язык: {1}";
Промт = СтрЗаменить(Промт, "{1}",
ЭтотОбъект.ТекстЗапроса);
СообщениеБЯМ = Новый Структура();
СообщениеБЯМ.Вставить("role", "user");
СообщениеБЯМ.Вставить("content", Промт);
ПараметрыБЯМ = БЯМ.Инициализировать_БЯМ("OpenRouter",
Модель, APIKay);
ОтветБЯМ = БЯМ.ВыполнитьЗапрос_БЯМ(ПараметрыБЯМ,
СообщениеБЯМ);
ЭтотОбъект.ТекстОтвета = ОтветБЯМ.message.content;

42.

1.8. Создание простого приложения (переводчик)
Задание:
• Напишите программу, которая
принимает описание вакансии
и возвращает список ключевых
компетенций, необходимых для
кандидата.
• Форма должна содержать:
• Поле для ввода описания
вакансии.
• Кнопка «Получить
компетенции».
• Поле для вывода текста.
Пример работы:
• Ввод: «менеджер по
продажам для работы с
корпоративными
клиентами».
• Вывод: «ведение
переговоров, работа с
CRM, аналитика продаж».

43.

Домашнее задание №1
Напишите программу, которая принимает описание
вакансии и возвращает список ключевых
компетенций, необходимых для кандидата.
Форма должна содержать:
Поле для ввода описания вакансии.
Кнопка «Получить компетенции».
Поле для вывода текста.
Пример работы:
Ввод: «менеджер по продажам для работы с
корпоративными клиентами».
Вывод: «ведение переговоров, работа с CRM,
аналитика продаж».

English Русский Rules