262.53K

ai-system-plan-2

1.

Собственная ИИ-система
внутри контура компании
План: от проверки гипотез к закупке оборудования
Август 2026

2.

ЧТО ДЕЛАЕМ
Две системы с понятными задачами
1
Консультант по внутренней вики
2
Помощник по логам
Сотрудник задаёт вопрос обычным языком — система
находит ответ в наших регламентах и документах и
объясняет его.
Разработчик спрашивает, что произошло в системе —
помощник находит нужные записи в логах и объясняет
вероятную причину.
Пользователи: ~85 сотрудников
Пользователи: 15 разработчиков
Задача генерации кода из проекта исключена. Обе системы отвечают на вопросы по нашим данным.

3.

ОБОСНОВАНИЕ
Зачем это компании
1
Данные не покидают периметр
2
Экономия времени сотрудников
3
Технологическая независимость
Регламенты, логи и внутренняя документация обрабатываются только на
нашем оборудовании. Внешние сервисы для нас недоступны — по оплате и
по требованиям к данным.
Поиск ответа в вики и разбор инцидента по логам — регулярные задачи, на
которые уходят часы.
Открытые модели разворачиваются бесплатно. Платим только за
оборудование, а не за подписки в валюте.
Проект защищаем как выполнение требований к защите данных, а не как экономию на подписках.

4.

ПРИНЦИП
Сначала арендуем и проверяем.
Покупаем то, что подтвердилось.
Аренда мощностей на время пилота стоит около 1% бюджета закупки. Она даёт точные цифры по
нагрузке и качеству — и защищает нас от покупки не того оборудования.

5.

ПЛАН
Дорожная карта
0
1
2
3
4
Согласования
Аренда
Вики
Логи
Закупка
Внедрение
2–4 нед.
Месяц 1
Месяцы 1–2
Месяцы 2–4
Месяц 4–5
Месяцы 5–8
Этап 0 идёт параллельно и может изменить весь план. Этапы 1–3 — на арендованных мощностях.
5

6.

ТРЕБУЕТСЯ РЕШЕНИЕ РУКОВОДСТВА
Этап 0. Что нужно решить до старта
Применимо ли требование реестра отечественного ПО?
Определяет выбор модели
Разрешает ли СБ пилот на арендованных мощностях?
Определяет сроки и формат пилота
Проходит ли закупка оборудования по нашим процедурам?
Определяет реализуемость закупки
Кто эксплуатирует систему на постоянной основе?
Самая дорогая статья расходов
Есть ли в офисе мощность и место под серверную?
Сроки могут превысить поставку
оборудования

7.

МЕСЯЦЫ 1–2
Этапы 1–2. Стенд и вики-консультант
Что делаем
Арендуем одну видеокарту у российского провайдера
Разворачиваем модель и поиск по документам
Проверяемые модели
Qwen 3.6-27B — базовый вариант
Qwen 3.6-35B-A3B — быстрее при том же качестве
Собираем 50–100 реальных вопросов сотрудников с
эталонными ответами
GigaChat 3.1-10B — российская, сильна в русском
языке
Сравниваем несколько моделей на одном наборе
вопросов
Модели поиска: BGE-M3, E5, ru-en-RoSBERTa
Все модели — с открытой лицензией, бесплатные.

8.

МЕСЯЦЫ 2–4
Этап 3. Помощник по логам
Более сложная задача, чем вики. Обычный поиск по смыслу на логах работает плохо: записей миллионы, и они почти
одинаковые.
1
2
3
4
Фильтр
Поиск
Объяснение
История
Отбор по сервису, времени
и уровню ошибки

Поиск похожих случаев
среди отобранного

Модель формулирует
вероятную причину

Сверка с базой прошлых
инцидентов
Начинаем не с логов, а с Sentry: ошибки там уже сгруппированы и описаны. Быстрее результат, проще архитектура.

9.

ИНТЕГРАЦИИ
Часть работы уже сделана за нас
Системы мониторинга умеют подключать собственную модель штатными средствами. Разрабатывать с нуля нужно меньше,
чем казалось.
Система
Подключение своей модели
Условия
OpenSearch
Штатное подключение своей модели
Бесплатно, открытая лицензия
Grafana
Штатный модуль для своей модели
Бесплатно в открытой версии
Kibana / Elastic
Штатное подключение своей модели
Требует платной подписки — оплата
недоступна
Sentry
Готовой интеграции нет
Пишем сами через открытый интерфейс Sentry
Уточняем на этапе 0: какой стек мониторинга используется сейчас и в каком виде развёрнут Sentry.

10.

ГИПОТЕЗЫ
Что именно проверяем в пилоте
Гипотеза
Как проверяем
Риск
Наши документы пригодны для такой системы
Доля вопросов, где нужный документ найден
Высокий
Бесплатная открытая модель даёт приемлемое качество
Оценка ответов самими сотрудниками
Средний
Одной видеокарты хватает на всех пользователей
Замер при 30 одновременных запросах
Низкий
Помощник по логам быстрее ручного разбора
Сравнение на одинаковых инцидентах
Высокий
Логи можно обезличить без потери пользы
Проверка после маскирования данных
Средний
Если ключевые гипотезы не подтвердятся — мы узнаем это за 60 тыс. рублей, а не за 14 миллионов.

11.

ДЕНЬГИ
Бюджет
Пилот на аренде
Первая очередь
Вторая очередь
~60 тыс. ₽
5–6 млн ₽
По итогам
в месяц, 3–4 месяца
оборудование и серверная
заявляем отдельно
Почему не 14 млн сразу
Обе системы отвечают на вопросы — им не нужны такие мощности, как генерации кода
Точную конфигурацию определим по замерам пилота, а не по предположениям
Расширение до полной суммы заявляем второй очередью — с обоснованием на цифрах

12.

ЧЕСТНО
Ключевые риски
!
Качество внутренней документации
Если регламенты устарели или противоречат друг другу, система будет уверенно давать неверные ответы. Требуется человек,
отвечающий за порядок в документах.
!
Отсутствие постоянного эксплуатанта
Система по остаточному принципу перестанет работать за квартал. Нужна выделенная роль.
!
Поставка оборудования и серверная
Сроки поставки видеокарт и монтажа охлаждения непредсказуемы. Проверяем заранее, на этапе 0.

13.

ЧТО ПРОСИМ
Решение по трём пунктам
1
Согласовать пилот на аренде
~60 тыс. ₽ в месяц, 3–4 месяца
2
Назначить ответственного за эксплуатацию
выделенная роль, не по остаточному принципу
3
Дать поручение юристам и СБ по вопросам этапа 0
срок — 2–4 недели
English     Русский Rules