Безопасное использование

1.

СЧЁТНАЯ ПАЛАТА РЕСПУБЛИКИ ТАТАРСТАН
Безопасное
использование
искусственного
интеллекта
Правила работы с информацией
в служебной деятельности

2.

Рабочий цикл использования ИИ
Два самостоятельных решения сотрудника
1
Передача данных
Категория информации
Прямые запреты
Условия для внутренней
информации
2
Использование
ответа
Проверка по
первоисточникам
Маркировка документа
Ответственность
работника
Допустимость запроса ещё не подтверждает достоверность ответа

3.

Загрузка начинается с ввода данных
Любой ввод
информации
Текст
Фрагмент в запросе
Изображение
Снимок экрана или фото
Аудио
Правила действуют
для всех моделей
в служебных целях
Запись или диктовка
Файл
Таблица или документ

4.

Классификация до отправки запроса
Прямые законодательные и ведомственные запреты проверяются в первую очередь.
КАТЕГОРИЯ 01
КАТЕГОРИЯ 02
КАТЕГОРИЯ 03
Публичная
Внутренняя
Конфиденциальная
Открытые публикации,
официальные пресс-релизы и
нормативные акты.
Черновики планов, регламенты и
рабочие документы вне прямых
запретов.
Персональные данные, сведения
ограниченного доступа, проекты
и итоговые акты проверок.
БЕЗ ОГРАНИЧЕНИЙ
ПОДХОДЯЩАЯ МОДЕЛЬ
И ОБЕЗЛИЧИВАНИЕ
ЗАГРУЗКА ЗАПРЕЩЕНА

5.

РАЗРЕШЁННЫЙ СЦЕНАРИЙ
Публичная информация:
разрешённая задача
Опубликованный пресс-релиз с официального сайта
относится к публичной информации. Его загрузка
допускается без ограничений.
Условие задачи для модели
Подготовить краткое резюме, строго сохранив даты и числа и
используя только сведения из предоставленной публикации.
Обязательные действия после генерации
Сверка каждой цифры с исходным пресс-релизом на сайте и
обязательная маркировка служебного документа.
ТОЛЬКО ФАКТЫ ИСТОЧНИКА · БЕЗ ВНЕШНИХ
ДОМЫСЛОВ
ПРЕСС-РЕЛИЗ
Открытая
публикация
Условный макет
официального
источника
ОТКРЫТЫЙ ИСТОЧНИК
РЕЗУЛЬТАТ ТРЕБУЕТ ПРОВЕРКИ

6.

Что запрещено загружать в любые модели
Материалы
мероприятий
Итоговые документы и проекты,
рабочая документация и любые
сведения, полученные при
контрольных и экспертноаналитических мероприятиях
Персональные данные
Неопубликованные финансовые
документы
Техническая документация
Пароли, ключи доступа
и учётные данные
Ограниченный доступ
по Инструкции и законодательству
РФ
ЗАПРЕТ ДЕЙСТВУЕТ ДЛЯ ЛЮБЫХ МОДЕЛЕЙ ИИ

7.

ПРАВОВОЙ РЕЖИМ ДОКУМЕНТА
Проект акта остаётся
запрещённым
Даже после удаления названия организации, ФИО
должностных лиц и точной суммы ущерба
обезличивание не снимает запрет.
Материалы мероприятий
Запрет охватывает итоговые документы и проекты, рабочую
документацию и сведения, полученные при контрольных и
экспертно-аналитических мероприятиях.
Контекстная идентификация
Совокупность оставшихся признаков может позволить
установить организацию или конкретный документ.
УСЛОВНАЯ ИЛЛЮСТРАЦИЯ
ОБЕЗЛИЧИВАНИЕ НЕ СНИМАЕТ ЗАПРЕТ

8.

ВНУТРЕННЯЯ СЛУЖЕБНАЯ ИНФОРМАЦИЯ
Внутренняя информация: оба условия
УСЛОВИЕ 01 · ИНФРАСТРУКТУРА
УСЛОВИЕ 02 · ОБЕЗЛИЧИВАНИЕ
Суверенная или национальная
модель
Обезличивание сведений
Российское юридическое лицо — разработчик;
подготовка ответов и хранение данных в ЦОД на
территории РФ, принадлежащих российским
юридическим лицам.
Удалены сведения, позволяющие установить
людей, Счётную палату, иные органы или
конкретный документ.
ПРЕДУПРЕЖДЕНИЕ О ПРЯМЫХ ЗАПРЕТАХ
Запрещённые категории не допускаются даже при соблюдении
обоих условий.

9.

Обезличивание: примеры замен
Только для допустимой внутренней информации.
Все учебные данные вымышлены.
Вымышленный пример
Обобщённая замена
«Организация Пример»
«организация»
«Работник Иванов И. И.»
«работник организации»
«100 000 рублей»
«финансовый показатель»
«ул. Примерная, 1»
«адрес организации»
Реальные пароли и ключи передавать запрещено.
Вместо значений остаются только слова «Пароль», «Ключ».

10.

История чата связывает сведения
История чата может раскрыть скрытые сведения. Пример вымышленный.
ЗАПРОС 1 · ДЕТАЛИЗАЦИЯ ОБЪЕКТА
ЗАПРОС 2 · МНИМОЕ ОБЕЗЛИЧИВАНИЕ
«Организация „Пример“ проводит учебные
семинары. Помоги составить общий план
мероприятий».
«В организации запланированы эти
мероприятия. Помоги сократить
формулировки».
В ИСТОРИИ УЖЕ ЕСТЬ НАЗВАНИЕ
И ФУНКЦИЯ ОРГАНИЗАЦИИ
ОБЩЕЕ СЛОВО «ОРГАНИЗАЦИЯ»
МОЖЕТ СВЯЗЫВАТЬСЯ С ПЕРВЫМ
СООБЩЕНИЕМ
ВАЖНО ПОМНИТЬ
Новый чат не устраняет уже произошедшую передачу запрещённых
сведений.

11.

Точная постановка задачи
1
2
3
ИСТОЧНИК
ЗАДАЧА
ОГРАНИЧЕНИЕ
Опубликованный
текст.
Краткое резюме с
сохранением дат и
чисел.
Только факты из
предоставленного
источника.
ПРИМЕР ФОРМУЛИРОВКИ ИЗ ПРИЛОЖЕНИЯ
«Если данных не хватает, не придумывай ответ, задай уточняющие
вопросы»

12.

Проверка ответа по первоисточникам
Искусственный интеллект не является самостоятельным источником официальной
информации.
ГЕНЕРАЦИЯ ЯЗЫКОВОЙ МОДЕЛИ
Учебный вымышленный ответ
«Показатель вырос со 100 до 125.
Рост составляет 20 процентов».
ВЕРНЫЙ РОСТ: 25 %
ОБЯЗАТЕЛЬНЫЙ АЛГОРИТМ ВЕРИФИКАЦИИ
✓
Факты и смысл: сопоставить утверждения с
первоисточником.
✓
Ссылки и цитаты: открыть первоисточник,
проверить точность и контекст.
✓
Расчёты: проверить исходные данные, единицы
измерения и действия.
УВЕРЕННЫЙ ОТВЕТ НЕ ЗАМЕНЯЕТ ПРОВЕРКУ ПО ПЕРВОИСТОЧНИКУ

13.

ПЕРСОНАЛЬНАЯ ОТВЕТСТВЕННОСТЬ
За результат отвечает работник
Ответ языковой модели — исключительно черновой
рабочий материал. Решение, выводы и подпись
остаются за человеком.
Человек в центре принятия решений
Сотрудник Счётной палаты лично проверяет каждый аргумент и
делает профессиональное заключение.
Маркировка не защищает от ответственности
Сноска об использовании ИИ не освобождает от проверки и
ответственности за итоговый результат.
ДОКУМЕНТ, РЕШЕНИЕ И РАСЧЁТ
ПЕРСОНАЛЬНАЯ ОТВЕТСТВЕННОСТЬ

14.

Маркировка служебного
документа
Учебный макет документа
СЛУЖЕБНАЯ ЗАПИСКА
Сноска внизу страницы
Отметка об использовании ИИ
и фактическое наименование модели
Адресат: [должность]
От: [должность]
По поручению подготовлен
краткий обзор открытой
публикации.¹
Исключение
ИИ использовался исключительно
для проверки орфографии
¹ Абзац подготовлен с
использованием ИИ.
Модель: [фактическое
наименование]

15.

Инцидент: действия сотрудника
01
Скриншот запроса и ответа
02
Не удалять чат самостоятельно
03
Служебная записка ответственному
за ИБ
НЕМЕДЛЕННО
Если отправлены
пароли или
учётные данные,
инициировать
замену
Сообщение об инциденте: в течение одного рабочего часа с момента его
возникновения

16.

РЕГЛАМЕНТ РЕАГИРОВАНИЯ
Сроки и роли при инциденте
1 час
3 дня
РАБОЧИЙ ЧАС С ВОЗНИКНОВЕНИЯ ИНЦИДЕНТА
РАБОЧИХ ДНЯ С ПОЛУЧЕНИЯ ИНФОРМАЦИИ
Роль: Сотрудник
Роль: Ответственный за ИБ
Служебная записка с указанием модели, данных,
времени и обстоятельств.
Устанавливает обстоятельства, нарушителя,
степень вины и последствия. Направляет
информацию и предлагаемые меры
заместителю Председателя.
Нарушения фиксируются как инциденты ИБ. Ответственность предусмотрена законодательством,
в том числе дисциплинарная.

17.

Четыре рабочие ситуации
Рабочая ситуация
Решение
Опубликованный пресс-релиз
МОЖНО
Неопубликованная финансовая таблица
НЕЛЬЗЯ
Внутренний план без запрещённых сведений
С УСЛОВИЯМИ
Проект акта для проверки орфографии
НЕЛЬЗЯ
Учебные ситуации вымышлены.
Для внутреннего плана нужны подходящая модель и обезличивание.

18.

Контроль перед запросом и после ответа
Перед запросом
После ответа
Категория и прямые запреты
Для внутренней информации:
подходящая модель и обезличивание
Учтён контекст чата
Факты, ссылки, цитаты и расчёты
проверены в первоисточниках
Сноска внизу страницы:
отметка об ИИ и модель*
Ответственность за результат
* Если ИИ использован только для орфографии, маркировка не требуется
ПРИ ИНЦИДЕНТЕ
Скриншот запроса и ответа
Чат самостоятельно не удалять
1 рабочий час
с возникновения инцидента:
служебная записка ответственному за ИБ
Пароли или учётные данные: немедленно инициировать замену