Microsoft PowerPoint Presentation

1.

Основные проблемы этичного применения ИИ в научных исследованиях

2.

Одна из ключевых этических опасностей — манипуляции с данными и результатами с помощью
ИИ.
Исследователи:
могут использовать ИИ для маскировки или «выпрямления» данных, искусственно улучшая
статистику;
могут генерировать «реалистичные», но вымышленные фрагменты текста, графиков или
изображений, что нарушает принципы воспроизводимости и научной честности.
Многие научные журналы и редакционные политики уже прямо запрещают:
подделку результатов с помощью ИИ;
использование ИИ-генерации для искажения или приукрашивания фактов.

3.

Проблема предвзятости и воспроизводимости результатов
ИИ-модели обучаются на исторических данных, которые часто содержат социальные и научные
предубеждения.
В результате:
ИИ может усиливать дискриминацию при анализе медицинских, социологических или
демографических данных;
выводы, сделанные на основе смещённых моделей, будут ненадёжными и несправедливыми, что
подрывает доверие к науке.
Кроме того, сложные модели ИИ часто плохо воспроизводимы:
при изменении архитектуры, набора данных или настроек результаты могут сильно меняться, что
затрудняет воспроизводимость экспериментов — один из базовых принципов научной работы.

4.

Прозрачность, объяснимость и «чёрный ящик»
Многие ИИ-модели (особенно глубокое обучение) работают как «чёрный ящик»:
сложные нейросети малоинтерпретируемы, и даже их создатели не могут полностью объяснить, как
именно система пришла к выводу.
это создаёт проблему в научных исследованиях: если выводы нельзя объяснить и про- аудитировать,
их трудно признать научно строгими.
Этичные практики требуют:
максимально возможной прозрачности (описание архитектуры, данных, параметров);
использования объяснимых алгоритмов (XAI) в высокорисковых областях (медицина, психология,
социальные науки).

5.

Проблемы конфиденциальности и персональных данных
Исследователи часто работают с чувствительными данными:
медицинские записи, генетическая информация, социологические опросы, данные студентов и т.п.
использование ИИ-инструментов (особенно публичных чат-ботов) может привести к утечке или
неправомерному обработке персональных данных.
Этичные подходы требуют:
анонимизации и шифрования данных при использовании ИИ;
чётких внутренних правил университетов и лабораторий по тому, какие данные допустимо загружать в
ИИ-сервисы.

6.

Проблемы интеллектуальной собственности и плагиата
ИИ-инструменты могут:
генерировать тексты, очень близкие к уже существующим публикациям;
перефразировать или «маскировать» чужие идеи, что создаёт риск скрытого плагиата.
В этически ориентированных журналах и университетах:
подчёркивают, что заимствованные или сгенерированные ИИ-фрагменты должны быть открыто указаны
и проверены на оригинальность;
призывают исследователей не использовать ИИ для обхода ограничений на повторное использование
текстов и изображений.

7.

Проблема «автоматизации» мышления и снижения научной квалификации
ИИ может избавить исследователя от:
кропотливого анализа литературы;
самостоятельного формулирования гипотез и интерпретаций;
осмысления промежуточных ошибок и аномалий в данных.
Это ведёт к опасности:
утраты навыков критического мышления и глубокого понимания предмета;
формирования «поверхностного» научного стиля, где результаты строятся «по шаблону» вместо
самостоятельного анализа.
Этичный подход — оставлять ИИ в роли ассистента, а не заменителя исследователя-эксперта.

8.

Отсутствие единых международных этических стандартов
Сейчас не существует единой и обязательной международной системы правил по использованию ИИ в
науке, хотя:
Unesco и ряд профессиональных организаций предлагают общие рекомендации по этике ИИ
(прозрачность, справедливость, подотчётность, не навреди).
многие университеты и журналы разрабатывают собственные внутренние правила: когда и как допустимо
применять ИИ-генерацию, как её декларировать и какие действия запрещены.
Это приводит к:
различиям в требованиях между журналами и странами;
недооценке рисков со стороны исследователей, которые не ориентируются в актуальных этических
нормах.

9.

Основные этические проблемы ИИ в науке: расплывчатое авторство, риск подделки данных, предвзятость,
низкая прозрачность, угроза конфиденциальности и роста плагиата, автоматизация «мышления» и
отсутствие единых норм.
Для ответственного использования ИИ в исследованиях нужны:
чёткая декларация применения ИИ и ограничение его роли до инструментального уровня;
контроль за данными и выводами, проверка на предвзятость и воспроизводимость;
соблюдение принципов научной добросовестности, приватности и интеллектуальной собственности.