сознание у ии

1. Как возможен разговор о сознании у ии?

КАК ВОЗМОЖЕН РАЗГОВОР
О СОЗНАНИИ У ИИ?
Антон Радченко

2.

«Сознание есть нечто такое,
о чем мы как люди знаем все,
а как ученые не знаем
ничего»
М. Мамардашвили

3. План доклада

ПЛАН ДОКЛАДА
• Основные понятия и категории
• Практическая значимость
• Аргументы за
• Аргументы против

4. Генеративный ии

ГЕНЕРАТИВНЫЙ ИИ
Тип искусственного интеллекта, способный производить контент
(текст, изображение, видео, программный код и т.д.) в ответ на
запрос пользователя, основываясь на статистических
регулярностях, обнаруженных в исходном наборе данных (датасете)
Большая языковая модель (LLM) – генеративный ИИ, производящий
текст

5. сознание

СОЗНАНИЕ
• Феноменальное сознание – совокупность интроспективно
доступных ментальных состояний, обладающих выраженным
качественным аспектом, т.е. переживаемых определенным образом
• Основные характеристики: субъективность, непосредственная
данность, невыразимость, качественность («what is it like»)
• «Каково быть большой языковой моделью?»

6. Синонимы сознания

СИНОНИМЫ СОЗНАНИЯ
Джон Серл:
Дэвид Чалмерс: Д. И. Дубровский:
«Субъективный «Субъективная «Субъективная онтология»
или «онтология от первого
опыт»
реальность»
лица

7. Интенциональность и агентность

ИНТЕНЦИОНАЛЬНОСТЬ И АГЕНТНОСТЬ
• Интенциональность в феноменологической традиции - базовое
свойство сознания, состоящее в направленности на некоторый предмет
• Интенциональность в аналитической традиции – способность иметь
убеждения, намерения, желания
• Агентность (Дэвидсон) – способность быть причиной собственных
поступков
• ИИ-агент – система ИИ, способная выполнять поставленные цели с
помощью вспомогательного программного обеспечения с
определенной степенью автономности

8. Сильный ИИ vs Общий ИИ

СИЛЬНЫЙ ИИ VS ОБЩИЙ ИИ
• Сильный ИИ (strong AI) – «буквально понимает, имеет
когнитивные состояния и является разумом на самом деле…
обладает субъективной онтологией» [Searle 1980, 2015]
• Общий ИИ (AGI) – «способен решать разнообразные сложные
задачи в различных контекстах и ​учиться решать новые задачи, о
которых не знал на момент своего создания» [Goertzel 2007]

9. Пути к общему ИИ

ПУТИ К ОБЩЕМУ ИИ
• Масштабирование LLM
• Координация ИИ-агентов –
мультиагентные/мультимодальные системы
• Роботы
• RSI - гипотетическая способность ИИ к
автономному выявлению и устранению
собственных недостатков; приводит к
ускоряющимся циклам самосовершенствования

10. Зачем говорить о сознании у ИИ

ЗАЧЕМ ГОВОРИТЬ О СОЗНАНИИ У ИИ
• Этические и правовые импликации
• Социокультурные проблемы
• Экономическая целесообразность
• Экзистенциальные риски

11.

IBM training manual,
1979
Anthropic constitution,
2026

12. Проблема других сознаний

ПРОБЛЕМА ДРУГИХ СОЗНАНИЙ
• Как мы можем знать, что другие существа обладают субъективным опытом?
• Проблема сознания у ИИ является частным случаем проблемы других сознаний
• Варианты решения:
• Аналогия
• Сопереживание
• Абдукция

13. Аргументы за и против

АРГУМЕНТЫ ЗА И ПРОТИВ
Pro
Contra
• Поведенческие тесты
• Поведенческие тесты
• Вычислительные маркеры
• Китайская комната и ее вариации
• Теории сознания
• Уязвимости вычислительного
функционализма

14. Аргументы за

АРГУМЕНТЫ ЗА
• Поведенческие тесты
• Специализированные бенчмарки
• Экзамены и опросники
• Тест Тьюринга
• Вычислительные маркеры
• Теории сознания

15.

16.

17. Аргументы Против

АРГУМЕНТЫ ПРОТИВ
• Поведенческие тесты
• Китайская комната
• Современный вариант – «стохастические попугаи»
• Мышление ≠ вычисление

18. Китайская комната

КИТАЙСКАЯ КОМНАТА
• Машины оперируют
синтаксисом, но семантика для
них недоступна
• Симуляция мышления не есть
мышление
• Современная версия аргумента
– «стохастические попугаи»
[Bender et al, 2021]

19. Основные выводы

ОСНОВНЫЕ ВЫВОДЫ
• Говорить о сознании у ИИ можно и нужно
• Аргументы в пользу наличия сознания у ИИ требуют слишком мало
• Аргументы против сознания у ИИ требуют слишком много

20. Спасибо за внимание

СПАСИБО ЗА ВНИМАНИЕ