Этика науки и ответственность учёного

1.

«Этика науки и ответственность учёного»
Меня с детства интересовало как люди договариваются?
• На каких принципах
основано человеческое
общество?
• Как разные люди научились
жить вместе во благо другу
друга?

2.

«Этика науки и ответственность учёного»
В Природе действуют.
«Естественные» законы.
А какие законы действуют в
обществе людей?
Главный закон Природы – закон
сохранения энергии.
А какой закон позволяет
сохранять человеческое
общество?
И однажды я встретил вот такую
мысль:
«Лишь две вещи на свете
способны тревожить наше
воображение –
звездное небо над нами и
нравственный закон внутр
и нас»
Иммануил Кант, немецкий философ

3.

«Этика науки и ответственность учёного»
«Получается», подумал я,«Что невидимый
нравственный принцип
управляет и людьми, и
Природой, которую человек
подчиняет, использует себе
на благо, но часто и во
вред?»
Техногенная деятельность
человека создает все
больше опасностей и для
Природы, и для самого
человека

4.

«Этика науки и ответственность учёного»
Чем большую власть
приобретает человек над
Природой, тем больше
вредит ей, а, значит, вредит
и самому себе.
Что может остановить
человека от нанесения
вреда своей же среде
обитания?
Динамика техногенных катастроф

5.

«Этика науки и ответственность учёного»
Что может произойти в
ближайшем будущем, когда
человек получит доступ к
средствам, более мощным,
чем те, что уже имеет?
Более мощным, чем
ядерная энергия?
А такая технология уже
есть – это Искусственный
Интеллект!
Новая научная революция, сродни
открытию пороха и приручению атома

6.

«Этика науки и ответственность учёного»
Когда я заинтересовался
информационными
технологиями и стал
заниматься
программированием, я
вновь вспомнил о проблеме
контроля человеком за
самим собой, за
собственными творениями.
Меня заинтересовали
этические проблемы
развития Искусственного
Интеллекта
Проблема контроля человека за ИИ,
проблема «человек – машина»

7.

«Этика науки и ответственность учёного»
Главная проблема развития
ИИ в том, что мы имеем
дело с совершенно новой
областью, в которой могут
возникнуть совершенно
неизвестные ранее
опасности.
Неизвестные опасности
Н.Талеб назвал «Черными
лебедями».
Опасности, природа которых
неизвестна

8.

«Этика науки и ответственность учёного»
Проблема проблем ИИ – в
потенциальной силе
опасностей, которые может
вызвать его развитие.
ИИ, по выражению Ника
Бострома, подобрался к
самому человеку.
А значит, решение проблем
развития ИИ – это
главная проблема
человека – этическая.
Весьма вероятно, что ИИ станет
сильнее человека в области мышления

9.

«Этика науки и ответственность учёного»
В физике действует 3-й закон
Ньютона. Аналогично
этому закону в
человеческом мышлении
возникают противоречия.
Только обнаруживая и
разрешая их, возможно
обнаружить опасности, с
которыми мы столкнёмся,
развивая ИИ.
Потенциальные опасности ИИ

10.

«Этика науки и ответственность учёного»
Крупные ученые давно
обратили на главную
опасность развития науки –
мышление самого
человека.
Закон, который сильнее
законом физики, по
выражению И. Канта
«поражающий сознание» –
это этический закон.
Главная его проблема в том,
что, в отличие от законов
физики, он не действует
«сам по себе»
Этический манифест Эйнштейна Рассела

11.

«Этика науки и ответственность учёного»
Я сформулировал семь
противоречий развития
ИИ, которые возможно
разрешить единственным
способом – изменением
мышления людей,
ответственных за
разработку и применение
систем ИИ.

12.

«Этика науки и ответственность учёного»
Одним из путей разрешения
этих противоречий
развития ИИ является
разработанное мной и
размещенное на
открытом вебресурсе
Этическое Соглашение.
Этическое соглашение разработчиков
ИИ

13.

«Этика науки и ответственность учёного»
Присоединяйтесь!
Ссылка на вебресурс