Этика науки и ответственность учёного

1.

«Этика науки и ответственность учёного»
Меня с детства интересовало как люди договариваются?
• На каких принципах
основано человеческое
общество?
• Как разные люди научились
жить вместе во благо другу
друга?

2.

«Этика науки и ответственность учёного»
В Природе действуют.
«Естественные» законы.
А какие законы действуют в
обществе людей?
Главный закон физики – закон
сохранения энергии.
А какой закон стоит выше
законов Природы? Действию
какого закона подчиняются
мотивы людей?
И однажды я встретил вот такую
мысль:
«Лишь две вещи на свете
способны тревожить наше
воображение –
звездное небо над нами и
нравственный закон внутр
и нас»
Иммануил Кант, немецкий философ

3.

«Этика науки и ответственность учёного»
«Получается», подумал я,«Что невидимый
нравственный принцип
управляет и людьми, и
Природой, которую человек
подчиняет, использует себе
на благо, но часто и во
вред?»
Техногенная деятельность
человека создает все
больше опасностей и для
Природы, и для самого
человека

4.

«Этика науки и ответственность учёного»
Чем большую власть
приобретает человек над
Природой, тем больше
вредит ей, а, значит, вредит
и самому себе.
Что может остановить
человека от нанесения
вреда своей же среде
обитания?
Динамика техногенных катастроф

5.

«Этика науки и ответственность учёного»
Что может произойти в
ближайшем будущем, когда
человек получит доступ к
средствам, более мощным,
чем те, что уже имеет?
Более мощным, чем
ядерная энергия?
А такая технология уже
есть – это Искусственный
Интеллект!
Новая научная революция, сродни
открытию пороха и приручению атома

6.

«Этика науки и ответственность учёного»
Когда я заинтересовался
информационными
технологиями и стал
заниматься
программированием, я
вновь вспомнил о проблеме
контроля человеком за
самим собой, за
собственными творениями.
Меня заинтересовали
этические проблемы
развития Искусственного
Интеллекта
Проблема контроля человека за ИИ,
проблема «человек – машина»

7.

«Этика науки и ответственность учёного»
В физике действует 3-й закон
Ньютона: «У каждого
действия есть
противодействие».
Можно ли найти что-то
аналогичное этому закону в
области человеческих
отношений?
Может ли это помочь нам
разобраться с опасностями,
с которыми мы уже
столкнулись и с которыми
еще столкнемся, развивая
ИИ?
Потенциальные опасности ИИ

8.

«Этика науки и ответственность учёного»
Проблема развития ИИ
состоит в том, что мы
имеем дело с совершенно
новой областью, в которой
могут возникнуть
совершенно неизвестные
опасности.
Неизвестные опасности
Н.Талеб назвал «Черными
лебедями».
Опасности, природа которых
неизвестна

9.

«Этика науки и ответственность учёного»
Главная проблема ИИ – в силе
потенциальной силе
опасностей, которые может
вызвать его развитие.
ИИ, по выражению Ника
Бострома, подобрался к
самому человеку.
А значит, решение проблем
развития ИИ – это
главная проблема
человека – этическая.
Весьма вероятно, что ИИ станет
сильнее человека в области мышления

10.

«Этика науки и ответственность учёного»
Крупные ученые давно
обратили на главную
опасность развития науки –
этичности самого человека.
Закон, который сильнее
законом физики, по
выражению И. Канта
«поражающий сознание» –
это этический закон.
Главная его проблема в том,
что, в отличие от законов
физики, он не действует
«сам по себе»
Этический манифест Эйнштейна Рассела

11.

«Этика науки и ответственность учёного»
Я сформулировал несколько
противоречий развития
ИИ, которые возможно
разрешить единственным
способом – изменением
мышления людей,
ответственных за
разработку и применение
систем ИИ.
Проект Этического
Соглашения размещен на
открытом вебресурсе
Этический манифест Эйнштейна Рассела

12.

«Этика науки и ответственность учёного»
Присоединяйтесь!
Ссылка на вебресурс