ji_etika

1.

Компьютерлік желілер
Жасанды интеллектіні қолданудың
әлеуметтік және этикалық аспектілері
Жауапкершілік • Әділдік • Ашықтық
Оқыту мақсаты 9.4.2.1 — ЖИ-дің медицина, білім беру, қаржы және әлеуметтік желілердегі
қолданылу салдарын адам мен қоғам үшін талдау

2.

Сабақтың мақсаты
1
2
3
Білеміз
Түсінеміз
Қолданамыз
ЖИ технологияларының медицина,
білім беру, қаржы және әлеуметтік
желілерде қолданылу мысалдарын
атаймыз.
ЖИ қолданудың пайдасы мен
тәуекелдерін жауапкершілік, әділдік,
ашықтық ұғымдары арқылы
түсіндіреміз.
Нақты жағдаятты (кейсті) талдап,
дәлелді пікір және этикалық шешім
ұсынамыз.
ЖИ: әлеуметтік және этикалық аспектілер
2

3.

Жасанды интеллект (ЖИ) біздің өмірімізде
ЖИ дегеніміз не?
Жасанды интеллект — үлкен көлемдегі деректерді талдап, соның
негізінде болжам жасайтын немесе шешім қабылдайтын
компьютерлік жүйе (алгоритм).
Маңызды түсінік:
ЖИ адамдар жинаған деректер негізінде «үйренеді» —
сондықтан деректегі кемшілік немесе бұрмалану ЖИ шешіміне
де көшуі мүмкін.
ЖИ: әлеуметтік және этикалық аспектілер
Неге бұл сабақ маңызды?
● ЖИ дәрігердің, мұғалімнің, банктің шешіміне әсер
етеді;
● Кез келген қате немесе бейтарап еместік нақты
адамдарға зиян тигізуі мүмкін;
● Сондықтан ЖИ қолданушылар мен жасаушылар
этикалық талаптарды білуі керек.
3

4.

ЖИ қолданылатын төрт негізгі сала
Медицина
Білім беру
Қаржы
Әлеуметтік желілер
Диагностика,
ем жоспарлау
Дербестендірілген
oқыту, тестілеу
Несие бағалау,
алаяқтықты анықтау
Ұсыныс алгоритмі,
мазмұн модерациясы
Келесі слайдтарда әр сала бойынша нақты мысал және туындайтын этикалық сұрақты қарастырамыз →
ЖИ: әлеуметтік және этикалық аспектілер
4

5.

МЫСАЛ
ЖИ рентген мен МРТ суреттерін талдайды
Қазіргі аурухана жүйелерінде ЖИ бағдарламалары рентген, МРТ суреттерінен ісік немесе басқа
ауытқуды адам көзі байқағанша тезірек анықтауға көмектеседі.
Медицина
Артықшылығы
Жауапкершілік мәселесі
Диагностика жылдамдайды, дәрігердің
қатесін азайтуға көмектеседі, сирек
кездесетін ауруларды ерте анықтайды.
Егер ЖИ қате диагноз қойса — жауапты кім:
бағдарламаны жасаған компания ма, оны
қолданған дәрігер ме, әлде аурухана ма? Түпкі
шешімді әрдайым адам (дәрігер) қабылдауы
тиіс.
Сала 1 / 4
ЖИ: әлеуметтік және этикалық аспектілер
5

6.

МЫСАЛ
Дербестендірілген оқыту платформалары
ЖИ негізіндегі оқыту қосымшалары әр оқушының үлгерімін талдап, оған жеке тапсырмалар
мен қосымша материалдар ұсынады.
Білім беру
Артықшылығы
Әр оқушының қарқынына сай тапсырма,
жедел кері байланыс, мұғалімнің жүктемесін
азайту.
Әділдік мәселесі
Интернетке қолжетімділігі жоқ немесе
құрылғысы әлсіз оқушылар мұндай
платформаны толық пайдалана алмайды —
бұл білім алудағы теңсіздікті тереңдетуі
мүмкін.
Сала 2 / 4
ЖИ: әлеуметтік және этикалық аспектілер
6

7.

МЫСАЛ
Несие беру туралы шешім қабылдайтын алгоритм
Банктер клиенттің несие қабілетін ЖИ арқылы бағалайды: ЖИ бұрынғы деректерге сүйеніп,
«тәуекелі жоғары/төмен» деген қорытынды шығарады.
Қаржы
Артықшылығы
Ашықтық мәселесі
Өтінімдерді жылдам өңдейді, алаяқтық
әрекеттерін дереу анықтайды, адами
қателікті азайтады.
Клиент неге бас тартылғанын түсінбейді —
алгоритм «қара жәшік» сияқты жұмыс істейді.
Сондай-ақ бұрынғы деректегі жасырын
кемсітушілік (bias) қайталануы мүмкін.
Сала 3 / 4
ЖИ: әлеуметтік және этикалық аспектілер
7

8.

МЫСАЛ
Мазмұнды ұсыну (рекомендация) алгоритмі
Әлеуметтік желі таспасында не көрсету керегін ЖИ пайдаланушының бұрынғы белсенділігіне
қарап таңдайды — осылай «қызықты» лента қалыптасады.
Әлеуметтік
желілер
Артықшылығы
Пайдаланушыға қызықты ақпаратты тез
табуға көмектеседі, достармен байланысты
жеңілдетеді.
Жауапкершілік пен ашықтық
мәселесі
Алгоритм назар аудартатын, кейде жалған
немесе шектен шыққан мазмұнды көбірек
ұсынуы мүмкін («филтр көпіршігі»), ал
пайдаланушы бұл таңдаудың неге солай
болғанын білмейді.
Сала 4 / 4
ЖИ: әлеуметтік және этикалық аспектілер
8

9.

Үш негізгі этикалық ұғым
Кез келген ЖИ жүйесін бағалағанда осы үш сұрақты қоямыз:
Жауапкершілік
Әділдік
Ашықтық
Шешімнің салдары үшін кім жауап береді
— жасаушы, қолданушы, әлде компания
ма? Қате болған жағдайда жауапкершілік
әрқашан адамда қалуы тиіс.
ЖИ барлық адамдарға (жынысына,
ұлтына, әлеуметтік жағдайына
қарамастан) бірдей әділ қарай ма?
Деректегі жасырын кемсітушілік нәтижеге
әсер етпей ме?
ЖИ қалай шешім қабылдағаны түсінікті
ме? Пайдаланушы алгоритмнің логикасын
және өз деректерінің қалай
қолданылғанын біле ала ма?
ЖИ: әлеуметтік және этикалық аспектілер
9

10.

Тапсырма 1 — Топтық жұмыс
«Салалар мен салдарлар» (15 минут)
Сынып 4 топқа бөлінеді: Медицина, Білім беру, Қаржы, Әлеуметтік желі. Әр топ өз саласы бойынша карточка алады.
1
ЖИ бұл салада нақты қалай қолданылады?
2
Оның қандай нақты артықшылығы бар?
Нәтиже:
3
Қандай тәуекел немесе қауіп туындауы мүмкін?
Постер немесе флипчартқа
жазып, спикер арқылы 1–2
минутта таныстыру.
4
Жауапкершілік, әділдік немесе ашықтық тұрғысынан бір мәселе анықтап, оны шешу жолын
ұсыныңыз.
ЖИ: әлеуметтік және этикалық аспектілер
10

11.

Тапсырма 2 — Кейс-стади
«Әділ ме, әділ емес пе?» (7 минут, жеке/жұппен)
Талдау сұрақтары
ЖАҒДАЯТ
Бір компания жұмысқа үміткерлердің түйіндемесін іріктеу үшін ЖИ
бағдарламасын қолданады. Кейін анықталғандай, бағдарлама ер
адамдардың түйіндемесіне жүйелі түрде артықшылық беріп келген —
себебі оқыту үшін пайдаланылған бұрынғы деректерде компанияға
негізінен ер адамдар қабылданған.
● Мұндай жағдай неліктен пайда болды?
● Бұған кім жауапты — бағдарламашы, компания, әлде
дерек пе?
● Мұны болдырмау үшін не істеуге болады (ашықтық,
тексеру/аудит, әртүрлі дерек)?
Бұл — «алгоритмдік бейтараптық емес» (algorithmic bias) деп аталады: ЖИ
адамдардың бұрынғы шешіміндегі кемсітушілікті үйреніп, оны қайталайды.
Жазбаша жауапты жұмыс парағына толтырыңыз.
ЖИ: әлеуметтік және этикалық аспектілер
11

12.

Рефлексия
«Үш сұрақ» әдісі
1
Бүгін сабақтан не білдім?
2
Ойымды не қатты толғандырды?
3
Тақырып бойынша тағы не сұрағым келеді?
ЖИ: әлеуметтік және этикалық аспектілер
12

13.

Үй тапсырмасы
Өз өміріңізде немесе отбасыңызда кездесетін жасанды интеллект қолданылатын бір мысал табыңыз (мысалы: телефондағы
дауыстық көмекші, көлік навигаторы, әлеуметтік желінің ұсыныс таспасы, аударма қосымшасы т.б.).
Содан кейін 5–7 сөйлемнен тұратын қысқаша жазба дайындаңыз:
Жауапкершілік
Осы ЖИ қате жіберсе, кім жауап беруі
керек?
ЖИ: әлеуметтік және этикалық аспектілер
Әділдік
Ол барлық адамдарға бірдей әділ қызмет
көрсете ме?
Ашықтық
Оның қалай жұмыс істейтіні сізге түсінікті
ме?
13