Similar presentations:
Chuqur o‘qitish (DL). Chuqur oʻqitish algoritmlari
1.
Chuqur o‘qitish (DL). Chuqur oʻqitishalgoritmlari.
Bajardi: 4 4 0 - 2 3 - o ’ q u v c h i l a r i
Ismoilov Ulug’bek
Jo’rayev Ro’zimat
Te ks h i r d i : Q o ‘ c h q a r o v M u s l i m j o n
Toshkent 2025
2. Chuqur o‘qitish nima?
Chuqur o‘qitish – bu ko'p qatlamli neyron tarmoqlarini tadqiqqilinayotgan obyektga tegishli juda katta miqdordagi ma'lumotlardan
foydalanib, ularning tuzilishi va xususiyatlarini tushunishga
qaratilgan jarayondir.
Chuqur o‘qitish asosan neyron tarmoqlari asosida amalga oshiriladi
va bunda quriladigan neyron tarmog‘i xususiyatlari va o‘qitish
jarayoni muhim hisoblanadi hamda neyron tarmog‘i aniqligini
oshirishga xizmat qiladi.
3. Machine Learning & Deep Learning
Machine Learning & Deep Learning• Chuqur o‘qitish (DL) - bu ma'lumotlar taqdimotini o‘rganish uchun bir nechta qatlamlardan
foydalanadigan mashinali o‘qitish demakdir.
4. Machine&Deep Learning
Machine&Deep Learning• Mashinani o‘qitish
bu modelni qurib
olish uchun amalga
oshiriladigan
o‘qitish jarayoni
• Neyron tarmog‘i bu
modelni tezroq va
aniqroq qurib olish
uchun amalga
oshiriladigan
jarayon
• Chuqur o‘qitish bu
bir nechta
qatlamdan iborat
bo‘lgan neyron
tarmog‘ini qurish va
o‘qitish jarayonidir
Mashinani
o‘qitish
Neyron
tarmog‘i
Chuqur
o‘qitish
5. Chuqur o‘qitish bosqichlari
Muammonitushunib olish
Ma’lumotlarni
aniqlash
Chuqur o‘qitish
algoritmini
belgilash
Modelni o‘qitish
Modelni testlash
6. Chuqur o‘qitish tarmog‘i turlari
Source: https://www.guru99.com/deep-learning-tutorial.html
Perceptron
Feed Forward (FF)
Radial Basis Network (RBN)
Deep Feed Forward (DFF)
Convolution Neural Network (CNN)
Recurrent Neural Network (RNN)
Long/Short Term Memory (LSTM)
Gated Recurrent Unit (GRU)
Auto Encoder (AE)
VariationalAE (VAE)
Denoising AE (DAE)
Sparse AE (SAE)
7. ML vs. Deep Learning
• Deep Learning boy ierarxik xususiyatlarni o‘rganish uchun ko‘p qatlamli jarayonni qo‘llaydi.Input image pixels → Edges → Textures → Parts → Objects
LowLevel
Features
MidLevel
Features
HighLevel
Features
Trainable
Classifier
Output
8. O‘qitish usullari
Chuqur o‘qitishda quyidagi mashinani o‘qitish usullaridanfoydalaniladi:
Regressiya – o‘qituvchili (supervised) o‘qitish usuli
hisoblanib, o‘qitish natijasida qurilgan model doimiy qiymatlar
qabul qiladi
Sinflashtirish - o‘qituvchili (supervised) o‘qitish usuli
hisoblanib, o‘qitish natijasida qurilgan model biron sinfga
tegishli yoki tegishli emaslik haqidagi qiymat qabul qiladi
Segmentlash (klasterlash) – o‘qituvchisiz (unsupervised)
o‘qitish usuli hisoblanib, o‘qitish natijasida model oxshash
xususiyatlarni aniqlashga oid qiymatlarni hisoblaydi.
9. Tasvirlarda sinflashtirish masalasi
catMisol uchun: 800 x 600 x 3
(3 kanalli RBG) tasvir berilgan
Ushbu holatda sinflashtirish masalasini
yechish uchun bo‘lishi mumkin bo‘lgan
holatlar ya’ni sinflar haqida xususiyat
qiymatlari berilgan bo‘ladi (misol uchun
cat, car, airplane, dog, truck, ...)
10. Tasvirni sinflashtirishning klassik yondashuvi
Bunda tasvirga tegishlibo‘lgan yoki bo‘lishi
mumkin bo‘lgan qirralar,
burchaklar va yuqori
qiymatli
xususiyatlar
aniqlanadi
11. Tasvirni sinflashtirish
• o‘quv to‘plamini yig‘ish• Mashinali o‘qitish asosida sinflash bloklarini o‘qitish
• Sinf natijasini sinflash bloki yordamida bashorat qilish
12. Chuqur o‘qitish algoritmlari bir-biriga bog‘langan neyron tarmoq qatlamlaridan tashkil topadi
13.
Neyron tarmoqlar• Qo‘lda yozilgan raqamlarni aniqlash (MNIST ma'lumotlar to‘plami(Modified National Institute of
Standards and Technology))
Har bir pikselning intensivligi kirish (input) elementi hisoblanadi
Chiqish (output)- bu raqam sinfi
Output
Input
x1
y1
0.1
is 1
x2
y2
0.7
is 2
……
……
……
x256
The image is “2”
y10
0.2
is 0
16 x 16 = 256
Ink → 1
No ink → 0
Har bir o‘lchov raqamning ishonchliligini ifodalaydi
14. Neyron tarmoq elementlari
• Chuqur NT ko‘plab yashirin qatlamlarga egaTo‘liq bog'langan (zich) (Fully-connected (dense) ) qatlamlar (ko‘p qatlamli perceptron (Multi-Layer
Perceptron ) yoki MLP deb nomlanadi)
Har bir neyron keyingi qatlamdagi barcha neyronlar bilan bog'langan
Input
x1
Layer
1
Layer
2 ……
x2
……
y1
……
……
Output
y2
……
……
……
……
xN
Layer
L
y
M
Input Layer
Hidden Layers
Output
Layer
15. Neyron tarmoqning tashkil etuvchilari
Kiruvchi qatlam (input layer) – obyektga tegishli bo‘lgan kiruvchi ma’lumotlar (Masalan, 28x28 o‘lchamdagitasvirning 784 ta kiruvchi parametri);
Chiquvchi qatlam (output layer) – hisoblash natijasini ko‘rsatadigan chiqish qatlam;
Yashirin qatlamlar (hidden layer) – neyron tarmog‘ida asosiy hisoblashlarni amalga oshiruvchi ko‘p sathli (yoki
bitta sath) neyronlar jamlanmasi;
Bog‘lanish va og‘irlik koeffisentlari (weights) – bu kiruvchi sath neyronlari bilan ko‘paytirilib keyingi (yoki
yakuniy) sath uchun kiruvchi qiymat bo‘lib xizmat qiladi;
Faollashtirish funksiyasi (activation function, transfer function) – chiquvchi qatlam uchun qiymatlarni
muvoffiqlashtiruvchi funksiya (softmax, relu) hisoblanadi.
o‘qitish qoidasi (learning rule) - bu tarmoqqa berilgan kirish uchun qulay natijaga erishishda neyron tarmoq
parametrlarini o‘zgartiradigan qoida yoki algoritm.
15
16. Matritsa bilan ishlash
• Ko‘p qatlamli NT, birinchi qatlam uchun matritsali hisoblar• Kiruvchi (Input) vector x, og‘irlik matritsasi (weights matrix) W1, bias vector b1, chiquvchi (output) vector a1
x1
x2
y1
……
y2
……
a1
a1 =