Ma’ruza rejasi

Neyron tashkil etuvchilari

x-parametr (kiruvchi ma’lumotlar) w(weight)-og'irlik koeffitsenti b(bias)-ozod had
y=x*w+b (xususiy hol uchun)
Faollashtirish funksiyasi
Kiruvchi ma’lumotlar
Og’irlik koeffitsentlari
Chiquvchi ma’lumot
Ozod had
Chiziqli funksiya
Sigmoid funksiya
Giperbolik tangens
Oraliq diapazon [-1,1]
Oraliq diapazon [0,1].
Faollashtirish funksiyalari

Faollashtirish funksiyalari

Barcha neyronlar bo’yicha hisoblashlar amalga oshirilganidan keyin quyidagi “sigmoid” yoki ReLU funksiyasi grafigi asosida shakllantiriladi va funksiya qiymati mos ravishda [0-1] va [0, N] oraligida o’zgarib turadi.

Faollashtirish funksiyalari ko’rinishi (Sigmoid va ReLU funksiyasi)

Neyron tarmoq tashkil etuvchilari

Kiruvchi qatlam (input layer) – obyektga tegishli bo’lgan kiruvchi ma’lumotlar (Masalan, 28x28 o’lchamdagi tasvir bo’ladigan bo’lsa, 784 ta kiruvchi parametr);
Chiquvchi qatlam (output layer) – hisoblash natijasini ko’rsatadigan natijaviy qatlam;
Yashirin qatlamlar (hidden layer) – neyron tarmog’ida asosiy hisoblashlarni amalga oshiruvchi
ko’p sathli (yoki bitta sath) neyronlar jamlanmasi;
Bog’lanishlar va og’irlik koeffitsentlari (weights) – neyron tarmog’idagi bog’lanish koeffitsentlari hisoblanadi, bunda kiruvchi sath neyronlari ushbu koeffitsentlarga kop’paytirish orqali, agar tarmoq bir nechta sathdan iborat bo’lsa unda natijaviy qatlam, keyingi qatlam uchun kiruvchi sath bo’lib hisoblanadi va ularning ham og’irlik koeffitsentlari bo’ladi.
Faollashtirish funksiyasi (activation function, transfer function) – chiquvchi qatlam uchun qiymatlarni muvoffiqlashtiruvchi funksiya (softmax, relu) hisoblanadi
O’qitish qoidasi (learning rule) - bu tarmoqqa berilgan kirish uchun qulay natijaga erishishda
neyron tarmoq parametrlarini o'zgartiradigan qoida yoki algoritm.