58
REKURRENT TO’RLAR
Qudratov Akbar Akmal o’g’li –
Mirzo Ulug’bek
nomidagi O’zbekiston Milliy
universiteti Jizzax filiali
Muxtorov Doston Naim o‘g‘li
–
Mirzo Ulug’bek
nomidagi
O‘zbekiston Milliy universiteti Jizzax filiali ,
Assistant
Annotatsiya.
Rekurrent tarmoqlar, sun'iy neyro tarmoqlarining bir turi sifatida mavjud bo'lgan,
ma'lumotlarning tez-tez takrorlanuvchi bo'g'liqlarini va vaqtni hisoblashni modellovchi
usullardir.
Bu turlar, ma'lumotlarning o'rtasida mavjud bo'g'liqlarni tahlil qilish va keyingi
kelajak natijalarini hisoblashda foydalaniladi. Rekurrent tarmoqlar, takrorlanuvchi o'zaro aloqa
uchun qaytarish qaytibora (feedback loop) ni ishlatadi.Asosiy turlardan biri "Rekurrent
neyron
tarmoqi" (RNN) deb nomlanadi. RNN'lar, o'rtasida aloqalar bo'lgan ma'lumotlar ustida ishlov
berish uchun o'zaro bog'liqlikni saqlaydigan qaytarish qaytiboraga ega. Bu bog'liqlik,
tarmoqning avvalgi tashqariga ma'lumotlarni qaytarib berishiga imkon beradi, shuningdek,
umumiy natijani hisoblash jarayonida avvalgi natijalarni ham qo'llaydi.
Kalit so’zlar:
Sun'iy neyron tarmoqi ,Ma'lumotlar o'qish,Ma'lumotlarni
tahlil qilish,Tahlil,
Rekurrent, Riyoziy,Algebra,Geometriya,Analiz,Statistika,Ehtimollik.
"Rekurrent torlar" ifadasi, "Takrorlaydigan tizimlar" deb tarjima qilinadi. Bu turlar,
ma'lumotlarni bir-biriga bog'liqliklarni va vaqtni hisoblashda ishlatiladigan sun'iy neyro
tarmoqlarini anglatadi.Rekurrent torlar, ma'lumotlar o'rtasida takrorlanuvchi munosabatlar va
vaqtni hisoblashda ishlatiladi. Ushbu turlar, ko'plab riyoziy va mahsulotlarni o'rganish va
boshqalar kabi vazifalarda ishlatiladi.Riyoziy, matematik va sonlar hisoblash bilan bog'liq bir so'z.
Ushbu so'z matematikiy tadqiqotchilar, hisobchi va turli sohalar bilan bog'liq ishlarni ifodalash
uchun ishlatiladi. Riyoziy, sonlar, belgilar, formulalar va matematikiy
aloqalardan foydalanib
muammolarni yechish, modellar yaratish va ma'lumotlarni tahlil qilish maqsadini taqdim
etadi.Riyoziyning asosiy maqsadi, matematik mantigini va hisoblash qobiliyatlarini foydalanib,
haqiqiy dunyodagi muammolarni tushunish va hal qilishdir. Ushbu so'z, matematikiy tasavvurlarni,
hisoblash usullarini va analitik fikrlashni foydalanib, miqdoriy va sifatli ma'lumotlarni o'rganish,
tushunish va ta'riflash maqsadida ishlatiladi.Riyoziyning turli bo'limlari mavjud, masalan:
1.
Algebra: Sonlar va belgilarni foydalanib, matematikiy ifodalar ustida amallar
bajarish bilan shug'ullanadi.
2.
Geometriya: Shakllarning xususiyatlari va o'rtasidagi aloqalar bilan shug'ullanadi.
3.
Analiz: Funksiyalar va o'zgaruvchilarning xulqini o'rganish bilan bog'liq,
chegaralarni, differentsiyal va integrallar kabi kavramlar bilan shug'ullanadi.
4.
Statistika: Ma'lumotlarni to'plash, tahlil qilish, ta'riflash va natijalarni olish
jarayonlarida foydalaniladi.
5.
Ehtimollik: Noaniqlik bilan shug'ullanadi va kelajak hodisalarining ehtimolliklarini
va tarqalishlarini o'rganadi.
6.
Eng umumiy turlardan biri "Rekurrent neyron tarmoqi" (RNN) deb nomlanadi.
RNN'lar qaytarish qaytibora bilan ishlaydi va oldingi bosqichlar bilan aloqani saqlaydi.
Ushbu qaytibora, keyingi bosqichlarda yagona natijani olish uchun ishlatiladi.Boshqa bir
rekurrent tarmoq turi "Uzoq Qisqa Muddatli Xotira" (LSTM) deb nomlanadi. LSTM'lar, RNN'lar
umumiy strukturasi bilan bir xil bo'lib, mahsus qotiralar tuzilmasi orqali qo'shimcha xotira va
vaqtga bog'liqlikni modellelaydi.Rekurrent tarmoqlar, til ishlash, matn generatsiyasi, tarjima,
gaplashish sintezi kabi vazifalarda muvaffaqiyatli qo'llanilgan.
Bundan tashqari, vaqt seriyasi
tahlili, video ishlash va ovoz taniqlik kabi sohalarda ham keng tarqalganroq ishlatiladi.Rekurrent
tarmoqlar, turli sohalarda muvaffaqiyatli qo'llaniladi. Masalan, til ishlash vazifalarida matn tahlili,
tarjima va matn generatsiyasini o'rganishda foydalaniladi. Ushbu tarmoqlar, ma'lumotlarning tez-
tez takrorlanishiga qo'ra so'zlar va gaplar o'rtasidagi bog'liqni tahlil qilishda yordam beradi.
59
Shuningdek, rekurrent tarmoqlar vaqt seriyasini o'rganishda ham muvaffaqiyatli bo'lib, sifatli
natijalar olish imkonini beradi. Bu, misol uchun finansiyal sohada hisobotlarni prognozlash, ovoz
va so'z taniqlikda maqollarini tahlil qilish va musiqa generatsiyasini o'rganish kabi vazifalarda
foydalanish
imkonini
beradi.
Rasm 1
Boshqa bir rekurrent tarmoq turi "Uzoq Qisqa Muddatli Xotira" (LSTM) deb nomlanadi.
LSTM'lar, RNN'largacha o'xshash
bo'lsa-da, qo'shimcha
qotiralar tuzilmasi
orqali
o'zgaruvchanligi yuqori darajada hisoblash imkonini beradi. Bu qotiralar, uzun muddatli
bog'liqliklarni o'rganish va o'zgaruvchanligi sifatida ma'lumotlarni saqlashda muhim rol o'ynaydi.
Rekurrent neyron tarmoqlar
Rekurrent neyron tarmoqlarni (chapda) va oldinga uzatiladigan neyron tarmoqlarini (o'ngda)
taqqoslash Takroriy tarmoqlarning yana bir ajralib turadigan xususiyati shundaki, ular tarmoqning
har bir qatlami bo'ylab parametrlarni almashadilar. Oldinga yo'naltirilgan tarmoqlar har bir tugun
bo'ylab turli og'irliklarga ega bo'lsa-da, takroriy neyron tarmoqlar tarmoqning har bir qatlamida
bir xil og'irlik parametrini bo'lishadi. Ya'ni, bu og'irliklar hali ham o'rganishni kuchaytirish uchun
orqaga tarqalish va gradient tushish jarayonlarida sozlanadi. Takroriy neyron tarmoqlar
gradientlarni aniqlash uchun vaqt bo'yicha orqaga tarqalish (BPTT) algoritmidan foydalanadi, bu
ma'lumotlar ketma-ketligiga xos bo'lganligi sababli an'anaviy orqaga tarqalishdan bir oz farq qiladi.
BPTT printsiplari an'anaviy orqaga tarqalish bilan bir xil bo'lib, bu erda model chiqish qatlamidan
kirish qatlamigacha bo'lgan xatolarni hisoblash orqali o'zini o'zi o'rgatadi. Ushbu hisob-kitoblar
bizga model parametrlarini mos ravishda moslashtirish va moslashtirish imkonini beradi. BPTT
an'anaviy yondashuvdan farq qiladi, chunki BPTT har bir bosqichda xatolarni yig'adi, va oldinga
uzatish tarmoqlari xatolarni yig'ishga hojat yo'q, chunki ular har bir qatlam bo'ylab parametrlarni
baham ko'rmaydi.
Rekurrent torlar haqida qo'shimcha ma'lumotlar berayotgan bo'lsak, ular bilan bog'liq
turli
qo'shimcha qavramlardan bir necha misollar keltirishim mumkin:
•
Tushib qoluvchi(Dropout): Rekurrent tarmoqlarda qo'shimcha yutuqlar ishlatilishi
mumkin, masalan, qarıştiruvchi. Bu, bir nechta rekurrent tarmoqning yutuq sohasidagi o'zaro
aloqalarni umuman bekor qilish orqali, overfittingni oldini olishda yordam beradi. Qarıştiruvchi,
tarmoqlarning o'rganish va generalizatsiya qobiliyatini oshirishda foydalaniladi.
•
Ro'yxatlash (Batch Normalization): QRo'yxatlash, rekurrent tarmoqlarda
ma'lumotlarni normalizatsiya qilish usulidir. Ushbu tekshiruv, tarmoqlarda tashqi ma'lumotlarni
o'rtasida ko'pincha o'zaro aloqani kamaytirib, tarmoqning o'rganishni tezlashtirishini va
stabilizatsiyalashni ta'minlaydi.
•
Uzoqlik Asosida Sintez (Sequence-based Generation): Rekurrent tarmoqlarda
uzoqlik asosida sintez, berilgan boshlang'ich holatdan boshlab o'zgaruvchan
jadvalini generatsiya
qilishda foydalaniladi. Bu, tarmoqning oldingi bosqichlar bilan o'zaro bog'liqni saqlab qolish
60
imkonini beradi va ma'lumotlarni kelajakda tahminlash uchun ishlatiladi. Tizimli Qo'shimcha
Tarmoq (Stacked Recurrent Network): Tizimli qo'shimcha tarmoqlar, bir nechta rekurrent
tarmoqning o'zaro bog'liq tuzilmasidir. Ushbu tuzilma, tarmoqlarning murakkab modelini
yaratishda yordam beradi va ma'lumotlarni ko'plab bosqichlarda tahlil qilishni imkon qiladi.
•
RNN Va CNN Ishlatish (Combining RNN and CNN):
Rekurrent tarmoqlar va
konvolutsiya neyron tarmoqlari (CNN) birgalikda ishlatilishi mumkin.
Rasm 2
Bu usul, rekurrent tarmoqlarning qaytarish qaytiborasini tashqariga chiqarish va CNN'ning o'ziga
xos tizimlari bilan obrazlarni tahlil qilishda foydalaniladi. Bu kombinatsiya, rasm, matn yoki
ovozni tahlil qilish va tuzishda yuqori natijalar olishda muvaffaqiyatli bo'ladi.