Intellektual tizimlar haqida umumiy ma’lumot

Rekurrent neyron tarmoqlari

Takroriy neyron tarmog'i (RNN) - elementlar orasidagi ulanishlar yo'naltirilgan ketma-ketlikni tashkil etadigan neyron tarmoq turi. Bu vaqt yoki ketma-ket fazoviy zanjirlarda bir qator hodisalarni qayta ishlash imkonini beradi. Ko'p qatlamli perseptronlardan farqli o'laroq, takrorlanuvchi tarmoqlar o'z ichki xotirasidan ixtiyoriy uzunlikdagi ketma-ketliklarni qayta ishlash uchun foydalanishi mumkin. Shuning uchun RNNlar yaxlit narsa qismlarga bo'lingan vazifalarda qo'llaniladi, masalan: qo'l yozuvini aniqlash [1] yoki nutqni aniqlash [2] [3]. Takrorlanuvchi tarmoqlar uchun oddiydan murakkabgacha ko'plab turli arxitektura yechimlari taklif qilingan.Takroriy (Recurrent) neyron tarmoqlar:
Takrorlanadigan neyron tarmoqlar (RNN), nomidan ko'rinib turibdiki, operatsiyalarning tsikl shaklida takrorlanishini o'z ichiga oladi. Ular oldingi tarmoqlarga qaraganda ancha murakkab va tasvirni asosiy tanib olishdan ko'ra murakkabroq vazifalarni bajara oladilar. Masalan, takrorlanadigan neyron tarmoqlari odatda matnni o’qib berishda va til yaratishda qo'llaniladi. Tabiiy tilni anglash va uni yaratish, takrorlanadigan neyron tarmoqlari arxitekturasi tufayli amalga oshiradigan tasvirni aniqlashdan ko'ra ancha murakkab ishlov berishni o'z ichiga oladi. Uzoq muddatli neyron tarmoqlarida ulanishlar faqat bitta neyrondan keyingi qatlamlarda neyronlarga hech qanday teskari aloqa qilmasdan olib boradigan bo'lsa, takroriy neyron tarmoqlar ulanishning yana bir xil qatlamdagi neyronlarga olib borishiga imkon beradi, bu esa operatsiyalarning yanada keng doirasini ta'minlaydi.Biroq, an'anaviy RNN-larda bir nechta cheklovlar mavjud. Ularni o'qitish qiyin va juda qisqa muddatli xotiraga ega, bu ularning funksionalligini cheklaydi. Xotira cheklanishini bartaraf etish uchun LSTM yoki Uzoq Qisqa muddatli Xotira tarmoqlari deb nomlanuvchi RNN ning yangi shakli qo'llaniladi. LSTMlar uzoq muddatli xotira bilan bog'liq vazifalarni bajarishi uchun xotira RNNlarini kengaytiradi.
RNN-larning asosiy dastur sohalariga tabiiy tillarni qayta ishlash muammolari kiradi, masalan nutq va matnni aniqlash, matnni bashorat qilish va tabiiy tilni yaratish

121.