Mashinali o’qitishga kirish fanidan 2-topshiriq Guruh: 212-20 Topshirdi: Raimov Jasurbek Tekshirdi: Qo’chqarov Muslimjon

O’ZBEKISTON RESPUBLIKASI AXBOROT
TEXNOLOGIYALARI VA KOMMUNIKATSIYALARINI
RIVOJLANTIRISH VAZIRLIGI



Muhammad Al-Xorazmiy nomidagi
Toshkent Axborot Texnologiyalari Universiteti
Mashinali o’qitishga kirish fanidan
2-topshiriq

Guruh: 212-20
Topshirdi: Raimov Jasurbek
Tekshirdi: Qo’chqarov Muslimjon


Mashinali o'qitishda o'qituvchisiz o'qitish algoritmlarini o'rganish va ularni dasturlash

So'nggi o'n yil ichida mashinani o'rganish naqshni aniqlash, robotomobillar va go kabi murakkab o'yinlar kabi turli sohalarda misli ko'rilmagan darajada rivojlandi. Ushbu muvaffaqiyatlarga asosan ikkita paradigmadan biri bilan chuqur neyron tarmoqlarni o'qitish orqali erishildi - o'qituvchi bilan o'rganish va mustahkamlash bilan o'rganish. Ikkala paradigma ham insonning o'qitish signallarini ishlab chiqishni talab qiladi, keyinchalik ular kompyuterga uzatiladi. O'qituvchi bilan mashg'ulot bo'lsa, bu "maqsadlar" (masalan, rasm ostidagi to'g'ri imzo); kuchaytirilgan taqdirda, bu muvaffaqiyatli xatti-harakatlar uchun "mukofot" (Atari o'yinida yuqori ball). Shuning uchun o'rganish chegaralari odamlar tomonidan belgilanadi.

Va agar ba'zi olimlar etarlicha keng qamrovli o'quv dasturi - masalan, keng ko'lamli vazifalarni muvaffaqiyatli bajarish qobiliyati - umumiy maqsadli intellektni yaratish uchun etarli bo'lishi kerak deb hisoblasa, boshqalar haqiqiy aql ko'proq mustaqil o'rganish strategiyalarini talab qiladi deb o'ylashadi. Misol uchun, chaqaloqni o'rgatish jarayonini ko'rib chiqing. Buvisi u bilan birga o'tirib, sabr-toqat bilan unga o'rdak misollarini ko'rsatishi mumkin (o'qituvchi bilan o'rganishda ta'lim signali sifatida ishlaydi) yoki kublar bilan jumboqni yechish uchun uni olqishlar bilan mukofotlashi mumkin (mustahkamlangan o'rganish kabi). Biroq, ko'pincha chaqaloq dunyoni sodda tarzda o'rganadi va qiziqish, o'yin va kuzatish orqali atrof-muhitni tushunadi. O'qituvchisiz ta'lim - Bu har qanday aniq vazifalardan qat'i nazar, ular kuzatayotgan ma'lumotlarni o'rganish uchun agentlarni (kompyuter dasturlarini) mukofotlash orqali avtonom aqlni yaratish uchun mo'ljallangan paradigmadir. Boshqacha qilib aytganda, agent o'rganishga o'rgatilgan.
O'qituvchisiz o'rganishning asosiy motivatsiyasi shundaki, agar o'rganish algoritmlariga uzatiladigan ma'lumotlar juda boy ichki tuzilishga ega bo'lsa (tasvirlar, videolar, matnlar), u holda mashg'ulotdagi maqsadlar va mukofotlar odatda juda quruq (buning uchun "it" yorlig'i) o'yindagi muvaffaqiyat yoki muvaffaqiyatsizlikni ko'rsatadigan turlar yoki birlik / nol). Bu shuni ko'rsatadiki, algoritm o'rganadigan narsalarning aksariyati bu tushunchani ma'lum muammolarni hal qilishda qo'llash emas, balki ma'lumotlarning o'zini tushunishdan iborat bo'lishi kerak.
Ko'rish elementlarini dekodlash
2012 yil AlexNet (bosh me'mor Aleks Krizhevskiy nomi bilan atalgan) ImageNet tasniflash tanlovida raqobatchilarga jur'at etganda chuqur o'rganish uchun muhim yil bo'ldi. Uning tasvirlarni tanib olish qobiliyatining o'xshashi yo'q edi, ammo bundan ham ajablanarlisi kaput ostida sodir bo'layotgan narsa edi. AlexNet harakatlarini tahlil qilgandan so'ng, olimlar u kirish ma'lumotlarining tobora murakkab ichki ko'rinishlarini qurish orqali tasvirlarni sharhlashini aniqladilar. Past darajadagi xususiyatlar, masalan, to'qimalar va yuzlar, pastki qatlamlar bilan ifodalanadi, so'ngra ulardan yuqori qatlamlarda g'ildiraklar yoki itlar kabi yuqori darajadagi tushunchalar birlashtiriladi.
Bu hayratlanarli darajada bizning miyamiz ma'lumotni qanday qayta ishlashiga o'xshaydi - sezgilar bilan bog'liq asosiy sohalardagi oddiy yuzlar va to'qimalar miyaning yuqori qismlaridagi yuzlar kabi murakkab ob'ektlarga yig'iladi. Shunday qilib, jumlani tashkil etuvchi alohida so'zlardan ma'no paydo bo'lgani kabi, murakkab sahna ko'rgazmali ibtidoiylardan ham tuzilishi mumkin. To'g'ridan-to'g'ri o'rnatmasdan, AlexNet qatlamlari muammoni hal qilish uchun mos keladigan asosiy vizual "lug'at" ni ochib berdi. Qaysidir ma'noda, tarmoq Lyudvig Vittgenshteyn "til o'yini" deb atagan narsani o'ynashni o'rgandi, bu bosqichma-bosqich piksellardan tasvir yorliqlariga o'tadi.
Konvolyutsion neyron tarmog'ining vizual lug'ati. Har bir qatlam uchun ma'lum neyronlarning faollashuvini maksimal darajada oshiradigan tasvirlar yaratiladi. Keyin bu neyronlarning boshqa tasvirlarga reaktsiyasi vizual "so'zlar" ning mavjudligi yoki yo'qligi sifatida talqin qilinishi mumkin: to'qimalar, kitob javonlari, itlarning yuzlari, qushlar.
Transfer treningi
Umumiy maqsadli intellekt nuqtai nazaridan, AlexNet lug'atidagi eng qiziq narsa shundaki, uni qayta ishlatish yoki boshqa vizual vazifalarga o'tkazish, masalan, nafaqat alohida ob'ektlarni, balki butun sahnalarni ham tanib olish mumkin. Har doim o'zgaruvchan dunyoda transfer juda zarur va odamlar buni juda yaxshi bajaradilar: biz tajribadan (jahon modeli) olingan ko'nikmalar va tushunchalarni har qanday hozirgi vaziyatga tezda moslashtira olamiz. Masalan, klassik ma'lumotga ega bo'lgan pianinochi jazz chalishni oson o'rganadi. Dunyoning to'g'ri ichki g'oyasini shakllantiradigan sun'iy agentlar, ehtimol, bir xil imkoniyatlarga ega bo'lishi kerak.
Biroq, AlexNet kabi tasniflagichlar tomonidan olingan tasvirlar o'z cheklovlariga ega. Xususan, tarmoq bitta sinf (it, mushuk, avtomobil, vulqon) xabarlarini belgilashga o'rgatilganligi sababli, qolgan ma'lumotlar - boshqa vazifalar uchun qanchalik foydali bo'lishidan qat'i nazar, u e'tiborga olinmaydi. Misol uchun, agar teglar faqat oldingi plandagi ob'ektlarga tegishli bo'lsa, tasvirlar tasvirlarning fonini ololmasligi mumkin. Mumkin yechim - keng qamrovli o'quv signallarini berish, masalan, tasvirning batafsil tavsiflari: nafaqat "it", balki "Korgi quyoshli parkda frizbi tutadi". Biroq, bunday yorliqlarni, ayniqsa katta hajmda yopishtirish qiyin va ular hali ham vazifani bajarish uchun zarur bo'lgan barcha ma'lumotlarni idrok etish uchun etarli bo'lmasligi mumkin. O'qituvchisiz o'rganishning asosiy sharti shundaki, osongina ko'chma tasvirlarni o'rganishning eng yaxshi usuli ma'lumotlar haqida mumkin bo'lgan hamma narsani o'rganishga harakat qilishdir. Agar vakilliklarni o'rgatish orqali uzatish tushunchasi sizga juda mavhum bo'lib tuyulsa, odamlarni "tayoq, tayoq, bodring" uslubida chizishni o'rgangan bolani tasavvur qiling. U juda ixcham va yaxshi moslashtirilgan odamning tashqi ko'rinishini kashf etdi. Har bir raqamni ma'lum xususiyatlar bilan to'ldirib, u barcha sinfdoshlarining portretlarini yaratishi mumkin: eng yaxshi do'sti uchun ko'zoynak, sinfdoshiga sevimli qizil futbolka. Va u bu mahoratni ma'lum bir vazifani bajarish yoki mukofot olish uchun emas, balki uning atrofidagi dunyoni ko'rsatishga bo'lgan asosiy ehtiyojga javoban rivojlantirdi.
Ijodkorlik orqali o'rganish: generativ modellar
Ehtimol, o'qituvchisiz o'rganishning eng oddiy maqsadi o'z ma'lumotlar misollarini yaratish uchun algoritmni o'rgatishdir. T.N. generativ modellar nafaqat ular o'qitilgan ma'lumotlarni qayta ishlab chiqarishi kerak (bu shunchaki qiziq bo'lmagan "eslab qolish"), balki ma'lumotlar olingan sinfning modelini yaratishi kerak. Ot yoki kamalakning aniq fotosurati emas, balki otlar va kamalaklarning fotosuratlari to'plami; ma'lum bir ma'ruzachining o'ziga xos bayonoti emas, balki og'zaki bayonotlarning umumiy taqsimoti. Generativ modellarning asosiy printsipi shundan iboratki, ma'lumotlarning ishonchli namunasini yaratish imkoniyati ular tushunilganligining eng kuchli dalilidir: Richard Feynman aytganidek, "men yarata olmaydigan narsani men tushunmayman".
Hozirgacha tasvirlar uchun eng muvaffaqiyatli generativ model generativ-dushmanli tarmoq bo'lib qolmoqda.(GSS), unda ikkita tarmoq - generator va diskriminator - soxta mutaxassis va detektiv raqobatiga o'xshash tan olish musobaqasiga kiradi. Generator tasvirlarni ishlab chiqaradi, diskriminatorni ularning haqiqatiga ishonishga harakat qiladi; diskriminator soxta narsalarni aniqlagani uchun mukofotlanadi. Yaratilgan tasvirlar avval tasodifiy va beparvo boʻlib, soʻngra koʻplab yondashuvlar boʻyicha takomillashtiriladi va tarmoqlarning dinamik oʻzaro taʼsiri tobora real boʻlgan tasvirlarning paydo boʻlishiga olib keladi, koʻp hollarda ularni haqiqiy suratlardan ajratib boʻlmaydi. GSS shuningdek, foydalanuvchilarning taxminiy eskizlari asosida batafsil landshaftlarni taqdim etishi mumkin.
Quyidagi rasmlarga bir qarash, tarmoq o'zi o'qigan fotosuratlarning ko'plab asosiy xususiyatlarini - hayvonlar tanasining tuzilishini, o'tning tuzilishini va o'yin tafsilotlarini tasvirlashni o'rganganligiga ishonch hosil qilish uchun etarli bo'ladi. yorug'lik va soyaning (hatto sovun pufagini aks ettirganda ham). Ehtiyotkorlik bilan o'rganish kichik anomaliyalarni aniqlaydi, masalan, oq itdagi qo'shimcha oyoq va favvoralardan birining oqimlarida g'alati to'g'ri burchak. Generativ modellarni yaratuvchilar bunday kamchiliklardan xalos bo'lishga harakat qilishsa-da, biz ularni ko'rishimiz tasvirlar kabi tanish ma'lumotlarni qayta tiklashning afzalliklaridan biri haqida gapiradi: namunalarni o'rganish orqali tadqiqotchilar model nimani o'rganganini va nimani tushunishlari mumkin. hali yo'q.
Bashorat qilish orqali yaratish
O'qituvchisiz sinfdagi yana bir e'tiborga molik tarmoqlar oilasi avtoregressiv modellar bo'lib, unda ma'lumotlar kichik bo'laklarga bo'linadi, ularning har biri model o'z navbatida bashorat qiladi. Bunday modellar ma'lumotlarni quyidagi tarzda yaratish uchun ishlatilishi mumkin: birinchidan, tarmoq nima bo'layotganini taxmin qiladi, bu taxminni uning kiritishiga kiritadi va u yana taxmin qiladi. Eng mashhur misol til modeli bo'lib, unda har bir keyingi so'z oldingi so'zlar asosida bashorat qilinadi: bu model turli ilovalarda va elektron pochta xabarlarini yuborishda paydo bo'ladigan matn bashoratlari bilan ishlaydi. Tilni modellashtirishdagi so'nggi ishlanmalar hayratlanarli darajada oqilona parchalarni yaratishga imkon beradi - masalan, OpenAI GPT-2 dan olingan:
Tizimga maslahat (odam tomonidan yozilgan)
Olimlar uzoq va ilgari o‘rganilmagan And vodiysida yashovchi bir shoxli shoxlar podasi topib, hayratlanarli kashfiyot qilishdi. Tadqiqotchilarni yanada hayratlanarli tomoni shundaki, bir shoxli shoxlar ingliz tilida so'zlashardi.
Model tomonidan to'ldirilgan matn (10 urinishdan keyin)
Olimlar o'ziga xos shoxlari tufayli populyatsiyani "Ovid unicorns" deb atashgan. Bu to'rt shoxli kumush-oq yagona shoxlar ilgari fanga noma'lum edi. Va nihoyat, ikki asrdan so'ng, bu g'alati hodisaning paydo bo'lishiga nima sabab bo'lganligining siri hal qilinadi.
Lapaz universitetining evolyutsion biologi doktor Xorxe Peres va uning bir qancha hamkorlari boshqa hayvonlar va odamlar yo'q bo'lgan kichik vodiyni topib, And tog'larini o'rganishdi. Peres vodiyda tabiiy favvoraga o‘xshagan, ikki qoyali cho‘qqi va kumushrang qor bilan o‘ralgan bir narsani payqadi.
Keyin Peres va qolganlar bu vodiyga borishdi. "Biz cho'qqilardan biriga chiqqanimizda, suv ko'k rangga o'xshardi va uning yuzasida kristallar kam edi", dedi Peres.
Peres va uning do‘stlari bir shoxli shoxlar to‘dasini ko‘rib hayratda qolishdi. Bu jonzotlarni havodan ko'rish mumkin edi, ularni ko'rish uchun ularga yaqinlashmadilar - ular juda yaqin edilarki, shoxlariga tegishi mumkin edi.
Qiziqarli nomuvofiqliklardan biri bu yakka shoxlarni "to'rt shoxli" deb ta'riflash: tarmoqni tushunish cheklovlarini o'rganish qiziqarli.
Bashoratlarni sozlash uchun ishlatiladigan kirish ketma-ketligini boshqarish orqali avtoregressiv modellar bir ketma-ketlikni boshqasiga o'tkazish uchun ishlatilishi mumkin. Ushbu namoyish matnni qo'lda yozilgan real ko'rinishga aylantirish uchun shartli avtoregressiv modeldan foydalanadi. WaveNet matnni tabiiy nutqqa aylantiradi va endi Google Assistant uchun ovoz yaratish uchun ishlatiladi. Tyuning va avtoregressiv avlodning shunga o'xshash yutuqlari bir tildan boshqasiga tarjima qilish uchun ishlatilishi mumkin.
Avtoregressiv modellar ma'lumotlarni o'rganadi, har bir qismni ma'lum tartibda bashorat qilishga harakat qiladi. Siz o'qituvchisiz o'rganish, boshqa har qanday ma'lumotlar asosida ma'lumotlarning istalgan qismi haqida bashorat qilish orqali yanada umumlashtirilgan tarmoqlar sinfini yaratishingiz mumkin. Masalan, bu biz jumladan bitta so'zni olib tashlashimizni va matnning qolgan qismiga asoslanib, uni taxmin qilishga harakat qilishimizni anglatishi mumkin. Tizimni ko'plab mahalliy bashoratlarni so'rov orqali o'rgatish orqali biz uni barcha ma'lumotlarni bir butun sifatida o'rganishga majbur qilamiz.
Generativ modellarning muammolaridan biri ulardan zararli foydalanish imkoniyatidir. Fotosuratlar, videolar va audio yozuvlar ko'rinishidagi dalillarni manipulyatsiya qilish uzoq vaqtdan beri mumkin edi, ammo generativ modellar ushbu materiallarni yomon niyat bilan tahrirlashni sezilarli darajada osonlashtirishi mumkin. Biz allaqachon deepfake deb ataladigan narsaning namoyishini ko'rdik - masalan, Obama bilan soxta video . Ushbu muammolarga javob berishga jiddiy urinishlar borligini ko'rish quvonarli, masalan, sintetik materiallarni aniqlash va haqiqiyligini tasdiqlash uchun statistik usullardan foydalanish, jamoatchilikni sodir bo'layotgan voqealar bilan tanishtirish va o'qitilgan generativ modellarning mavjudligini cheklash bo'yicha muhokamalar. . Bundan tashqari, generativ modellarning o‘zi ishlab chiqarilgan materiallar va g‘ayritabiiy ma’lumotlarni aniqlash uchun ishlatilishi mumkin – masalan, soxta nutqni aniqlash yoki foydalanuvchilarni firibgarlardan himoya qilish uchun g‘ayritabiiy to‘lovlarni aniqlash. Tadqiqotchilar ularni yaxshiroq tushunish va kelajakda xavflarni kamaytirish uchun generativ modellar ustida ishlashlari kerak.

Intellektni qayta kashf qilish

Generativ modellarning o'zi juda qiziq, ammo DeepMind-da biz ularga umumiy maqsadli razvedka yo'lidagi bosqich sifatida qaraymiz. Agentga ma'lumot ishlab chiqarish qobiliyatini berish, unga qanday qilib tasavvur berish va, demak, kelajak haqida rejalashtirish va fikr yuritish qobiliyatidir. Bizning tadqiqotlarimiz shuni ko'rsatadiki, atrof-muhitning turli tomonlarini bashorat qilishni o'rgatish, hatto ma'lumotlarni yaratish uchun maxsus topshiriqsiz ham, agentning dunyo modelini boyitadi va shuning uchun uning muammolarni hal qilish qobiliyatini yaxshilaydi.
Bu natijalar inson ongini intuitiv tushunishimizga mos keladi. Bizning dunyoni maxsus nazoratsiz o'rganish qobiliyatimiz aqlning asosiy xususiyatlaridan biridir. O'quv safarida biz befarqlik bilan derazaga qarashimiz, o'rindiqlardagi baxmalga tegizishimiz, biz bilan sayohat qilayotgan yo'lovchilarni hisobga olishimiz mumkin. Ushbu tadqiqotlarda biz hech qanday maqsad yo'q: biz ongimizni ma'lumot to'plashdan deyarli chetlashtira olmaymiz va miyamiz atrofimizdagi dunyoni va undagi o'rnimizni tushunish ustida tinimsiz ishlaydi.