Eng kichik kvadratlar usuli. Statistikani ozgina bo'lsa ham o'rgangan kishi chiziqli regressiya tushunchasini yaxshi biladi. Eng kichik kvadratlar ham uni amalga oshirish variantlariga tegishli. Odatda, chiziqli regressiya ko'plab nuqtalardan o'tgan to'g'ri chiziqni o'rnatish masalalarini hal qilish uchun ishlatiladi. Bu eng kichik kvadratlar usuli yordamida amalga oshiriladi: to'g'ri chiziqni torting, undan har bir nuqtagacha bo'lgan masofani o'lchang (nuqtalar va chiziq vertikal segmentlar bilan bog'langan), natijada olingan yig’indini ko'chiring. Natijada, masofalar yig'indisi eng kichik bo'ladigan egri chiziq kerakli (bu chiziq haqiqiy qiymatdan normal taqsimlangan og'ish bilan nuqtalar orqali o'tadi).
Ma'lumotlarni mashinada o'rganish uchun moslashtirishda chiziqli funksiya odatda qo'llaniladi va xato metrikasini yaratish orqali xatolarni minimallashtirish uchun eng kichik kvadratchalar usuli qo'llaniladi.
Logistik regressiya.Logistik regressiya bu o'zgaruvchilardan o'zaro
bog'liqlikni aniqlash usulidir, ulardan biri qat'iyan bog'liq, boshqalari esa mustaqil. Buning uchun logistik funksiyadan (akkumulyativ logistik taqsimot) foydalaniladi. Logistik regressiyaning amaliy qiymati shundaki, u bir yoki bir nechta mustaqil o'zgaruvchini o'z ichiga olgan voqealarni bashorat qilishning kuchli statistik usuli hisoblanadi. Bu quyidagi holatlarda foydalidir:
kredit ballari;
reklama kampaniyalarining muvaffaqiyatini o'lchash;
ma'lum bir mahsulotdan foyda bashorati;
ma'lum bir sanada zilzila ehtimolini taxmin qilish.
Vektorli mashinani qo'llab-quvvatlash.Bu sinflash va regressiya tahlili masalalarini hal qilish uchun zarur bo'lgan algoritmlarning butun to'plamidir. N o'lchovli kosmosdagi obyekt ikki sinfdan biriga tegishli ekanligiga asoslanib, qo'llabquvvatlovchi vektorli mashina barcha obyektlar ikki guruhdan birida bo'lishi uchun (N - 1) o'lchovli giperplan yaratadi. Qog'ozda uni quyidagicha ifodalash mumkin: ikki xil nuqtalar mavjud va ularni chiziqli ajratish mumkin. Ushbu usul nuqtalarni ajratishdan tashqari, har bir guruhning eng yaqin nuqtasidan iloji boricha uzoqroq joyda giperplan hosil qiladi.
Vektorli mashinani qo'llab-quvvatlash va uning modifikatsiyalari mashinali o’qitishda tasvirdan odamning jinsini aniqlash, veb-saytlarda reklama bannerlarini namoyish qilish kabi murakkab masalalarni hal qilishga yordam beradi.
Ansambl usuli.Bu sinflagichlar to'plamini yaratadigan va ularning o'rtacha yoki ovoz berish natijalariga ko'ra barcha olingan obyektlardan yangi obyektlarni ajratib turadigan mashinali o’qitish algoritmlariga asoslanadi. Dastlab ansambl usuli Bayesning o'rtacha ko'rsatkichi bo'lgan, ammo keyinchalik u yanada murakkablashdi va qo'shimcha algoritmlar bilan to'ldirildi:
kuchaytirish - klassifikatorlar ansamblini shakllantirish orqali zaif modellarni kuchli modellarga aylantiradi (matematik nuqtai nazardan, bu yaxshilanadigan kesishma);
potfellar (sumkalar) - bir vaqtning o'zida asosiy sinflarni o'qitishda
(birlashishni takomillashtirishda) murakkab klassifikatorlarni yig'adi;
chiqishdai kodlash xatolarini tuzatish.
Ansambl usuli mustaqil bashoratlash modellariga qaraganda kuchliroqdir, chunki:
har bir tayanch sinflagichining xatolarini o'rtacha hisoblash orqali tasodif ta'sirini minimallashtiradi;
farqni kamaytiradi, chunki har xil farazlarga asoslangan bir necha xil modellar alohida olingan natijalarga qaraganda to'g'ri natijaga erishish ehtimoli ko'proq;
to'plamdan tashqariga chiqishni istisno qiladi: agar jamlangan gipoteza asosiyfarazlar to'plamidan tashqarida bo'lsa, unda birlashtirilgan gipotezani shakllantirish bosqichida u u yoki bu usul yordamida kengaytiriladi va gipoteza unga kiritilgan bo’ladi.