Raqamli texnologiyalar vazirligi muxammad al-xorazimiy nomidagi toshkent axborot texnologiyalari universiteti

Logistik regressiya tenglamasi

G'alati narsa sodir bo'lmagan narsaga nisbati. u ehtimollikdan farq qiladi, chunki ehtimollik sodir bo'lgan narsaning yuzaga kelishi mumkin bo'lgan hamma narsaga nisbati. juda g'alati bo'ladi

Tabiiy jurnalni toq holatda qo'llash. keyin log g'alati bo'ladi

u holda yakuniy logistik regressiya tenglamasi quyidagicha bo'ladi:

Logistik regressiya uchun ehtimollik funksiyasi

Bashorat qilingan ehtimolliklar y=1 uchun p(X;b,w) = p(x) bo'ladi va y = 0 uchun bashorat qilingan ehtimolliklar 1-p(X;b,w) = 1-p(x) bo'ladi.

Ikkala tomondan tabiiy loglarni olish

Log-ehtimollik funksiyasining gradienti

Maksimal ehtimollik taxminlarini topish uchun biz wrt w ni farqlaymiz,

Logistik regressiya uchun taxminlar

Logistik regressiya uchun taxminlar quyidagilar:

• 
  Mustaqil kuzatishlar: Har bir kuzatish boshqasidan mustaqil. har qanday kirish o'zgaruvchilari o'rtasida korrelyatsiya yo'q degan ma'noni anglatadi.
  
• 
  Ikkilik bog'liq o'zgaruvchilar: Bu qaram o'zgaruvchi ikkilik yoki dixotomiyali bo'lishi kerak degan taxminni oladi, ya'ni u faqat ikkita qiymatni qabul qilishi mumkin. Ikki toifadan ortiq softmax funksiyalari qo'llaniladi.
  
• 
  Mustaqil o'zgaruvchilar va log koeffitsientlari o'rtasidagi chiziqlilik munosabati: mustaqil o'zgaruvchilar va qaram o'zgaruvchining log koeffitsientlari o'rtasidagi munosabatlar chiziqli bo'lishi kerak.
  
•