Xatoliklar funksiyasi

Tasniflash yo'qotish funktsiyalari:
Ikkilik tasniflash yo'qotishlar ikkilik o'zaro entropiya:
Ikkilik o'zaro entropiya - berilgan tasodifiy o'zgaruvchilar va/yoki hodisalar to'plami uchun ehtimollik taqsimotlari o'rtasidagi farqning o'lchovidir. Ikki klassli tasniflashda maqsadli o'zgaruvchilar ikkita sinfga ega va o'zaro entropiyani quyidagicha aniqlash mumkin:

Menteşe yo'qolishi:
Ushbu yo'qotish odatda o'zaro faoliyat entropiyaga muqobil bo'lib xizmat qiladi va dastlab vektorli mashina algoritmini qo'llab-quvvatlash uchun ishlab chiqilgan. Odatda chiqish o'zgaruvchisining qiymatlari {-1, 1} to'plamida bo'lganda yaxshi ishlaydi. Menteşa yo'qolishining matematik ko'rinishi quyida ko'rsatilgan:

Youtube-da bepul videolarni tomosha qiling
Kvadratchali menteşe yo'qolishi:
Bu menteşe yo'qolishining kengaytmasi va bu menteşe yo'qotish funktsiyasining oddiy kvadratidir. Bu asl yo'qotishning kvadrati bo'lgani uchun u gradientlarni hisoblashni osonlashtiradigan ba'zi matematik xususiyatlarga ega. Bu ehtimollikdagi og'ish qiziq bo'lmagan Ha yoki Yo'q savollariga juda mos keladi.
TensorFlow v/s Keras v/s PyTorch o'rtasidagi farqlar haqidagi maqolani o'qing .
Jini nopokligi:
Ushbu yo'qotish funktsiyasi qaror daraxtlari uchun tasniflash va regressiya daraxti (CART) algoritmi tomonidan qo'llaniladi. Bu tasodifiy o'zgaruvchining misoli, agar tasnif tasodifiy bo'lsa, ma'lumotlardagi sinflar bo'yicha noto'g'ri tasniflanganlik ehtimoli o'lchovidir. Bu funksiya uchun pastki chegara 0 ga teng. J klassli elementlar to‘plami uchun Gini nopokligi quyida ko‘rsatilgan:

Hellinger masofasi:
Bu uchburchak tengsizligini qanoatlantiruvchi xarajat funksiyasi. P = {pi}i∈[n] , Q = {qi}i∈[n] ehtimollik taqsimotlari uchun [n] da qoʻllab-quvvatlanadi, ular orasidagi Hellinger masofasi quyidagicha aniqlanadi:
Ta'rifdagi √ 2 barcha ehtimollik taqsimotlari uchun h(P, Q) ≤ 1 bo'lishini ta'minlash uchundir.