Referat mavzu: Eng kichik kvadratlar usuli Reja : Eng kichik kvadratlar usulining mohiyati

4.Umumlashtirilgan eng kichik kvadratlar
Eng kichik kvadratlar usuli keng umumlashtirish beradi. Kvadrat qoldiqlar yig'indisini minimallashtirish o'rniga, qoldiq vektorining qandaydir musbat-aniq kvadratik shaklini minimallashtirish mumkin.

- Bu yerga W ba'zi simmetrik musbat aniq og'irlik

matritsasi. Oddiy eng kichik kvadratlar bu yondashuvning alohida holati bo'lib, og'irlik matritsasi identifikatsiya matritsasiga mutanosib bo'lganda. Ma'lumki, simmetrik matritsalar (yoki operatorlar) uchun parchalanish mavjud. Shuning uchun bu funktsiyani quyidagicha ifodalash mumkin ;

ya'ni bu funksionalni ba'zi o'zgartirilgan "qoldiqlar" kvadratlari yig'indisi sifatida ifodalash mumkin. Shunday qilib, biz eng kichik kvadratlar usullari sinfini - LS-metodlarini (Kichik kvadratchalar) ajratishimiz mumkin.


(Aitken teoremasi) umumlashtirilgan chiziqli regressiya modeli uchun (tasodifiy xatolarning kovariatsiya matritsasiga hech qanday cheklovlar qo'yilmagan) eng samarali (chiziqli xolis baholar sinfida) deb ataladigan taxminlar ekanligi isbotlangan. . umumlashtirilgan eng kichik kvadratlar (GLS, GLS - Generalized Least Squares) - tasodifiy xatolarning teskari kovariatsiya matritsasiga teng og'irlik matritsasi bilan LS-usuli:
chiziqli model parametrlarining Umumlashtirilgan eng kichik kvadratlar -baholash formulasi ko'rinishga ega ekanligini ko'rsatish mumkin
Aslida, Umumlashtirilgan eng kichik kvadratlar
ning mohiyati dastlabki ma'lumotlarning ma'lum (chiziqli) transformatsiyasida (P) va o'zgartirilgan ma'lumotlarga odatiy eng kichik kvadratlarni qo'llashda yotadi. Ushbu transformatsiyaning maqsadi shundaki, o'zgartirilgan ma'lumotlar uchun tasodifiy xatolar allaqachon klassik taxminlarni qondiradi.

Diagonal og'irlik matritsasi (va shuning uchun tasodifiy xatolarning kovariatsiya matritsasi) bo'lsa, bizda eng kichik vaznli kvadratlar deb ataladigan narsa bor. Bunda model qoldiqlari kvadratlarining vaznli yig‘indisi minimallashtiriladi, ya’ni har bir kuzatuv ushbu kuzatishdagi tasodifiy xato dispersiyasiga teskari proportsional “og‘irlik” oladi:

Haqiqatan ham, ma'lumotlar kuzatuvlarni tortish (tasodifiy xatolarning taxmin qilingan standart og'ishiga proportsional miqdorga bo'linish) orqali o'zgartiriladi va vaznli ma'lumotlarga oddiy eng kichik kvadratlar qo'llaniladi.