Referat mavzu: Eng kichik kvadratlar usuli Reja : Eng kichik kvadratlar usulining mohiyati

3. Eng kichik kvadratlar usulining statistik xususiyatlari
Avvalo shuni ta'kidlaymizki, chiziqli modellar uchun eng kichik kvadratlar bahosi yuqoridagi formuladan kelib chiqqan holda chiziqli taxminlardir. Xolis eng kichik kvadratlarni baholash uchun regressiya tahlilining eng muhim shartini bajarish zarur va etarli: omillarga bog'liq bo'lgan tasodifiy xatoning matematik kutilishi nolga teng bo'lishi kerak. Bu shart qondiriladi, xususan, agar

tasodifiy xatolarning matematik kutilishi nolga teng va

omillar va tasodifiy xatolar mustaqil tasodifiy o'zgaruvchilardir.
Doimiy bo'lgan modellar uchun birinchi shart har doim qoniqtirilgan deb hisoblanishi mumkin, chunki konstanta xatolarning nolga teng bo'lmagan matematik kutishini oladi (shuning uchun, odatda, doimiy bo'lgan modellar afzalroqdir).

Ikkinchi shart - ekzogen omillarning holati - asosiy hisoblanadi. Agar bu xususiyat qoniqtirilmasa, deyarli har qanday hisob-kitoblar juda qoniqarsiz bo'ladi deb taxmin qilishimiz mumkin: ular hatto izchil bo'lmaydi (ya'ni, hatto juda katta miqdordagi ma'lumotlar ham bu holatda sifatli baho olishga imkon bermaydi). Klassik holatda, tasodifiy xatodan farqli o'laroq, omillarning determinizmi haqida kuchliroq taxmin qilinadi, bu avtomatik ravishda ekzogen shartning qondirilishini anglatadi. Umumiy holatda, taxminlar izchil bo'lishi uchun tanlama hajmi cheksizgacha oshgani sayin, {\displaystyle V_{x} matritsasining qandaydir buzilmagan matritsaga yaqinlashuvi bilan birga ekzogenlik shartini qondirish kifoya.

(Oddiy) eng kichik kvadratlarni baholashning izchilligi va xolisligidan tashqari samarali bo'lishi uchun (chiziqli xolis baholar sinfidagi eng yaxshisi) tasodifiy xatoning qo'shimcha xususiyatlarini bajarish kerak:

1. 
   Barcha kuzatuvlardagi tasodifiy xatolarning doimiy (bir xil) dispersiyasi (heteroskedastiklik yo'q):
   
2. 
   Turli kuzatuvlarda tasodifiy xatolarning o'zaro bog'liqligi (avtokorrelyatsiyasi) yo'qligi :
   

U shbu shartlarni qondiradigan chiziqli model klassik deb ataladi. Klassik chiziqli regressiya uchun eng kichik kvadratlar usulining -baholovchilar barcha chiziqli xolis baholar sinfida xolis, izchil va eng samarali baholardir). Ko'rsatish oson bo'lganidek, koeffitsientlarni baholash vektorining kovariatsiya matritsasi quyidagilarga teng bo'ladi:

Samaradorlik shuni anglatadiki, bu kovariatsiya matritsasi "minimal" (koeffitsient baholarining har qanday chiziqli birikmasi, xususan, koeffitsient baholarining o'zi minimal dispersiyaga ega), ya'ni chiziqli xolis baholar sinfida OLS baholari eng yaxshisidir. . Ushbu matritsaning diagonal elementlari, koeffitsient baholarining dispersiyalari olingan baholarning sifati uchun muhim parametrlardir. Biroq, kovariatsiya matritsasi hisoblab bo'lmaydi, chunki tasodifiy xato dispersiyasi noma'lum. Tasodifiy xatolar dispersiyasining xolis va izchil (klassik chiziqli model uchun) bahosi quyidagi qiymat ekanligini isbotlash mumkin:

Shuni ta'kidlash kerakki, agar klassik taxminlar bajarilmasa, eng kichik kvadratlar parametrlarini baholash eng samarali hisoblar emas (xolis va izchil bo'lib qoladi). Biroq, kovariatsiya matritsasi bahosi yanada yomonlashadi: u noxolis va nomuvofiq bo'ladi. Bu shuni anglatadiki, bu holda tuzilgan modelning sifati haqidagi statistik xulosalar juda ishonchsiz bo'lishi mumkin. Ushbu muammoni hal qilishning usullaridan biri klassik taxminlar buzilgan taqdirda (Oq shakldagi standart xatolar va Nyuey-Vest shaklidagi standart xatolar) mos keladigan kovariatsiya matritsasining maxsus baholaridan foydalanishdir.