Ekonometrik modellarni aniqlashda «eng kichik kvadratlar usuli» da foydalanish uslubiyati

umumlashtirilgan OLS (OMNK, GLS - Umumlashtirilgan eng kichik kvadratlar)- Tasodifiy xatolarning teskari kovariatsiya matritsasiga teng vazn matritsasi bilan LS-usuli: .
Chiziqli model parametrlarining GLS-baholash formulasi shaklga ega ekanligini ko'rsatish mumkin
Bu baholarning kovariatsiya matritsasi mos ravishda teng bo'ladi
Aslida, OLSning mohiyati dastlabki ma'lumotlarning ma'lum (chiziqli) transformatsiyasida (P) va o'zgartirilgan ma'lumotlarga odatiy eng kichik kvadratlarni qo'llashda yotadi. Ushbu transformatsiyaning maqsadi shundaki, o'zgartirilgan ma'lumotlar uchun tasodifiy xatolar allaqachon klassik taxminlarni qondiradi.
Og'irlangan eng kichik kvadratlar
Diagonal og'irlik matritsasi (va shuning uchun tasodifiy xatolarning kovariatsiya matritsasi) bo'lsa, bizda eng kichik vaznli kvadratlar (WLS - Weighted Least Squares) deb ataladigan narsa bor. Bunda model qoldiqlari kvadratlarining vaznli yig'indisi minimallashtiriladi, ya'ni har bir kuzatish ushbu kuzatishdagi tasodifiy xatoning dispersiyasiga teskari proportsional "vazn" oladi: . Haqiqatan ham, ma'lumotlar kuzatuvlarni tortish (tasodifiy xatolarning taxmin qilingan standart og'ishiga proportsional miqdorga bo'linish) orqali o'zgartiriladi va vaznli ma'lumotlarga oddiy eng kichik kvadratlar qo'llaniladi.
LSMni amalda qo'llashning ba'zi maxsus holatlari
Chiziqli yaqinlashish
Muayyan skalyar miqdorning ma'lum bir skalyar miqdorga bog'liqligini o'rganish natijasida (Bu, masalan, kuchlanishning oqim kuchiga bog'liqligi bo'lishi mumkin: , bu erda doimiy qiymat, o'tkazgichning qarshiligi. ), bu miqdorlar o'lchandi, buning natijasida qiymatlar va ularning tegishli qiymatlari olindi. O'lchov ma'lumotlari jadvalga yozilishi kerak.
Jadval. O'lchov natijalari.

O'lchov raqami
1
2
3
4
5
6

Savol shunday ko'rinadi: bog'liqlikni eng yaxshi tavsiflash uchun koeffitsientning qaysi qiymatini tanlash mumkin? Eng kichik kvadratlarga ko'ra, bu qiymat qiymatlardan qiymatlarning kvadratik og'ishlarining yig'indisi bo'lishi kerak.

minimal edi
Kvadrat og'ishlar yig'indisi bitta ekstremumga ega - minimal, bu bizga ushbu formuladan foydalanishga imkon beradi. Ushbu formuladan koeffitsient qiymatini topamiz. Buning uchun biz uning chap tomonini quyidagicha aylantiramiz:
Oxirgi formula bizga koeffitsientning qiymatini topishga imkon beradi , muammoda talab qilingan.
Tarix
XIX asr boshlarigacha. olimlar noma'lumlar soni tenglamalar sonidan kam bo'lgan tenglamalar tizimini echishning ma'lum qoidalariga ega emas edilar; Shu vaqtgacha, tenglamalar turiga va kalkulyatorlarning zukkoligiga qarab alohida usullar qo'llanilgan va shuning uchun bir xil kuzatish ma'lumotlaridan boshlab turli xil kalkulyatorlar turli xil xulosalarga kelishgan. Usulning birinchi qo'llanilishi Gauss (1795) hisoblangan va Legendre (1805) uni mustaqil ravishda kashf etgan va zamonaviy nomi bilan nashr etgan (fr. Metode des moindres janjal ). Laplas usulni ehtimollar nazariyasi bilan bog'ladi va amerikalik matematik Adrain (1808) uning ehtimollik qo'llanilishini ko'rib chiqdi. Usul Encke, Bessel, Hansen va boshqalarning keyingi tadqiqotlari natijasida keng tarqalgan va takomillashtirilgan.
MMKlardan muqobil foydalanish
Eng kichik kvadratlar usuli g'oyasi regressiya tahlili bilan bevosita bog'liq bo'lmagan boshqa holatlarda ham qo'llanilishi mumkin. Gap shundaki, kvadratlar yig'indisi vektorlar uchun eng keng tarqalgan yaqinlik o'lchovlaridan biridir (cheklangan o'lchovli fazolarda Evklid metrikasi).
Ilovalardan biri - tenglamalar soni o'zgaruvchilar sonidan ko'p bo'lgan chiziqli tenglamalar tizimini "echish"
bu erda matritsa kvadrat emas, balki to'rtburchaklar.
Bunday tenglamalar tizimi, umumiy holatda, hech qanday yechimga ega emas (agar daraja haqiqatda o'zgaruvchilar sonidan katta bo'lsa). Shuning uchun, bu tizimni faqat vektorlar orasidagi "masofa" ni minimallashtirish uchun bunday vektorni tanlash ma'nosida "echilishi" mumkin. Buning uchun tizim tenglamalarining chap va o'ng qismlarining kvadratik ayirmalari yig'indisini minimallashtirish mezonini qo'llash mumkin, ya'ni . Ushbu minimallashtirish masalasini yechish quyidagi tenglamalar tizimini echishga olib kelishini ko'rsatish oson
Regressiya funktsiyasi turini tanlash, ya'ni. Y ning X ga (yoki X ning Y ga) bog'liqligi ko'rib chiqilayotgan modelning turi, masalan, chiziqli model y x = a + bx, model koeffitsientlarining o'ziga xos qiymatlarini aniqlash kerak.
a va b ning turli qiymatlari uchun yx = a + bx ko'rinishidagi cheksiz sonli bog'liqliklarni qurish mumkin, ya'ni koordinata tekisligida cheksiz sonli chiziqlar mavjud, ammo bizga shunday bog'liqlik kerakki kuzatilgan qiymatlarga eng yaxshi tarzda mos keladi. Shunday qilib, muammo eng yaxshi koeffitsientlarni tanlashga qisqartiriladi.
Biz faqat ma'lum miqdordagi kuzatuvlarga asoslangan chiziqli a + bx funksiyasini qidiramiz. Kuzatilgan qiymatlarga eng mos keladigan funksiyani topish uchun biz eng kichik kvadratlar usulidan foydalanamiz. Belgilang: Y i - Y i =a+bx i tenglama bilan hisoblangan qiymat. y i - o'lchangan qiymat, e i =y i -Y i - o'lchangan va hisoblangan qiymatlar orasidagi farq, e i =y i -a-bx i .Eng kichik kvadratlar usuli e i , o'lchangan y i va tenglamadan hisoblangan Y i qiymatlari o'rtasidagi farq minimal bo'lishini talab qiladi. Shuning uchun biz a va b koeffitsientlarini topamiz, shunda kuzatilgan qiymatlarning to'g'ri regressiya chizig'idagi qiymatlardan kvadrat og'ishlari yig'indisi eng kichik bo'ladi: a argumentlarining bu funksiyasini va ekstremum hosilalari yordamida tekshirib, agar a va b koeffitsientlari tizim yechimlari bo'lsa, funktsiya minimal qiymat olishini isbotlashimiz mumkin:
(2)
Agar normal tenglamalarning ikkala tomonini n ga bo'lsak, biz quyidagilarga erishamiz:

Sharti bilan; inobatga olgan holda (3) Oling , bu yerdan birinchi tenglamadagi a qiymatini almashtirib, biz quyidagilarni olamiz:

Bunda b regressiya koeffitsienti deyiladi; a regressiya tenglamasining erkin a'zosi deb ataladi va quyidagi formula bilan hisoblanadi:
Olingan to'g'ri chiziq nazariy regressiya chizig'i uchun taxmindir. Bizda ... bor:
Shunday qilib, chiziqli regressiya tenglamasidir.
Regressiya to'g'ridan-to'g'ri (b>0) va teskari bo'lishi mumkin (b 1-misol. X va Y qiymatlarini o'lchash natijalari jadvalda keltirilgan:

x i	-2	0	1	2	4
y i	0.5	1	1.5	2	3

X va Y y=a+bx o‘rtasida chiziqli bog‘lanish bor deb faraz qilib, a va b koeffitsientlarni eng kichik kvadratlar usuli yordamida aniqlang.

Yechim. Bu erda n = 5
x i =-2+0+1+2+4=5;
x i 2 =4+0+1+4+16=25
x i y i =-2 0,5+0 1+1 1,5+2 2+4 3=16,5
y i =0,5+1+1,5+2+3=8
va normal sistema (2) shaklga ega
Bu sistemani yechishda quyidagilarga erishamiz: b=0,425, a=1,175. Shuning uchun y=1,175+0,425x.
2-misol. Iqtisodiy ko'rsatkichlar (X) va (Y) bo'yicha 10 ta kuzatuv namunasi mavjud.

x i	180	172	173	169	175	170	179	170	167	174
y i	186	180	176	171	182	166	182	172	169	177

X da Y namunali regressiya tenglamasini topish talab qilinadi. X da Y namunaviy regressiya chizig'ini tuzing.

Yechim. 1. Keling, ma'lumotlarni x i va y i qiymatlari bo'yicha tartiblaymiz. Biz yangi jadvalni olamiz:

x i	167	169	170	170	172	173	174	175	179	180
y i	169	171	166	172	180	176	177	182	182	186

Hisob-kitoblarni soddalashtirish uchun biz kerakli raqamli qiymatlarni kiritadigan hisob-kitob jadvalini tuzamiz.

x i	y i	x i 2	x i y i
167	169	27889	28223
169	171	28561	28899
170	166	28900	28220
170	172	28900	29240
172	180	29584	30960
173	176	29929	30448
174	177	30276	30798
175	182	30625	31850
179	182	32041	32578
180	186	32400	33480
∑x i =1729	∑y i =1761	∑x i 2 299105	∑x i y i =304696
x=172,9	y=176,1	x i 2 =29910,5	xy=30469,6

Formula (4) bo'yicha biz regressiya koeffitsientini hisoblaymiz

va formula (5) bo'yicha
Shunday qilib, tanlanma regressiya tenglamasi y=-59,34+1,3804x ga o'xshaydi.
(x i ; y i) nuqtalarni koordinata tekisligida chizamiz va regressiya chizig‘ini belgilaymiz.

4-rasm
4-rasmda kuzatilgan qiymatlar regressiya chizig'iga nisbatan qanday joylashganligi ko'rsatilgan. Y i ning Y i dan og'ishlarini raqamli baholash uchun, bu erda y i kuzatilgan qiymatlar va Y i regressiya bilan aniqlangan qiymatlar, biz jadval tuzamiz:

x i	y i	Y i	Y i -y i
167	169	168.055	-0.945
169	171	170.778	-0.222
170	166	172.140	6.140
170	172	172.140	0.140
172	180	174.863	-5.137
173	176	176.225	0.225
174	177	177.587	0.587
175	182	178.949	-3.051
179	182	184.395	2.395
180	186	185.757	-0.243

Y i qiymatlari regressiya tenglamasi bo'yicha hisoblanadi.

Ba'zi kuzatilgan qiymatlarning regressiya chizig'idan sezilarli og'ishi kuzatuvlar sonining kamligi bilan izohlanadi. Y ning X ga chiziqli bog'liqlik darajasini o'rganishda kuzatishlar soni hisobga olinadi. Bog'liqlikning kuchi korrelyatsiya koeffitsientining qiymati bilan belgilanadi. U ko'plab ilovalarga ega, chunki u berilgan funktsiyani boshqa soddaroqlari tomonidan taxminiy ko'rsatishga imkon beradi. LSM kuzatishlarni qayta ishlashda juda foydali bo'lishi mumkin va u tasodifiy xatolarni o'z ichiga olgan boshqalarning o'lchovlari natijalaridan ba'zi miqdorlarni baholash uchun faol foydalaniladi. Ushbu maqolada siz Excelda eng kichik kvadratlarni hisoblashni qanday amalga oshirishni o'rganasiz.
Muammoning aniq misolda bayoni
Aytaylik, ikkita X va Y ko'rsatkichlari mavjud. Bundan tashqari, Y X ga bog'liq. OLS bizni regressiya tahlili nuqtai nazaridan qiziqtirganligi sababli (Excelda uning usullari o'rnatilgan funktsiyalar yordamida amalga oshiriladi), biz darhol davom etishimiz kerak. muayyan muammoni ko'rib chiqish. Shunday qilib, X kvadrat metrda o'lchanadigan oziq-ovqat do'konining sotiladigan maydoni bo'lsin va Y millionlab rubllarda aniqlangan yillik aylanmasi bo'lsin.
Agar u yoki bu chakana savdo maydonchasi mavjud bo'lsa, do'kon qanday aylanma (Y) bo'lishini prognoz qilish talab qilinadi. Shubhasiz, Y = f (X) funktsiyasi ortib bormoqda, chunki gipermarket stendga qaraganda ko'proq tovarlar sotadi.
Bashorat qilish uchun ishlatiladigan dastlabki ma'lumotlarning to'g'riligi haqida bir necha so'z
Aytaylik, bizda n doʻkon uchun maʼlumotlardan tuzilgan jadval mavjud. Matematik statistika ma'lumotlariga ko'ra, kamida 5-6 ob'ekt bo'yicha ma'lumotlar tekshirilsa, natijalar ozmi-ko'pmi to'g'ri bo'ladi. Bundan tashqari, "anomal" natijalardan foydalanish mumkin emas. Xususan, elita kichik butikning aylanmasi "masmarket" sinfidagi yirik savdo nuqtalarining aylanmasidan bir necha baravar ko'p bo'lishi mumkin.
Usulning mohiyati
Jadval ma'lumotlari Dekart tekisligida M 1 (x 1, y 1), ... M n (x n, y n) nuqtalari sifatida ko'rsatilishi mumkin. Endi masalaning yechimi M 1, M 2, .. M n nuqtalarga imkon qadar yaqin o‘tuvchi grafigi y = f (x) ga yaqinlashtiruvchi funksiyani tanlashga keltiriladi.
Albatta, siz yuqori darajadagi polinomdan foydalanishingiz mumkin, ammo bu variantni amalga oshirish nafaqat qiyin, balki shunchaki noto'g'ri, chunki u aniqlanishi kerak bo'lgan asosiy tendentsiyani aks ettirmaydi. Eng oqilona yechim - eksperimental ma'lumotlarga eng yaxshi yaqinlashadigan y = ax + b to'g'ri chiziqni izlash va aniqrog'i, koeffitsientlar - a va b.
Aniqlik balli
Har qanday yaqinlashtirish uchun uning to'g'riligini baholash alohida ahamiyatga ega. X i nuqtasi uchun funktsional va eksperimental qiymatlar o'rtasidagi farqni (og'ish) e i bilan belgilang, ya'ni e i = y i - f (x i).
Shubhasiz, yaqinlashishning to'g'riligini baholash uchun siz og'ishlar yig'indisidan foydalanishingiz mumkin, ya'ni X ning Y ga bog'liqligini taxminiy tasvirlash uchun to'g'ri chiziqni tanlashda eng kichik qiymatga ega bo'lganiga ustunlik berish kerak. ko'rib chiqilayotgan barcha nuqtalarda ei summasi. Biroq, hamma narsa juda oddiy emas, chunki ijobiy og'ishlar bilan bir qatorda, amalda salbiy bo'ladi.
Muammoni og'ish modullari yoki ularning kvadratlari yordamida hal qilishingiz mumkin. Oxirgi usul eng ko'p qo'llaniladi. U ko'plab sohalarda, jumladan, regressiya tahlilida qo'llaniladi (Excelda uni amalga oshirish ikkita o'rnatilgan funksiya yordamida amalga oshiriladi) va samarali ekanligi uzoq vaqtdan beri isbotlangan.
Eng kichik kvadrat usuli
Ma'lumki, Excel-da tanlangan diapazonda joylashgan barcha qiymatlarning qiymatlarini hisoblash imkonini beruvchi o'rnatilgan autosum funksiyasi mavjud. Shunday qilib, hech narsa bizga ifoda qiymatini hisoblashimizga to'sqinlik qilmaydi (e 1 2 + e 2 2 + e 3 2 + ... e n 2).
Matematik belgilarda bu quyidagicha ko'rinadi:

Qaror dastlab to'g'ri chiziq yordamida taxminan qabul qilinganligi sababli, bizda:

Shunday qilib, X va Y o'rtasidagi o'ziga xos munosabatni eng yaxshi tavsiflovchi to'g'ri chiziqni topish vazifasi ikkita o'zgaruvchining funktsiyasining minimalini hisoblashdan iborat:

Buning uchun yangi a va b oʻzgaruvchilarga nisbatan nolga teng qisman hosilalarni tenglashtirish va 2 ta nomaʼlum shaklga ega ikkita tenglamadan iborat ibtidoiy tizimni yechish kerak:

Oddiy o'zgarishlardan so'ng, jumladan 2 ga bo'lish va yig'indilarni manipulyatsiya qilish orqali biz quyidagilarni olamiz:

Uni hal qilish, masalan, Kramer usuli bilan, biz ma'lum koeffitsientlarga ega bo'lgan statsionar nuqtani olamiz a * va b * . Bu minimal, ya'ni ma'lum bir hudud uchun do'kon qanday aylanmaga ega bo'lishini taxmin qilish uchun y = a * x + b * to'g'ri chiziq mos keladi, bu ko'rib chiqilayotgan misol uchun regressiya modelidir. Albatta, bu sizga aniq natijani topishga imkon bermaydi, lekin ma'lum bir hudud uchun do'konni kreditga sotib olish o'z samarasini beradimi yoki yo'qmi, degan fikrni olishga yordam beradi.

Excelda eng kichik kvadratlar usulini qanday amalga oshirish kerak
Excelda eng kichik kvadratlar qiymatini hisoblash funksiyasi mavjud. U quyidagi shaklga ega: TREND (ma'lum Y qiymatlari; ma'lum X qiymatlari; yangi X qiymatlari; doimiy). Excelda OLSni hisoblash formulasini jadvalimizga qo'llaymiz.
Buning uchun Excelda eng kichik kvadratlar usuli yordamida hisoblash natijasi ko'rsatilishi kerak bo'lgan katakka “=” belgisini kiriting va “TREND” funksiyasini tanlang. Ochilgan oynada tegishli maydonlarni to'ldiring, ta'kidlang:

• Y uchun ma'lum qiymatlar diapazoni (bu holda aylanma ma'lumotlari);

  
  

• diapazon x 1 , …x n , ya'ni chakana savdo maydonining o'lchami;

  
  

• va x ning ma'lum va noma'lum qiymatlari, buning uchun siz aylanma hajmini bilib olishingiz kerak (ularning ish varag'idagi joylashuvi haqida ma'lumot olish uchun pastga qarang).

  
  

Bundan tashqari, formulada "Const" mantiqiy o'zgaruvchisi mavjud. Agar siz unga mos keladigan maydonga 1 ni kiritsangiz, bu b \u003d 0 deb hisoblab, hisob-kitoblarni amalga oshirish kerakligini anglatadi.

Agar siz bir nechta x qiymatlari uchun prognozni bilishingiz kerak bo'lsa, formulani kiritgandan so'ng, siz "Enter" tugmachasini bosmasligingiz kerak, lekin "Shift" + "Control" + "Enter" ("Enter") kombinatsiyasini kiritishingiz kerak. ) klaviaturada.
Ba'zi xususiyatlar
Regressiya tahlili hatto qo'g'irchoqlar uchun ham mavjud. Noma'lum o'zgaruvchilar massivining qiymatini bashorat qilish uchun Excel formulasi - "TREND" - hatto eng kichik kvadratlar usuli haqida hech qachon eshitmaganlar ham foydalanishlari mumkin. Uning ishining ba'zi xususiyatlarini bilish kifoya. Ayniqsa:

• Agar siz y o'zgaruvchisining ma'lum qiymatlari oralig'ini bitta satr yoki ustunga joylashtirsangiz, u holda ma'lum x qiymatlari bo'lgan har bir satr (ustun) dastur tomonidan alohida o'zgaruvchi sifatida qabul qilinadi.

  
  

• Agar TREND oynasida ma'lum bo'lgan x diapazoni ko'rsatilmagan bo'lsa, u holda Excelda funktsiyadan foydalanilganda, dastur uni butun sonlardan tashkil topgan massiv sifatida ko'rib chiqadi, ularning soni berilgan qiymatlarga ega diapazonga mos keladi. y o'zgaruvchisidan.

  
  

• “Prognoz qilingan” qiymatlar massivini chiqarish uchun trend ifodasi massiv formulasi sifatida kiritilishi kerak.

  
  

• Agar yangi x qiymatlari belgilanmagan bo'lsa, TREND funktsiyasi ularni ma'lum bo'lganlarga teng deb hisoblaydi. Agar ular ko'rsatilmagan bo'lsa, u holda argument sifatida 1-massiv olinadi; 2; 3; 4;…, bu allaqachon berilgan y parametrlari bilan diapazonga mos keladi.

  
  

• Yangi x qiymatlarini o'z ichiga olgan diapazon berilgan y qiymatlari bilan bir xil yoki ko'proq qator yoki ustunlarga ega bo'lishi kerak. Boshqacha qilib aytganda, u mustaqil o'zgaruvchilarga mutanosib bo'lishi kerak.

  
  

• X qiymatlari ma'lum bo'lgan massiv bir nechta o'zgaruvchilarni o'z ichiga olishi mumkin. Ammo, agar biz faqat bittasi haqida gapiradigan bo'lsak, unda x va y ning berilgan qiymatlari bilan diapazonlar mutanosib bo'lishi talab qilinadi. Bir nechta o'zgaruvchilar bo'lsa, berilgan y qiymatlari bo'lgan diapazon bitta ustun yoki bitta qatorga to'g'ri kelishi kerak.

  
  

http://fayllar.org