Klasični linearni regresioni model

Транскрипт

1 Klasč lear regreso model (KLRM) - jedostav - Zorca Mladeovć Ključe teme Postavka pretpostavke KLRM Svojstva ocea parametara u KLRM Elemet statstčkog zaključvaja u KLRM Predvđaje u KLRM Ekoomsk fakultet, Beograd, 9.

2 Postavka pretpostavke KLRM 3 Formulacja pretpostavke klasčog learog regresoog modela Posmatramo populacou regresou pravu: Y + + e,,,..., Zavsost je leara po postavc modela. Zavsa velča Y predstavljea je zrom: Sstematske kompoete, + Slučaje kompoete, e Nvo Y dekompouje se a determstčk stohastčk deo. 4 Ekoomsk fakultet, Beograd, 9.

3 Formulacja pretpostavke klasčog learog regresoog modela (II) Kako Y zavs od slučaje greške potreo je defsat pretpostavke kojma se opsuju svojstva slučaje greške e. Uvod se ukupo 5 pretpostavk. Počet model zajedo sa pretpostavkama č klasč lear regreso model Često se dodaje prdev jedostav, jer je polaz model jedostav regreso model. 5 Pretpostavke jedostavog KLRM (I) Red roj pretpostavke.. 3. Formulacja Očekvaa vredost slučaje greške je ula Slučaje greške su homoskedastče, odoso poseduju stu varjasu Slučaje greške su međusoo ekorelsae Zaps E( e ) v( e ) E( e ) cov( e, e ) E( e e ). za svako za svako za svako, j koj su razlčt. j j 6 Ekoomsk fakultet, Beograd, 9. 3

4 Pretpostavke jedostavog KLRM (II) Red roj pretpostavke Formulacja Slučaja greška ma ormalu raspodelu Ojašjavajuća promeljva je slučaja promeljva, već poseduje determstčku prrodu Zaps : N(, ) e cov(, e ) za svako za svako 7 Detaljje o svakoj od pretpostavk KLRM Smsao mplkacje pretpostavke. Šta ako je pretpostavka arušea? 8 Ekoomsk fakultet, Beograd, 9. 4

5 Pretpostavka : Očekvaa vredost slučaje greške je ula Implkacja: U proseku slučaja greška e utče a vo zavse promeljve E ( e ) E( Y ) + Ako je pretpostavka arušea: Meja se počet smsao sloodog člaa: E( e ) k cost. e k + u Y Y + + e ( + k) + + u sl.cla 9 Pretpostavka : Varjasa slučaje greške je stala Slučaje greške su homoskedastče Implkacje:. Svaka slučaja greška ma stu varjasu ezavso od vredost ojašjavajuće promeljve: v( e ) v( e )... v( e ) cost.. Varjasa zavse promeljve odgovara varjas slučaje greške v( e ) v( Y ) E Y E( Y ) E e ( ) ( ). Ekoomsk fakultet, Beograd, 9. 5

6 Pretpostavka : Varjasa slučaje greške je stala Slučaje greške su homoskedastče Ako je pretpostavka arušea: Varjase slučajh grešk razlkuju se po pojedm opservacjama: v( e ) v( e ) v( e ) Slučaje greške su heteroskedastče Heteroskedastčost se često javlja u podacma preseka.... Pretpostavka : Lev grafk: homoskedastčost Des grafk: heteroskedastčost Ekoomsk fakultet, Beograd, 9. 6

7 Pretpostavka 3: Slučaje greške su međusoo ekorelsae Odsustvo autokorelacje Implkacje: Slučaje greške su ekorelsae Cov (e, e j ) za j Nema pravlost u korelacooj struktur slučajh grešk Pretpostavka se vezuje za podatke vremeskh serja. Elemet za slučajh grešaka su uređe u odosu a vreme: Cov (e t, e t-j ) za j,,... Medjusoa povezaost se opsuje termom autokorelacja. Po ovoj pretpostavc autokorelacja je ula. 3 Pretpostavka 3: Slučaje greške su međusoo ekorelsae Odsustvo autokorelacje Ako je pretpostavka arušea: Postoj autokorelacja Slučaje greške su korelsae Cov (e, e j ) za j slede prepozatljv orazac u kretaju U podacma vremeskh serja: Slučaje greške koje su uređee tokom vremea su korelsae Uočajea ozaka: Cov (e t, e t-j ) za j,,... 4 Ekoomsk fakultet, Beograd, 9. 7

8 Pretpostavka 3 (Odsustvo autokorelacje, poztva egatva autokorelacja) 5 Pretpostavka 4: Slučaja greška poseduje ormalu raspodelu Implkacje:. Slučaja greška ouhvata utcaj velkog roja međusoo ezavsh epredvdljvh utcaja.. Cetrala grača teorema: zr velkog roja takvh člaca aproksmra se ormalom raspodelom 3. Parametr ormale raspodele: Sredja vredost je ula (. pretpostavka) Varjasa je (. pretpostavka) Zaps: e : N, ( ) 6 Ekoomsk fakultet, Beograd, 9. 8

9 Pretpostavka 4: Slučaja greška poseduje ormalu raspodelu Implkacje: Zavsa promeljva takodje poseduje ormalu raspodelu Parametr ormale raspodele Y Sredja vredost je + Varjasa je E( e ) E(Y ) E( + + e ) +. v( e ) e : N(, ) Y v(y ) E Y : N( +, ). ( E( Y )) v(y ) E( + + e ) E( e ). 7 Pretpostavke.,. 4. Grafčk prkaz 8 Ekoomsk fakultet, Beograd, 9. 9

10 Pretpostavka 4: Slučaja greška poseduje ormalu raspodelu Ako je pretpostavka arušea: Slučaja greška ema ormalu raspodelu. To je ajčešće posledca pogreše postavke modela. O tome kasje. 9 Pretpostavka 5: Ojašjavajuća promeljva je determstčka Implkacje: Ojašjavajuća promeljva ma karakter egzogee velče. Ta velča je defsaa uutar ekoomskog segmeta kojem prpada zavsa promeljva. Ojašjavajuća promeljva je korelsaa sa slučajom greškom. Ako je pretpostavka arušea: Ojašjavajuća promeljva je slučaja promeljva korelsaa je sa slučajom greškom Defsaa je uutar sstema: edogea velča, kao zavsa, jer je pod utcajem ste slučaje greške. Meja se smsao ocee aga. Ekoomsk fakultet, Beograd, 9.

11 Ekoomsk fakultet, Beograd, 9. Implkacja avedeh pretpostavk a ocee parametara po metodu ONK Ocea je leara fukcja slučaje promeljve Y Posledce: Ocea je slučaja promeljva Ocea ma ormalu raspodelu. ( )( ) ( ) ( ) ( ) ( ) ( ) + x x w, w Y Y Y Y ),, N( : ),Y, N( : e Svojstva ocea dojeh prmeom metoda ONK u KLRM Karakterstke ocea parametara Kako se mer varjasa ocea parametara?

12 Svojstva ocea koje su dojee prmeom metoda ONK Ako su zadovoljee pretpostavke KLRM tada se prmeom metoda ONK dojaju - ajolje - leare - eprstrase ocee (NLNO) koje su - kozstete. Bt dokaz se zvode a tal. 3 Kako mermo preczost ocea? Svak drug uzorak daje ove ocee parametara. Ako se sa promeom uzorka ocee malo razlkuju, oda oe maju malu varjasu orato. Preczost ocee se mer a osovu ocee varjase ocea. Kvadrat kore z ocee varjase je stadarda greška ocee. Da se zračuale stadarde greške ocea potreo je prethodo ocet varjaltet slučaje greške modela. U ptaju je ocea parametra. 4 Ekoomsk fakultet, Beograd, 9.

13 Ocea varjase slučaje greške modela Varjasa slučaje greške e je: v(e ) E[(e )-E(e )] odoso: v(e ) E(e ) Ako slučaje greške le pozate tada oceu varjase dol a sledeć ač: s e Međutm, e zamo vredost e. Al, pozate su am vredost rezduala e : s e Ova ocea je prstrasa ocea parametra. 5 Ocea varjase slučaje greške modela (II) Neprstrasa ocea je: s e gde je rezduala suma kvadrata uzorka. e je om Kvadrat kore, s, je stadarda greška regresje, odoso stadarda devjacja rezduala. Sada možemo da aalzramo ocee varjas ocea parametara. Ozake za ocee varjas: s s 6 Ekoomsk fakultet, Beograd, 9. 3

14 Ocee varjas ocea parametara v( ) E ( E( ))... + ( ) v( ) E E( )... x x vˆ( ) s s + s s + x x s vˆ( ) s s s x x 7 Stadarde greške ocea parametara zavse od sledećh faktora:. Varjaltet modela (s l s). Što je već varjaltet modela, to je već stepe raspršeost slučaje greške modela, a tme već varjaltet zavse promeljve Y. Rezultat: eprecze ocee parametara.. Suma kvadrata odstupaja od artmetčke srede. U ptaju je mera varjalteta ojašjavajuće promeljve. Veća vredost ove sume utče a povećaje preczost ocea, odoso a pad jhovog varjalteta. 3. Om uzorka. Javlja se eksplcto u meocu formule za stadardu grešku sloodog člaa mplcto u meocu formule za oe ocee kroz zr kvadrata odstupaja od artmetčke srede. Već om uzorka pruža vše formacja. Tme se smajuje varjaltet ocea parametara. 4. Stadarda greška ocee sloodog člaa zavs od artmetčke srede podataka za. Podac su udaljej od y-ose što je vredost ove artmetčke srede veća. Rezultat: epreczja ocea sloodog člaa. 8 Ekoomsk fakultet, Beograd, 9. 4

15 Šta se dešava ako je suma relatvo velka? ( ) relatvo mala l Y Y Y Y 9 Prmer: zračuavaje odgovarajućh stadardh grešaka ocea u jedostavom modelu Prethodo je ocejea zavsost potrošje od dohotka z 5 goda: 5 x y x Y R e Ŷ y e y x (. 686) Ekoomsk fakultet, Beograd, 9. 5

16 Prmer: zračuavaje odgovarajućh stadardh grešaka ocea u jedostavom modelu (II) Ocea varjase slučaje greške modela: s e Ocea varjase ocee aga: s s s x Ocea varjase ocee sloodog člaa: 64.6 s s s x 3 Fal zaps modela Uočajeo se sv doje rezultat zapsuju a sledeć ač: Ŷ R. 93 ( ) (. 53) Ispod ocea parametara avode se redom odgovarajuće stadarde greške ocea. Deso od ocejeog modela daje se vredost koefcjeta determacje. Model je sprema za statstčku aalzu testraja hpoteza. 3 Ekoomsk fakultet, Beograd, 9. 6

17 Elemet statstčkog zaključvaja u KLRM 33 Statstčko zaključvaje u KLRM Testraje hpoteza o vredostma parametara KLRM Formraje tervalh ocea parametara KLRM Progozraje udućh vredost zavse promeljve 34 Ekoomsk fakultet, Beograd, 9. 7

18 Testraje hpoteze: osov elemet Iteresuje as da l parametar aga uzma tačo određeu vredost. Postavljamo dve hpoteze: ultu (ozaka H ) alteratvu hpotezu (ozaka H ). Nulta hpoteza je skaz čju valjaost sptujemo, odoso testramo. Alteratva hpoteza ouhvata sva alteratva tvrđeja. Na prmer, teresuje as da l se zavsa promeljva meja u stom omu kao ojašjavajuća, odoso da l je jedako. Korstmo sledeću otacju: H : H : 35 Kako ostvart dskrmacju zmeđu hpoteza? Raspodela verovatoće ocea dojeh metodom ONK Ocee koje su dojee prmeom metoda ONK su same ormalo raspodeljee: e : N(, Y : N( +, ) : N(,v( )) ) : N(,v( )) 36 Ekoomsk fakultet, Beograd, 9. 8

19 Raspodela verovatoće ocea dojeh metodom ONK (II) Stadardzovajem slučajh promeljvh dojamo: v ( ) : N (, ) v ( ) : N(, ) Međutm, varjase ocea v( ) v() su su epozate velče. Ako h zamemo odgovarajućm oceama, tada dojamo slučaje promeljve sa t-raspodelom (zvod se a tal) : t : t s s 37 Testraje hpoteza: algortam Posmatramo model olka: Y + + e,,,..., Testramo valdost hpoteze: H : * protv H : * Korac u postupku testraja:. Ocejujemo:,, s( ) s() a pozat ač.. Račuamo test-statstku korsteć sledeću formulu: * t : t s( ) gde je * vredost u uslovma važeja ulte hpoteze. 38 Ekoomsk fakultet, Beograd, 9. 9

20 Testraje hpoteza: algortam (II) 3. Sastav deo testraja hpoteze je zor voa začajost, koj se često ozačava sa. To je verovatoća odacvaja ulte hpoteze u stuacj kada je oa tača. Uočajeo se korst vo začajost 5%. Nvo začajost određuje velču olast prhvataja, odoso eprhvataja valdost ulte hpoteze. Olast odacvaja ulte hpoteze je krtča olast testa. 39 Testraje hpoteza: algortam (III) 4. Defšemo pravlo odlučvaja: krterjum po kojem odacujemo ultu hpotezu. * * Ho : * : t P t ( / ) t ( / ) s s *.5, P t (.5) t (.5).95. s f(x).5% Krtca olast 95% Olast prhvataja Ho.5% Krtca olast 4 Ekoomsk fakultet, Beograd, 9.

21 Testraje hpoteza: algortam (IV) * s H ( t (.5)) prhvatamo kao tacu hpotezu * s H ( t (.5)) odacujemo kao etacu hpotezu uz vo zacajost 5% Alteratva otacja H * t s (.5) odacujemo kao etacu uz vo zacajost 5% 4 Testraje hpoteza: algortam (V) 5. Sprovodmo testraje: Ako zračuata test-statstka lež u olast prhvataja ulte hpoteze, tada se ulta hpoteza e odacuje. Orato, ako zračuata test-statstka prpada krtčoj olast testa, tada ultu hpotezu odacujemo za dat vo začajost. 4 Ekoomsk fakultet, Beograd, 9.

22 Prmer testraja hpoteza Podsećamo a oceu modela: Ŷ R. 93 ( ) (. 53) Testramo valjaost ulte hpoteze H : protv alteratve H :. Potrea am je krtča vredost t raspodele za 5-3 stepe sloode vo začajost 5%. Buduć da je test dvostra da je ukupa velča krtče olast 5%, korstmo sledeću otacju: t 3 (.5) l t 3 (.5%) Talce: t 3 (.5).6 43 Određvaje krtče olast testa f(x).5% krtca olast.5% krtca olast Ekoomsk fakultet, Beograd, 9.

23 Hpoteze: H : H : Testraje hpoteze Izračuata test-statstka: *.686 t 5.9 s.53 Kako je odacujemo hpotezu H a datom vou začajost. Ne možemo smatrat da je margala skloost a potrošj jedaka vredost jeda. 45 Testraje drugh hpoteza Može as teresovat sledeće: H : l H :. H : H : H : H : 46 Ekoomsk fakultet, Beograd, 9. 3

24 Specjal tp hpoteze: t-odos Opšt olk testa koj smo korstl je: * t s Pretpostavmo da as teresuje H : protv H :. Ako je tača ulta hpoteza, tada ojašjavajuća promeljva e utče a kretaje zavse promeljve. Tme proveravamo opravdaost postavke modela. 47 Specjal tp hpoteze: t-odos (II) Test-statstka se azva t-odos, zato što za test-statstka postaje odos ocee odgovarajuće stadarde greške ocee: t s s.686 t.94, H : prhvata se kao taco. Zaključak: dohodak () ostvaruje statstčk začaja utcaj a potrošju (Y). 48 Ekoomsk fakultet, Beograd, 9. 4

25 Specjal tp hpoteze: t-odos (III) Opravdaost prsustva sloodog člaa proverava se prema shodu testraja sledećh hpoteza: H : protv H : t s 8.7 t.33, H : prhvata se kao taco. Zaključak: u ocejeom modelu potreo je uključt slooda čla. 49 Prmer prmee testraja hpoteza Prethod rezultat: Na osovu mesečh podataka u perodu: jauar 998- decemar 8. goda (3 podatka) oceje je model vredovaja kaptala za stopu prosa akcja kompaje Mcrosoft: ( ) R R.+.6 R R + e, R.33 j f m f Da l je rzk posedovaja ovh akcja jedak opštem tržšom rzku? Da l je ocea sloodog člaa očekvaa? Ekoomsk fakultet, Beograd, 9. 5

26 Prmer prmee testraja hpoteza (II) Dodat rezultat sadrž stadarde greške ocea: (.9 ) (.6) ( ) R R R R e j f. +.6 m f +, R.33 Da l je rzk posedovaja ovh akcja jedak opštem tržšom rzku? Odgovor: da, prema rezultatma testraja. H : β, H : β.6 t.65 s.6 t3 N(,) t3(.5).96 H : β se e odacuje Prmer prmee testraja hpoteza (III) Dodat rezultat: (.9 ) (.6) ( ) R R R R e j f. +.6 m f +, R.33 Da l je slooda čla statstčk začaja? Odgovor: e, prema rezultatma testraja. H : β, H : β. t. s.9 H : β se e odacuje. t3 N(,) t3 (.5).96 Ekoomsk fakultet, Beograd, 9. 6

27 Formraje tervalh ocea parametara Ocee parametara mogu t tačkaste tervale. Do sada smo razmatral samo tačkastu oceu. Itervala ocea parametra predstavlja grace tervala uutar koga očekujemo stvaru vredost parametra uz određeu verovatoću. Korstmo pozat rezultat: P t ( / ) t ( / ) s.5, P t (.5) t (.5).95. s Formraje tervalh ocea parametara (II) Dvoju ejedakost rešavamo u fukcj od epozatog parametra: ( ).5, P t (.5) s + t (.5) s.95. Itervala ocea parametra aga sa verovatoćom 95%: ( t s ) (.5) Itervala ocea parametra sloodog člaa sa verovatoćom 95%: (.5) t s ( ) Ekoomsk fakultet, Beograd, 9. 7

28 Prmer orazovaja tervalh ocea epozath parametara Rezultat prethodog ocejvaja: Ŷ ( ) (. 53) Itervala ocea za Tačkasta ocea Stad. greš. ocee t-krt. Izračuavaje tervale ocee Itervala ocea uz verovatoću 95% Beta ( ) ( ) , Beta ( ) (. 59, 555. ) Ekoomsk fakultet, Beograd, 9. 8