REC 2301 Econometria I 1. Modelo multivariado Elementos de álgebra matricial • Notação: • vetor: sempre coluna, letra romana minúscula negrito • Matriz: Letra maiúscula • Escalar: sem negrito. Parâmetros são letras gregas e variáveis são romanas ๐ฃ1 ๐๐ = โฎ ๐ฃ๐ ๐11 โฎ ๐ด๐๐ฅ๐ = ๐๐๐ฅ1 … ๐1๐ฅ๐ โฑ โฎ … ๐๐๐ฅ๐ Elementos de álgebra matricial • Soma/subtração: termo a termo, apenas objetos de dimensão idêntica podem ser somados e subtraídos. ๐ โ ๐ = โฏ ๐ค1 ๐ฃ1 ๐ฃ1 + ๐ค1 โฎ + โฎ = โฎ ๐ฃ๐ ๐ค๐ ๐ฃ๐ + ๐ค๐ ๐ค1 ๐ฃ1 ๐ฃ1 − ๐ค1 โฎ − โฎ = โฎ ๐ฃ๐ ๐ค๐ ๐ฃ๐ − ๐ค๐ Elementos de álgebra matricial • Transposição: troca dos termos de um objeto matricial entre linhas e colunas. Se M’ (ou MT) é o transposto de M, então m’qp = mpq, ou seja: ๐11 โฎ ๐ด๐๐ฅ๐ = ๐๐๐ฅ1 … ๐1๐ฅ๐ ๐11 โฎ โฑ โฎ โน ๐ด′๐๐ฅ๐ = ๐1๐ฅ๐ … ๐๐๐ฅ๐ … ๐๐๐ฅ1 โฑ โฎ … ๐๐๐ฅ๐ Elementos de álgebra matricial • Produto interno. Sejam os vetores vP e wP. Então ๐′ ๐ = ๐๐ ๐ = ๐^ ๐ = ๐ฃ1 … ๐ฃ๐ ๐ ๐ค1 โฎ = ๐ฃ1 ๐ค1 + โฏ + ๐ฃ๐ ๐ค๐ = เท ๐ฃ๐ ๐ค๐ ๐ค๐ ๐=1 1 ๐ 2 ′ σ Obs:๐′ ๐ = σ๐ท ๐ฃ . Além disso, para ๐พ = , ๐ ๐พ = โฎ ๐=1 ๐ฃ๐ ๐=๐ ๐ 1 Elementos de álgebra matricial • Multiplicação matricial. Sejam as matrizes MPxQ e NQxR. Então ๐11 โฎ ๐จ๐๐ฅ๐ = ๐ด๐๐ฅ๐ ๐ต๐๐ฅ๐ = ๐๐๐ฅ1 ๐1 ′๐๐ โฎ ๐๐ท ′๐๐ … ๐1๐ฅ๐ โฑ โฎ … ๐๐๐ฅ๐ … ๐๐ ′๐๐น โฑ โฎ … ๐๐ท ′๐๐น ๐11 โฎ ๐๐๐ฅ1 … ๐1๐ฅ๐ โฑ โฎ … ๐๐๐ฅ๐ Elementos de álgebra matricial • Multiplicação matricial. Sejam as matrizes MPxQ e NQxR. Então ๐11 โฎ ๐จ๐๐ฅ๐ = ๐ด๐ต = ๐๐๐ฅ1 ๐1 ′๐1 โฎ ๐๐ ′๐1 … ๐1๐ฅ๐ โฑ โฎ … ๐๐๐ฅ๐ ๐11 โฎ ๐๐๐ฅ1 … ๐1 ′๐๐ โฑ โฎ … ๐๐ ′๐๐ … ๐1๐ฅ๐ โฑ โฎ … ๐๐๐ฅ๐ Elementos de álgebra matricial • Multiplicação matricial. Sejam as matrizes MPxQ e NQxR. Então ๐11 โฎ ๐จ๐๐ฅ๐ = ๐ด๐ต = ๐๐๐ฅ1 ๐1 ′๐1 โฎ ๐๐ ′๐1 … ๐1๐ฅ๐ โฑ โฎ … ๐๐๐ฅ๐ ๐11 โฎ ๐๐๐ฅ1 … ๐1 ′๐๐ โฑ โฎ … ๐๐ ′๐๐ … ๐1๐ฅ๐ โฑ โฎ … ๐๐๐ฅ๐ Elementos de álgebra matricial • Multiplicação matricial. Sejam as matrizes MPxQ e NQxR. Então ๐11 โฎ ๐จ๐๐ฅ๐ = ๐ด๐ต = ๐๐๐ฅ1 ๐1 ′๐1 โฎ ๐๐ ′๐1 … ๐1๐ฅ๐ โฑ โฎ … ๐๐๐ฅ๐ ๐11 โฎ ๐๐๐ฅ1 … ๐1 ′๐๐ โฑ โฎ … ๐๐ ′๐๐ … ๐1๐ฅ๐ โฑ โฎ … ๐๐๐ฅ๐ Elementos de álgebra matricial • Para adição, vale propriedade comutativa: M + N = N + M • Para multiplicação, NÃO vale propriedade comutativa: MN ≠ NM • Vale propriedade distributiva: A(B + C) = AB + AC Elementos de álgebra matricial • Matriz identidade 1 0 0 ๐ฐ3๐ฅ3 = 0 1 0 0 0 1 1 … 0 ๐ฐ๐๐ฅ๐ = โฎ โฑ โฎ 0 … 1 • Elemento Nêutro: MPxQIQxQ = M e IPxPMPxQ = M Elementos de álgebra matricial • Inversão (apenas para matrizes quadradas) ๐11 โฎ • Seja ๐ด๐๐ฅ๐ = ๐๐๐ฅ1 … ๐1๐ฅ๐ โฑ โฎ . … ๐๐๐ฅ๐ −1 • Então, caso exista ๐ด๐๐ฅ๐ tal que ๐ด−1 ๐ด = ๐ฐ, então ๐ด−1 é dita matriz inversa de M. • A inversa existe se e somente se a matriz M for não-singular, ou seja, se suas colunas forem linearmente independentes (não houver coeficientes a1,...,aP-1 tais que ๐1๐ โฎ = ๐๐ = เท ๐ ๐ ๐๐ ๐๐๐ ๐≠๐ Elementos de álgebra matricial • Regra da transposição: ๐จ๐ฉ ′ = ๐ฉ′๐จ′ • Regra da inversão: ๐จ๐ฉ −1 = ๐ฉ−1 ๐จ−1 , caso estas inversas existam. • Determinante: produto dos autovalores • Autovalor: Seja APxP uma matriz quadrada. Autovalores são constantes λ que satisfazem Av = λv, para vetores v não-nulos (chamados de autovetores). Em uma matriz não-singular, há P autovalores (e autovetores), e os autovetores são ortogonais (isto é, para dois autovetores v1 e v2, v1’v2 = 0) Elementos de álgebra matricial • Representação de sistemas lineares. ๐11 ๐ฅ1 + โฏ + ๐1๐ ๐ฅ๐ = ๐1 โฎ • Considere o sistema de equações: แ ๐๐1 ๐ฅ1 + โฏ + ๐๐๐ ๐ฅ๐ = ๐๐ • Verifique que este sistema pode ser representado pela equação matricial Ax = c, onde ๐11 ๐จ= โฎ ๐๐1 … ๐1๐ ๐1 ๐ฅ1 โฑ โฎ ;๐ = โฎ ;๐ ๐ = โฎ … ๐๐๐ ๐๐ ๐ฅ๐ MQO • Estudamos até agora o modelo y = a + bx + ε. No último exemplo: • No Brasil, brancos recebem cerca de 45% a mais do que negros. Será que isto é evidência de racismo? • MQO: ln(y) = a + bR + ε. • A questão é saber se neste caso ๐เท = ln(๐ค)๐ต − ln(๐ค)๐ é não viesado. O que compõe ε? Será que estes componentes são não-correlacionados com R? No Brasil, educação é correlacionado com raça. Pode ser que a diferença salarial se deva à diferença educacional, não à raça propriamente. • Mais gente se convenceria de que há discriminação se garantíssemos que há diferença salarial por raça mesmo quando se comparam trabalhadores com mesmo nível educacional. Como fazer (apenas por curiosidade, esta comparação mostra que ainda restam 31% de diferença salarial quando se faz este procedimento)? MQO • Como incorporar uma segunda variável no modelo? Vamos nos fixar no método dos momentos. • Antes, tínhamos o modelo y = a + bx + ε, e precisávamos de duas condições de momento (cov (x,ε) = 0 e E(ε) = 0) para estimar dois parâmetros (a,b). • Agora, nosso modelo passa a ser y =b0 + b1x1 + b2x2 + ε. Precisamos de três momentos para resolver nosso problema. MQO • Lembrando da implementação da estratégia de MM: • Y = a + bx + ε; cov(ε,x) = 0 E(ε) = 0 • Cov(ε,x) = E(xε) - E(x)E(ε) = E(xε) (se E(ε) = 0) • Vamos portanto usar E(ε) = 0 e E(xε) = 0 para derivar MQO e depois generalizar o argumento. MQO • Na população: y = a + bx + ε; E(xε) = 0 E(ε) = 0 เท • Na amostra, e para um determinado par de estimadores, (๐, เท ๐): เท ๐ฦธ = ๐ฆ − ๐เท − ๐๐ฅ • Análogos amostrais: ๐ 1 เท ๐๐ฦธ = 0 ๐ ๐=1 ๐ 1 เท ๐ฅ๐ ๐๐ฦธ = 0 ๐ ๐=1 MQO • Na população: y = a + bx + ε; E(xε) = 0 E(ε) = 0 เท • Na amostra, e para um determinado par de estimadores, (๐, เท ๐): เท ๐ฦธ = ๐ฆ − ๐เท − ๐๐ฅ • Análogos amostrais: ๐ 1 เท ๐ฆ๐ − ๐เท − ๐เท ๐ฅ๐ = 0 → ๐เท = ๐ฆเดค − ๐เท ๐ฅาง ๐ ๐=1 ๐ 1 เท ๐ฅ๐ ๐ฆ๐ − ๐เท − ๐เท ๐ฅ๐ = 0 ๐ ๐=1 MQO • Na população: y = a + bx + ε; E(xε) = 0 E(ε) = 0 เท • Na amostra, e para um determinado par de estimadores, (๐, เท ๐): เท ๐ฦธ = ๐ฆ − ๐เท − ๐๐ฅ • Análogos amostrais: ๐ 1 เท ๐ฆ๐ − ๐เท − ๐เท ๐ฅ๐ = 0 → ๐เท = ๐ฆเดค − ๐เท ๐ฅาง ๐ ๐=1 ๐ 1 เท ๐ฅ๐ ๐ฆ๐ − ๐ฆเดค − ๐เท ๐ฅาง − ๐เท ๐ฅ๐ = 0 ๐ ๐=1 MQO • Na população: y = a + bx + ε; E(xε) = 0 E(ε) = 0 เท • Na amostra, e para um determinado par de estimadores, (๐, เท ๐): เท ๐ฦธ = ๐ฆ − ๐เท − ๐๐ฅ • Análogos amostrais: ๐ 1 เท ๐ฆ๐ − ๐เท − ๐เท ๐ฅ๐ = 0 → ๐เท = ๐ฆเดค − ๐เท ๐ฅาง ๐ ๐=1 ๐ 1 เท ๐ฅ๐ ๐ ๐=1 ๐ฆ๐ − ๐ฆเดค − ๐เท ๐ฅ๐ − ๐ฅาง =0 MQO • Na população: y = a + bx + ε; E(xε) = 0 E(ε) = 0 เท • Na amostra, e para um determinado par de estimadores, (๐, เท ๐): เท ๐ฦธ = ๐ฆ − ๐เท − ๐๐ฅ • Análogos amostrais: ๐ 1 เท ๐ฆ๐ − ๐เท − ๐เท ๐ฅ๐ = 0 → ๐เท = ๐ฆเดค − ๐เท ๐ฅาง ๐ ๐=1 ๐ ๐ เท ๐ฅ๐ ๐ฆ๐ − ๐ฆเดค − ๐เท เท ๐ฅ๐ ๐ฅ๐ − ๐ฅาง = 0 ๐=1 ๐=1 MQO • Na população: y = a + bx + ε; E(xε) = 0 E(ε) = 0 เท • Na amostra, e para um determinado par de estimadores, (๐, เท ๐): เท ๐ฦธ = ๐ฆ − ๐เท − ๐๐ฅ • Análogos amostrais: ๐ 1 เท ๐ฆ๐ − ๐เท − ๐เท ๐ฅ๐ = 0 → ๐เท = ๐ฆเดค − ๐เท ๐ฅาง ๐ ๐=1 σ๐ ๐ฅ๐ ๐ฆ๐ − ๐ฆเดค ๐=1 ๐เท = ๐ σ๐=1 ๐ฅ๐ ๐ฅ๐ − ๐ฅาง MQO • Na população: y = a + bx + ε; E(xε) = 0 E(ε) = 0 เท • Na amostra, e para um determinado par de estimadores, (๐, เท ๐): เท ๐ฦธ = ๐ฆ − ๐เท − ๐๐ฅ • Análogos amostrais: ๐ 1 เท ๐ฆ๐ − ๐เท − ๐เท ๐ฅ๐ = 0 → ๐เท = ๐ฆเดค − ๐เท ๐ฅาง ๐ ๐=1 1 ๐ σ๐=1 ๐ฅ๐ ๐ฆ๐ − ๐ฆเดค ๐๐๐ฃ(๐ฆ, เท ๐ฅ) ๐ เท ๐= = 1 ๐ ๐ฃ๐๐(๐ฅ) เท σ๐=1 ๐ฅ๐ ๐ฅ๐ − ๐ฅาง ๐ MQO – regressão linear múltipla • Na população: y =b0 + b1x1 + b2x2 + ε; Cov(x1,ε) = 0 • Novamente • Análogos amostrais: ๐ฦธ = ๐ฆ − ๐เท 0 − ๐เท 1 ๐ฅ 1 − ๐เท 2 ๐ฅ 2 1 ๐ σ ๐ฦธ = 0 ๐ ๐=1 ๐ ๐ 1 เท ๐ฅ1๐ ๐๐ฦธ = 0 ๐ ๐=1 ๐ 1 เท ๐ฅ2๐ ๐๐ฦธ = 0 ๐ ๐=1 Cov(x2,ε) = 0 E(ε) = 0 MQO – regressão linear múltipla • Na população: y =b0 + b1x1 + b2x2 + ε; E(x1ε) = 0 • Novamente • Análogos amostrais: ๐ฦธ = ๐ฆ − ๐เท 0 − ๐เท 1 ๐ฅ 1 − ๐เท 2 ๐ฅ 2 1 ๐ σ ๐ฦธ = 0 ๐ ๐=1 ๐ ๐ 1 เท ๐ฅ1๐ ๐๐ฦธ = 0 ๐ ๐=1 ๐ 1 เท ๐ฅ2๐ ๐๐ฦธ = 0 ๐ ๐=1 E(x2ε) = 0 E(ε) = 0 MQO – regressão linear múltipla • Podemos resolver na mão, mas é MUITO mais fácil se usarmos matrizes... • Análogos amostrais: 1 ๐ σ ๐๐๐ฦธ = 0 ๐ ๐=1 ๐ 1 เท ๐ฅ1๐ ๐๐ฦธ = 0 ๐ ๐=1 ๐ 1 เท ๐ฅ2๐ ๐๐ฦธ = 0 ๐ ๐=1 MQO – regressão linear múltipla • Podemos resolver na mão, mas é MUITO mais fácil se usarmos matrizes... • Análogos amostrais: ๐1ฦธ 1 … 1 โฎ =0 ๐๐ ฦธ ๐ฅ11 ๐ฅ21 … ๐ฅ1๐ ๐1ฦธ โฎ =0 ๐๐ ฦธ … ๐ฅ2๐ ๐1ฦธ โฎ =0 ๐๐ ฦธ MQO – regressão linear múltipla • Podemos resolver na mão, mas é MUITO mais fácil se usarmos matrizes... • Análogos amostrais: 1 ๐ฅ11 โฎ Seja X = โฎ 1 ๐ฅ1๐ 1 ๐ฅ11 ๐ฅ21 … 1 … ๐ฅ1๐ … ๐ฅ2๐ ๐ฅ21 ๐1ฦธ โฎ e ๐บเท = โฎ . Então, ๐ฟ′เท๐บ = ๐ ๐ฅ2๐ ๐๐ ฦธ ๐1ฦธ 0 โฎ = 0 ๐๐ ฦธ 0 (1) MQO – regressão linear múltipla • Agora, lembre que o modelo y =b0 + b1x1 + b2x2 + ε precisa valer para todos os indivíduos i = 1,...,N: ๐ฆ1 ๐1 ๐0 + ๐1 ๐ฅ11 + ๐2 ๐ฅ21 โฎ = โฎ + โฎ ๐ฆ๐ ๐๐ ๐0 + ๐1 ๐ฅ1๐ + ๐2 ๐ฅ2๐ 1 ๐ฅ11 โฎ = โฎ 1 ๐ฅ1๐ ๐ฅ21 โฎ ๐ฅ2๐ ๐1 ๐0 ๐1 + โฎ ๐๐ ๐2 MQO – regressão linear múltipla • Agora, lembre que o modelo y =b0 + b1x1 + b2x2 + ε precisa valer para todos os indivíduos i = 1,...,N: ๐ฆ1 ๐1 ๐0 + ๐1 ๐ฅ11 + ๐2 ๐ฅ21 โฎ = โฎ + โฎ ๐ฆ๐ ๐๐ ๐0 + ๐1 ๐ฅ1๐ + ๐2 ๐ฅ2๐ ๐ฆ1 ๐0 ๐ = ๐ฟ๐ท + ๐บ; onde ๐ท = ๐1 e ๐ฒ = โฎ ๐ฆ๐ ๐2 MQO – regressão linear múltipla • No modelo populacional, ๐ = ๐ฟ๐ท + ๐บ. Após estimar o modelo: เทก ๐บเท = ๐ − ๐ฟ๐ท (2) • Anteriormente tínhamos ๐ฟ′เท๐บ = ๐ (1) เทก =๐ • Juntando: ๐ฟ′(๐ − ๐ฟ๐ท) เทก=๐ ๐ฟ′๐ − ๐ฟ′๐ฟ๐ท MQO – regressão linear múltipla • No modelo populacional, ๐ = ๐ฟ๐ท. Após estimar o modelo: เทก ๐บเท = ๐ − ๐ฟ๐ท (2) • Anteriormente tínhamos ๐ฟ′เท๐บ = ๐ (1) เทก =๐ • Juntando: ๐ฟ′(๐ − ๐ฟ๐ท) เทก = ๐ฟ′๐ ๐ฟ′๐ฟ๐ท MQO – regressão linear múltipla • No modelo populacional, ๐ = ๐ฟ๐ท. Após estimar o modelo: เทก ๐บเท = ๐ − ๐ฟ๐ท (2) • Anteriormente tínhamos ๐ฟ′เท๐บ = ๐ (1) เทก =๐ • Juntando: ๐ฟ′(๐ − ๐ฟ๐ท) เทก = ๐ฟ′ ๐ฟ −๐ ๐ฟ′๐ ๐ฟ′ ๐ฟ −๐ ๐ฟ′๐ฟ๐ท MQO – regressão linear múltipla • No modelo populacional, ๐ = ๐ฟ๐ท. Após estimar o modelo: เทก ๐บเท = ๐ − ๐ฟ๐ท (2) • Anteriormente tínhamos ๐ฟ′เท๐บ = ๐ (1) เทก =๐ • Juntando: ๐ฟ′(๐ − ๐ฟ๐ท) เทก = ๐ฟ′๐ฟ −๐ ๐ฟ′๐ ๐ท Caso mais simples • y = a + bx + cD + ε ๐ σ๐=1 ๐ฆ๐ −๐ฆเดค ๐ฅ๐ −๐ฅาง เท σ๐ • Antes, ๐ = σ๐ = ๐=1 ๐ค๐ โ๐ , onde ๐ค๐ = 2 าง ๐=1 ๐ฅ๐ −๐ฅ • Agora, ๐เท = σ๐ เดค ๐ท๐ ๐ฅ๐ −๐ฅาง ๐ท๐ ๐=1 ๐ฆ๐ −๐ฆ ๐ท๐ σ๐ ๐=1 ๐ฅ๐ −๐ฅาง 2 ๐ฅ๐ −๐ฅาง 2 σ๐ ๐=1 ๐ฅ๐ −๐ฅาง ๐ท โ๐ท , onde ๐ค ๐ท = = σ๐ ๐ค ๐ ๐ ๐=1 ๐ 2 e โ๐ = ๐ฅ๐ −๐ฅาง ๐ท๐ σ๐ ๐=1 ๐ฅ๐ −๐ฅาง ๐ฆ๐ −๐ฆเดค ๐ฅ๐ −๐ฅาง 2 ๐ท ๐ท ๐ฆ๐ −๐ฆเดค ๐ e โ๐ = ๐ท๐ 2 ๐ฅ๐ −๐ฅาง ๐ท๐ • Neste caso, c é também chamado de parâmetro de deslocamento de intercepto (na relação entre y e x), pois separa duas retas, y = a + bx, para quem tem D = 0, e y = (a + c) + bx + ε, para quem tem D = 1. Relação entre salário e altura 300 250 Salário 200 150 100 50 0 0 1 2 3 4 5 Altura (decil) 6 7 8 9 10 Relação entre salário e altura 300 250 Salário 200 150 100 50 0 0 1 2 3 4 5 Altura (decil) 6 7 8 9 10 Relação entre salário e altura 300 250 Salário 200 150 100 50 0 0 1 2 3 4 5 Altura (decil) 6 7 8 9 10 Relação entre salário e altura 300 250 Salário 200 150 100 50 0 0 2 4 6 Altura (decil) 8 10 12 Relação entre salário e altura 300 250 Salário 200 150 100 c 50 0 0 2 4 6 Altura (decil) 8 10 12 2 formas de estimar por MQO • Considere y = a + bx + cz + ε. Podemos obter por MQO estimativas de a,b,c definindo matrizes y,X e β, tais que: ๐ฆ1 1 ๐ฅ1 โฎ • ๐= โฎ ;๐ฟ= โฎ ๐ฆ๐ 1 ๐ฅ๐ ๐ง1 ๐ ๐เท เทก = ๐เท = ๐ฟ′ ๐ฟ −๐ ๐ฟ′ ๐ โฎ e ๐ท = ๐ . Então: ๐ท ๐ ๐ง๐ ๐ฦธ • Alternativamente, poderíamos fazer uma sequência de regressões simples, primeiramente removendo de y e x a influência de z, e em seguida estimando o efeito de x sobre y, b. 2 formas de estimar por MQO • y = a + bx + cz + ε. • 1º estágio: MQO y vs z e x vs z. Coleta os resíduos: เท ๐ฆ,๐ง ๐๐๐ฃ แ0 = ๐ฆเดค − ๐ฟแ1 ๐ง.าง Retém ๐ฦธ๐ฆ๐ = ๐ฆ๐ − ๐ฟแ0 − ๐ฟแ1 ๐ง๐ = ๐ฆ๐ − ๐ฆเท (๐ง) ๐ฆ = ๐ฟ0 + ๐ฟ1 ๐ง + ๐๐ฆ ; ๐ฟแ1 = ๐ฃ๐๐ e ๐ฟ ๐ เท ๐ง เท ๐ฅ,๐ง ๐๐๐ฃ ๐ฅ = ๐พ0 + ๐พ1 ๐ง + ๐๐ฅ ; ๐พเท1 = ๐ฃ๐๐ เท ๐ง (๐ง) e ๐พเท0 = ๐ฆเดค − ๐พเท1 ๐ง.าง Retém ๐ฦธ๐ฅ๐ = ๐ฅ๐ − ๐พเท0 − ๐พเท1 ๐ง๐ = ๐ฅ๐ − ๐ฅเท๐ • 2º estágio: MQO de ey vs ex: ๐เท = เท ๐ฦธ๐ฆ ,๐ฦธ๐ฅ ๐๐๐ฃ เท ๐ฦธ๐ฅ ๐ฃ๐๐ σ๐ ๐=1 ๐ฦธ ๐ฆ๐ ๐ฦธ ๐ฅ๐ = σ๐ ๐=1 ๐ฦธ ๐ฅ๐ 2 2 formas de estimar por MQO • y = a + bx + cz + ε. (๐ง) ๐ฦธ๐ฆ๐ = ๐ฆ๐ − ๐ฟแ0 − ๐ฟแ1 ๐ง๐ = ๐ฆ๐ − ๐ฆเท๐ (๐ง) ๐ฦธ๐ฅ๐ = ๐ฅ๐ − ๐พเท0 − ๐พเท1 ๐ง๐ = ๐ฅ๐ − ๐ฅเท๐ (๐ง) (๐ง) ๐ ๐ σ ๐ฅ − ๐ฅ เท ๐ฆ − ๐ฆ เท σ๐=1 ๐ฦธ๐ฆ๐ ๐ฦธ๐ฅ๐ ๐ ๐ ๐=1 ๐ ๐ เท ๐= ๐ = 2 σ๐=1 ๐ฦธ๐ฅ๐ (๐ง) 2 ๐ σ๐=1 ๐ฅ๐ − ๐ฅเท๐ Comparando os exercícios • y = a + bx + cz + ε. (๐ง) ๐เท = σ๐ ๐=1 ๐ฅ๐ −๐ฅเท๐ (๐ง) ๐ฆ๐ −๐ฆเท๐ (๐ง) 2 σ๐ ๐=1 ๐ฅ๐ −๐ฅเท๐ (๐ง) (๐ง) (๐ง) = σ๐ ๐ค โ , onde ๐ค = ๐=1 ๐ ๐ ๐ (๐ง) 2 ๐ฅ๐ −๐ฅเท๐ (๐ง) (๐ง) ๐ฆ๐ −๐ฆเท๐ e โ๐ = (๐ง) (๐ง) 2 ๐ฅ −๐ฅเท σ๐ ๐=1 ๐ฅ๐ −๐ฅเท๐ ๐ • y = a + bx + cD + ε ๐เท = σ๐ เดค ๐ท๐ ๐ฅ๐ −๐ฅาง ๐ท๐ ๐=1 ๐ฆ๐ −๐ฆ ๐ท๐ σ๐ ๐=1 ๐ฅ๐ −๐ฅาง 2 ๐ท โ๐ท , onde ๐ค ๐ท = = σ๐ ๐ค ๐ ๐ ๐=1 ๐ ๐ฅ๐ −๐ฅาง ๐ท๐ σ๐ ๐=1 ๐ฅ๐ −๐ฅาง 2 ๐ท ๐ท ๐ฆ๐ −๐ฆเดค ๐ e โ๐ = ๐ท๐ 2 ๐ฅ๐ −๐ฅาง ๐ท๐ • y = a + bx + ε σ๐ เดค ๐ฅ๐ −๐ฅาง ๐=1 ๐ฆ๐ −๐ฆ เท ๐ = σ๐ 2 ๐=1 ๐ฅ๐ −๐ฅาง = σ๐ ๐=1 ๐ค๐ โ๐ , onde ๐ค๐ = ๐ฅ๐ −๐ฅาง 2 σ๐ ๐=1 ๐ฅ๐ −๐ฅาง 2 e โ๐ = ๐ฆ๐ −๐ฆเดค ๐ฅ๐ −๐ฅาง ๐ MQO exige linearidade em parâmetros... • ... não nas covariadas. • Considere o modelo y = a + bx + cx2 + ε • Podemos sempre dizer que z = x2 e retornar ao caso anterior • A justificativa para o uso de MQO pode, neste caso, passar por exemplo por cov (x2,ε) = 0. Quando E[ε|x] = 0, automaticamente cov(g(x),ε) para qualquer função de x. MQO exige linearidade em parâmetros... • Se por um lado podemos estimar consistentemente os parâmetros a, b, c do modelo y = a + bx + cx2 + ε por MQO (garantido que E(ε) = 0; E(εx) = 0 e E(εx2) = 0), por outro a interpretação dos coeficientes muda. Note que agora, para cada acréscimo de 1 unidade de x, y se altera, em média, em b + 2cx unidades. 14 12 10 Y 8 6 4 2 0 0 200 400 600 800 1000 X 1200 1400 1600 1800 14 12 10 Y 8 6 4 2 0 0 200 400 600 800 1000 X 1200 1400 1600 1800 14 Y = a + bx + cx2 12 10 b+ 2cx1 Y 8 b+ 2cx0 6 O efeito de um incremento de uma unidade de x sobre y agora depende do ponto de partida 4 2 0 0 200 x0 400 600 800 x1 1000 X 1200 1400 1600 1800 Multicolinearidade • Suponha que duas ou mais variáveis são perfeitamente colineares, ou seja, que uma delas possa ser escrita como combinação linear das demais. Exemplo: ano corrente (x1), idade (x2) e ano de nascimento (x3). Claramente, ๐ฅ2 = ๐ฅ1 − ๐ฅ3 . • Agora um analista quer analisar padrões de consumo, y, e postula que este deve depender da idade do indivíduo, afinal hábitos mudam com a idade. Crê também que o ano de nascimento deve importar, afinal quem nasceu nos anos 80 gosta de coisas muito diferentes de quem nasceu nos anos 90 e 2000. Finalmente, pensa que a cada ano há as modas da vez, e que portanto o ano corrente deve importar. • O problema é que estas variáveis não podem ser incluídas simultaneamente em um exercício empírico como os que estamos estudando. Por quê? Multicolinearidade • Considere o modelo: ๐ฆ = ๐0 + ๐1 ๐ฅ1 + ๐2 ๐ฅ2 + ๐3 ๐ฅ3 + ๐. • A fonte de variação dos dados que MQO explora para identificar e estimar os parâmetros é fundamentalmente comparar como y varia em média quando comparo grupos de pessoas com níveis diferentes de x. • Em um exercício de regressão múltipla, o pressuposto é o de que seja possível realizar esta comparação variando uma variável por vez e mantendo fixos os níveis das demais variáveis. Para estimar b2, por exemplo, comparo pessoas com níveis distintos de x2 dentro de subamostras de pessoas com níveis idênticos de x1 e x3. • Mas se as variáveis possuem multicolinearidade perfeita, torna-se impossível de fazer este exercício. Pessoas com um níveis idênticos de x1 e x3 terão necessariamente os mesmos níveis de x2. Multicolinearidade • Matematicamente, se ๐ฅ2 = ๐ฅ3 − ๐ฅ1 , os modelos ๐ฆ = ๐0 + ๐1 ๐ฅ1 + ๐2 ๐ฅ2 + ๐3 ๐ฅ3 + ๐ e ๐ฆ = ๐0 + ๐1 ๐ฅ1 + ๐2 ๐ฅ3 − ๐ฅ1 + ๐3 ๐ฅ3 + ๐ Multicolinearidade • Matematicamente, se ๐ฅ2 = ๐ฅ3 − ๐ฅ1 , os modelos ๐ฆ = ๐0 + ๐1 ๐ฅ1 + ๐2 ๐ฅ2 + ๐3 ๐ฅ3 + ๐ e ๐ฆ = ๐0 + ๐1 − ๐2 ๐ฅ1 + ๐2 + ๐3 ๐ฅ3 + ๐ Multicolinearidade • Matematicamente, se ๐ฅ2 = ๐ฅ3 − ๐ฅ1 , os modelos ๐ฆ = ๐0 + ๐1 ๐ฅ1 + ๐2 ๐ฅ2 + ๐3 ๐ฅ3 + ๐ e ๐ฆ = ๐0 + ๐1 ๐ฅ1 + ๐2 ๐ฅ3 + ๐ tornam-se empiricamente equivalentes Multicolinearidade 1 ๐ฅ11 … ๐ฅ๐พ1 โฎ • Em termos da matriz ๐ฟ = โฎ โฎ , quando há 1 ๐ฅ1๐ … ๐ฅ๐พ๐ multicolinearidade perfeita as colunas de X serão linearmente dependentes. • Neste caso, também o serão as colunas de X’X, e portanto a matriz X’X não será inversível, impossibilitando o cômputo de เทก = ๐ฟ′ ๐ฟ −๐ ๐ฟ′ ๐ ๐ท Multicolinearidade • Outra forma de entender o problema é verificar que no sistema de equações: ๐ 1 เท ๐๐ฦธ = 0 ๐ ๐=1 ๐ 1 เท ๐ฅ1๐ ๐๐ฦธ = 0 ๐ ๐=1 ๐ โฎ 1 เท ๐ฅ๐พ๐ ๐๐ฦธ = 0 ๐ ๐=1 Algumas destas equações serão redundantes (e para resolver o sistema para K + 1 incógnitas de ๐ฆ = ๐0 + ๐1 ๐ฅ1 + โฏ + ๐๐พ ๐ฅ๐พ + ๐, precisaríamos de K + 1 equações não-redundantes). Regressão múltipla – caso geral เทก • Modelo: ๐ฆ = ๐0 + ๐1 ๐ฅ1 + โฏ + ๐๐พ ๐ฅ๐พ + ๐ โน ๐บเท = ๐ − ๐ฟ๐ท • Momentos: ๐ธ ๐ = ๐ธ ๐๐ฅ1 = โฏ = ๐ธ ๐๐ฅ๐พ = 0 • Análogos amostrais: 1 ๐ σ ๐ฦธ = 0 ๐ ๐=1 ๐ 1 ๐ σ ๐ฅ ๐ฦธ = 0 ๐ ๐=1 1๐ ๐ โฎ 1 ๐ σ๐=1 ๐ฅ๐พ๐ ๐๐ฦธ = 0 ๐ โน ๐ฟ′ ๐บเท = ๐ Regressão múltipla – caso geral เทก = ๐ฟ′๐ฟ −๐ ๐ฟ′๐, para: O que nos leva novamente à expressão ๐ท 1 ๐ฅ11 โฎ • ๐ฟ= โฎ 1 ๐ฅ1๐ เท 0 ๐ … ๐ฅ๐พ1 ๐ฆ1 เท 1 ๐ เทก โฎ , ๐ = e ๐ท = โฎ โฎ … ๐ฅ๐พ๐ ๐ฆ๐ ๐เท ๐พ เทก é o valor predito para os y’s de cada um dos indivíduos com base nos เท = ๐ฟ๐ท • ๐ parâmetros estimados. เทก = ๐ฟ ๐ฟ′๐ฟ −๐ ๐ฟ′๐. A matriz ๐ฟ ๐ฟ′๐ฟ −๐ ๐ฟ′ é chamada de matriz de เท = ๐ฟ๐ท • Note que ๐ projeção ortogonal (no espaço-coluna) de X, refazendo o paralelo entre nossa técnica e este conceito de álgebra linear. Regressão múltipla – caso geral Além disso, a generalização de MQO para a regressão múltipla não precisa ser motivada apenas pelo método dos momentos. Considerando o modelo ๐ฆ = ๐0 + ๐1 ๐ฅ1 + โฏ + ๐๐พ ๐ฅ๐พ + ๐ • Por máxima verossimilhança, poderíamos supor que ๐|๐ฅ1 , ๐ฅ2 , … , ๐ฅ๐พ ~๐(0, ๐ 2 ) e concluir que ๐ฆ|๐ฅ1 , ๐ฅ2 , … , ๐ฅ๐พ ~๐(๐0 + ๐1 ๐ฅ1 + โฏ + ๐๐พ ๐ฅ๐พ , ๐ 2 ) • Na teoria da decisão, com função-perda quadrática, poderíamos encontrar ๐เท 0 ๐ ๐เท 1 = arg๐๐๐ 1 เท ๐ฆ − ๐ − ๐ ๐ฅ − โฏ − ๐ ๐ฅ 2 ๐ 0 1 1๐ ๐พ ๐พ๐ โฎ ๐0 ,๐1 ,…,๐๐พ ๐ ๐=1 เท ๐๐พ
0
advertisement
Related documents
Download
advertisement
Add this document to collection(s)
You can add this document to your study collection(s)
Sign in Available only to authorized usersAdd this document to saved
You can add this document to your saved list
Sign in Available only to authorized users