§4 Состоятельность, пропущенные переменные, диагностика

По слайдам Vo4. Асимптотика, omitted variable bias, выбор модели (AIC/SC) и проверка предположений: нормальность, гетероскедастичность, автокорреляция — с тестами из мок-экзамена.

4.1 Состоятельность

Минимальное требование к оценке: $\hat\beta_N \xrightarrow{p} \beta$ при $N\to\infty$ (асимптотическая несмещённость). OLS состоятелен под AL, AR и $\operatorname{plim}\,\tfrac1N X'\varepsilon = 0$ (более слабая версия экзогенности). Если экзогенность нарушена — OLS несостоятелен: смещение не исчезает с ростом выборки.

4.2 Пропущенные переменные (OVB)

Смещение от пропущенной переменной

$$\text{истина: } Y=X_1\beta_1+X_2\beta_2+\varepsilon, \quad \text{оценили без }X_2:\quad E[\hat\beta_1]=\beta_1+\underbrace{B\,\beta_2}_{\text{bias}}$$

$B$ — коэффициенты регрессии пропущенного $X_2$ на включённый $X_1$. Смещение $=0$ только если (а) $\beta_2=0$ (переменная не важна) ИЛИ (б) $X_1\perp X_2$ ($B=0$). Поэтому OVB зависит от корреляции включённых и пропущенных регрессоров (мок Q3f — true). Направление: знак $B\cdot\beta_2$.

Обратная проблема — лишний регрессор: $\hat\beta$ остаётся несмещённым, но дисперсия растёт. Компромисс смещение–дисперсия.

4.3 Выбор модели

AIC и SC (BIC)

$$\mathrm{AIC}=\log\!\frac{RSS}{N}+\frac{2k}{N}, \qquad \mathrm{SC}=\log\!\frac{RSS}{N}+\frac{k\log N}{N}$$

$k$ — число параметров. Выбираем модель с минимальным критерием. SC (Шварц/BIC) штрафует сильнее ($\log N > 2$ при $N>7$) → выбирает более экономные модели. В отличие от $R^2$, критерии могут предпочесть меньшую модель. Сравнивать AIC/SC можно только для одного и того же $Y$ (лог vs уровень требует поправки $+\tfrac{2}{N}\sum\log y_i$).

4.4 Диагностика предположений

Что проверяем	Инструмент	$H_0$	Вывод при малом p
Нормальность $\varepsilon$ (AN)	Q–Q plot, Jarque–Bera	остатки нормальны	отвергаем → ненормальность
Гомоскедастичность (AH)	остатки vs $\hat y$, Breusch–Pagan, White	гомоскедастичность	отвергаем → гетероскедастичность
Автокорреляция (AH)	ACF остатков, Durbin–Watson, Ljung–Box	нет автокорреляции	отвергаем → автокорреляция
Экзогенность (AX)	остатки vs предиктор	—	паттерн → нарушение

Jarque–Bera (нормальность)

$$JB=\frac{N}{6}\Big(S^2+\frac{(K_4-3)^2}{4}\Big)\sim \chi^2_2$$

$S$ — асимметрия, $K_4$ — эксцесс остатков. Мок Q1d: $JB=2{,}42$, p$=0{,}30 \Rightarrow$ не отвергаем $H_0$ → нормальность правдоподобна (подтверждается прямым Q–Q plot). Малый p означал бы ненормальность.

Breusch–Pagan (гетероскедастичность)

$$\hat\varepsilon_i^2 = \alpha_0+\alpha_1 X_{1i}+\dots+u_i, \quad H_0:\ \alpha_1=\dots=0$$

Вспомогательная регрессия квадратов остатков на предикторы; статистика $N\cdot R^2_{aux}\sim\chi^2$. White-тест — то же плюс квадраты и кросс-произведения (более общий). Мок Q1c: $BP=4{,}07$, p$=0{,}54 \Rightarrow$ не отвергаем → гомоскедастичность ок.

4.5 Лечение гетероскедастичности и автокорреляции

Робастные стандартные ошибки (White / HAC, Newey–West) — оставляют $\hat\beta_{OLS}$, исправляют только se → валидные t/F.
GLS / FGLS — если $\operatorname{Cov}(\varepsilon\mid X)=\Omega$ известна (или оценена), оценка $\hat\beta_{GLS}=(X'\Omega^{-1}X)^{-1}X'\Omega^{-1}Y$ снова BLUE.
Преобразование ($\log$, и т.п.) часто одновременно стабилизирует дисперсию и приближает к нормальности (мок Q3c — true).

На экзамене. Связка «p-value теста → вывод»: большой p в JB/BP = предположение НЕ нарушено (это «хорошо»). Гетеро/автокорреляция не смещают $\hat\beta$, но ломают стандартные ошибки → t/F невалидны до починки. OVB ≠ 0 ⟺ пропущенная переменная и важна, и коррелирует с включёнными.

← §3 §5 Временные ряды, AR/MA →