Den multiple regresjonsmodellen

Den generelle modellen med $k$ forklaringsvariabler er:

$Y_i = \beta_0 + \beta_1 X_{1i} + \beta_2 X_{2i} + \cdots + \beta_k X_{ki} + u_i$

der $u_i$ er feilleddet som fanger opp alt som påvirker $Y$ men som ikke er inkludert som forklaringsvariabel.

OLS-forutsetningene (Gauss-Markov):

1. Lineær i parametrene: $Y = X\beta + u$

2. Tilfeldig utvalg: $(X_i, Y_i)$ er i.i.d.

3. Ingen perfekt multikollinearitet: Ingen forklaringsvariabel er en eksakt lineær kombinasjon av andre

4. Betinget gjennomsnitt null: $E[u_i | X_{1i}, \ldots, X_{ki}] = 0$ (eksogenitet)

5. Homoskedastisitet: $\text{Var}(u_i | X_i) = \sigma^2$ (konstant varians)

Tolkning av koeffisienter

$\beta_j$ måler effekten av en enhets økning i $X_j$ på $Y$, alt annet likt (ceteris paribus). Dette er den partielle effekten — vi «holder de andre variablene konstante».

Eksempel: Lønnsregresjon

$\ln(\text{lønn}_i) = \beta_0 + \beta_1 \cdot \text{utdanning}_i + \beta_2 \cdot \text{erfaring}_i + \beta_3 \cdot \text{erfaring}_i^2 + u_i$

Her er $\beta_1 \approx 0{,}08$: én ekstra år utdanning er assosiert med ca. 8 % høyere lønn, kontrollert for erfaring. Merk log-avhengig variabel: koeffisienten tolkes som prosentvis endring (ganger 100).

Spesielle variabeltyper

Dummyvariabler: $D_i \in \{0, 1\}$. Koeffisienten måler forskjellen i $Y$ mellom gruppene.

Interaksjonsledd: $\beta_3 (X_1 \cdot X_2)$. Marginaleffekten av $X_1$ avhenger av nivået på $X_2$: $\frac{\partial Y}{\partial X_1} = \beta_1 + \beta_3 X_2$

Kvadratiske ledd: $\beta_1 X + \beta_2 X^2$. Marginaleffekten: $\frac{\partial Y}{\partial X} = \beta_1 + 2\beta_2 X$. Vendepunkt ved $X^* = -\frac{\beta_1}{2\beta_2}$

Logaritmiske transformasjoner:

Lin-lin: $Y = \beta_0 + \beta_1 X$ → $\Delta Y = \beta_1 \cdot \Delta X$

Log-lin: $\ln Y = \beta_0 + \beta_1 X$ → $\%\Delta Y \approx 100 \cdot \beta_1 \cdot \Delta X$

Lin-log: $Y = \beta_0 + \beta_1 \ln X$ → $\Delta Y \approx (\beta_1/100) \cdot \%\Delta X$

Log-log: $\ln Y = \beta_0 + \beta_1 \ln X$ → $\%\Delta Y \approx \beta_1 \cdot \%\Delta X$ (elastisitet)

Hypotesetesting

For å teste $H_0: \beta_j = 0$ mot $H_1: \beta_j \neq 0$:

$t = \frac{\hat{\beta}_j}{\text{SE}(\hat{\beta}_j)}$

Forkast $H_0$ dersom $|t| > t_{\alpha/2, n-k-1}$ eller $p < \alpha$.

F-test for felles signifikans:

$H_0: \beta_1 = \beta_2 = \cdots = \beta_q = 0$ (q restriksjoner)

$F = \frac{(R^2_{\text{UR}} - R^2_{\text{R}})/q}{(1 - R^2_{\text{UR}})/(n-k-1)}$

Forkast $H_0$ dersom $F > F_{q, n-k-1, \alpha}$

Multikollinearitet

Når forklaringsvariablene er sterkt korrelerte, blir koeffisientestimatene upresise (store standardfeil), men de er fortsatt forventningsrette. Perfekt multikollinearitet gjør OLS umulig. Symptomer: høy $R^2$ men ingen individuelt signifikante variabler.

Utelatt variabel-bias (OVB)

Dersom en relevant variabel utelates fra modellen, blir OLS-estimatene forventningsskjeve:

$\text{Bias}(\hat{\beta}_1) = \beta_2 \cdot \frac{\text{Cov}(X_1, X_2)}{\text{Var}(X_1)}$

Retningen på bias avhenger av produktet av $\beta_2$ (effekten av utelatt variabel) og korrelasjonen mellom $X_1$ og $X_2$.

Studieguide: Multippel regresjon og tolkning

Studieguide: Multippel regresjon og tolkning