Modellen

Enkel lineaer regresjon modellerer sammenhengen som:

$$Y = \beta_1 + \beta_2 X + e$$

der $\beta_1$ er konstantleddet (intercept), $\beta_2$ er stigningstallet (effekten av $X$ pa $Y$), og $e$ er feilleddet.

Estimering (minste kvadraters metode)

$$\hat{\beta}_2 = \frac{\sum(y_i - \bar{y})(x_i - \bar{x})}{\sum(x_i - \bar{x})^2} = \frac{s_{XY}}{s_X^2}$$

$$\hat{\beta}_1 = \bar{y} - \hat{\beta}_2 \bar{x}$$

Den estimerte regresjonslinjen: $\hat{Y} = \hat{\beta}_1 + \hat{\beta}_2 X$

Estimert varians til feilleddet

$$\hat{\sigma}^2 = \frac{1}{n-2}\sum \hat{e}_i^2$$

der $\hat{e}_i = y_i - \hat{y}_i$ er residualene. Vi deler pa $n-2$ fordi vi har estimert to parametre.

Standardfeil til koeffisientene

$$SE(\hat{\beta}_2) = \hat{\sigma} \cdot \sqrt{\frac{1}{\sum(x_i - \bar{x})^2}}$$

Forklaringskraft: $R^2$

$$R^2 = r_{XY}^2$$

$R^2$ forteller hvor stor andel av variasjonen i $Y$ som forklares av $X$. Verdier narme 1 betyr god forklaringskraft.

Hypotesetesting av koeffisienter

For a teste om $X$ har en signifikant effekt pa $Y$:

$H_0: \beta_2 = 0$ (ingen effekt), $H_1: \beta_2 \ne 0$ (eller ensidig)

$$t = \frac{\hat{\beta}_2 - 0}{SE(\hat{\beta}_2)}$$

med $df = n - 2$ frihetsgrader.

Tolkning av R-output

R-output fra lm() gir Estimate, Std. Error, t value, og Pr(>|t|). Den siste kolonnen er p-verdien for tosidig test av $H_0: \beta_j = 0$.

Eksempel 1: Regresjon fra summerte data

Oppgave (V2024): Hudkreftdodsfall (MORT) vs. breddegrad (LAT) for 49 delstater. $\sum(LAT - \overline{LAT})^2 = 1020.49$, $\sum(LAT - \overline{LAT})(MORT - \overline{MORT}) = -6100.10$, $\overline{LAT} = 39.53$, $\overline{MORT} = 152.88$.

Losning:

$$\hat{\beta}_2 = \frac{-6100.10}{1020.49} = -5.978$$

$$\hat{\beta}_1 = 152.88 - (-5.978) \cdot 39.53 = 152.88 + 236.29 = 389.17$$

Regresjonslinjen: $\widehat{MORT} = 389.17 - 5.978 \cdot LAT$

Tolkning: For hver grad okning i breddegrad reduseres forventet dodsfall med ca. 5.98 per 10 mill.

$$R^2 = r_{XY}^2 = \left(\frac{-6100.10}{\sqrt{1020.49 \cdot 53637.27}}\right)^2 \approx 0.68$$

Breddegrad forklarer ca. 68% av variasjonen i dodsfall.

Eksempel 2: Hypotesetesting i regresjon

Oppgave (V2024): Test om breddegrad pavirker hudkreftdodsfall. $\hat{\sigma}^2 = 365.38$, $\alpha = 0.05$.

Losning:

$$SE(\hat{\beta}_2) = \sqrt{\frac{365.38}{1020.49}} = \sqrt{0.358} = 0.598$$

$$t = \frac{-5.978 - 0}{0.598} = -9.997$$

Med $df = 49 - 2 = 47$ og $\alpha = 0.05$: $t_{0.025, 47} \approx 2.01$. Siden $|-9.997| > 2.01$: forkast $H_0$. Breddegrad har en statistisk signifikant effekt pa dodsfall.

Eksempel 3: Tolke R-output fra lm()

Oppgave (H2024/H2025): Fra R-utskrift: lm(TSCORE ~ INCOME): Intercept = 625.38, INCOME = 1.88, R-squared = 0.5076.

Tolkning:

Regresjonslinjen: $\widehat{TSCORE} = 625.38 + 1.88 \cdot INCOME$
For hvert ekstra 1000 USD i gjennomsnittsinntekt oker testskaren med ca. 1.88 poeng
$R^2 = 0.51$: Inntekt forklarer ca. 51% av variasjonen i testskare
Predikert testskare for INCOME = 20: $625.38 + 1.88 \cdot 20 = 662.98$

Studieguide: Regresjon