Formules voor variantie & co

vhsven

2022-11-11

We hebben het eerder al gehad over het gemiddelde dat je op drie manieren kan berekenen. Maar de variantie spant wel de kroon wat betreft het aantal formules, zeker als we conditionele variantie mee in scope nemen.

Om te beginnen hebben we twee soorten varianties die als volgt gedefinieerd zijn:

$s_x^2 = \frac{1}{n} \sum_i (x_i - \overline x)^2$
$s_x^{\prime 2} = \frac{1}{n-1} \sum_i (x_i - \overline x)^2$

Merk op dat $\frac{s_x^{\prime 2}}{s_x^2} = \frac{n}{n-1}$ . Je kan de tweede lijn dus ook schrijven als $s_x^{\prime 2} = \frac{n}{n-1} s_x^2$ .

Naast beide varianties heb je ook nog de standaarddeviaties. Gelukkig moet je die formules niet apart van buiten leren, want het zijn gewoon de vierkantswortels van bovenstaande formules.

$s_x = \sqrt{\frac{1}{n} \sum_i (x_i - \overline x)^2} = \sqrt{s_x^2}$
$s'_x = \sqrt{\frac{1}{n-1} \sum_i (x_i - \overline x)^2} = \sqrt{s_x^{\prime 2}}$

In plaats van de variantie te berekenen volgens de definitie, kan het ook (efficiënter) met de chiastische eigenschap:

$s_x^2 = \frac{1}{n} \sum_i x_i^2 - \overline{x}^2$

Alsof dat nog niet genoeg was, gooit de prof nog vier extra formules in de mix.

$s_x^2 = \frac{1}{n} \sum_j (x_j - \overline x)^2 freq_X(x_j)$
$s_x^2 = \frac{1}{n} \sum_j x_j^2 freq_X(x_j) - \overline{x}^2$
$s_x^2 = \sum_j (x_j - \overline x)^2 p_X(x_j)$
$s_x^2 = \sum_j x_j^2 p_X(x_j) - \overline{x}^2$

Kan het eenvoudiger?

Dit begint verwarrend te worden. Tijd dus om wat orde in de chaos te scheppen. We zullen de zes formules voor $s_x^2$ in een $3 \times 2$ tabel gieten. De rijen staan voor de drie manieren waarop je het gemiddelde kan berekenen en de kolommen voor de manier waarop je de variantie zelf kan berekenen.

gemiddelde	definitie $s_x^2$	chiastische eigenschap
$\frac{1}{n} \sum_i x_i$	$\frac{1}{n} \sum_i (x_i - \overline x)^2$	$\frac{1}{n} \sum_i x_i^2 - \overline{x}^2$
$\frac{1}{n} \sum_j x_j freq_X(x_j)$	$\frac{1}{n} \sum_j (x_j - \overline x)^2 freq_X(x_j)$	$\frac{1}{n} \sum_j x_j^2 freq_X(x_j) - \overline{x}^2$
$\sum_j x_j p_X(x_j)$	$\sum_j (x_j - \overline x)^2 p_X(x_j)$	$\sum_j x_j^2 p_X(x_j) - \overline{x}^2$

Eigenlijk heeft het dus totaal geen zin om de negen formules in de tabel apart van buiten te leren. Als we symbolisch kunnen uitdrukken dat we een gemiddelde van een uitdrukking (zoals $(x - \overline x)^2$ of $x^2$ ) nodig hebben, zonder dat we ons moeten vastpinnen op één specifieke rekenmethode, kunnen we de tabel drastisch vereenvoudigen. Hiervoor gebruiken we de notatie met de streep boven de uitdrukking zoals we dat ook al deden voor $\overline x$ .

gemiddelde	definitie $s_x^2$	chiastische eigenschap
$\overline x$	$\overline{(x - \overline x)^2}$	$\overline{x^2} - \overline{x}^2$

Op deze manier zit de essentie van alle zes formules vervat in slechts twee formules. Samen met de drie formules voor het gemiddelde (dus vijf in totaal) kan je de hele tabel hierboven met negen formules reconstrueren. Een mooie besparing!

Samengevat moet je voor dit luik van de leerstof enkel dit onthouden:

$s_x^2 = \overline{(x - \overline x)^2} = \overline{x^2} - \overline{x}^2$
$s_x^{\prime 2} = \frac{n}{n-1} s_x^2$
$s_x = \sqrt{s_x^2}$
$s'_x =\sqrt{s_x^{\prime 2}}$

Conditionele varianties

Wat verderop in de cursus worden conditionele varianties geintroduceerd. Zelfs zonder de aanwezigheid van standaarddeviaties en $s'$ varianten krijg je hier acht complexe formules naar het hoofd geslingerd. De eerste boosdoener is het feit dat conditionele variabelen in twee richtingen kunnen voorkomen: $X \mid Y$ of $Y \mid X$ . Dit is puur een kwestie van $X$ en $Y$ van plaats te wisselen (en ook $j \leftrightarrow j'$ ). Van de acht formules kan je er dus al vier schrappen als niet-essentieel.

De vier overgebleven formules vertonen een bekend patroon! Er zijn twee manieren om het conditionele gemiddelde te berekenen ( $freq$ of $p$ ), en we zitten opnieuw met het onderscheid tussen definitie en chiastische eigenschap. We kunnen dus dezelfde vereenvoudiging doorvoeren als we gedaan hebben in het univariate luik.

gemiddelde	definitie $s_{y \mid X=x_j}^2$	chiastische eigenschap
$\overline{y \mid X=x_j}$	$\overline{(y - \overline{y \mid X=x_j})^2 \mid X=x_j}$	$\overline{y^2 \mid X=x_j} - \overline{y \mid X=x_j}^2$

Covarianties

Nu is de beurt aan jullie. Hoe zouden jullie de formules rond covarianties vereenvoudigen?