HC 2: Kansen en de steekproevenverdeling

Tot nu toe ging het over het beschrijven van een steekproef. Verklarende (inferentiële) statistiek gaat een stap verder: wat kun je op basis van één steekproef zeggen over de populatie? Daarvoor heb je kansrekening nodig en vooral het begrip steekproevenverdeling. Dit hoofdstuk legt uit wat kansen en kansverdelingen zijn, hoe de steekproevenverdeling van het gemiddelde eruitziet, wat de centrale limietstelling zegt en wanneer je de z-verdeling of de t-verdeling gebruikt. Het is het fundament onder betrouwbaarheidsintervallen en alle toetsen.

Kansen uit frequenties

Een kans is de waarschijnlijkheid dat een uitkomst voorkomt, uitgedrukt als proportie tussen 0 en 1. Uit een frequentietabel bereken je een kans als het aantal keer dat de uitkomst voorkomt gedeeld door het totaal. In het college: van 1445 Nederlanders had 71 "veel" vertrouwen in de Europese Unie, dus $p=71/1445=0,049$ (4,9%), en 171 had helemaal geen vertrouwen, $p=171/1445=0,118$. Van 1540 respondenten hadden er 49 vijf of meer kinderen: $p(x\ge 5)=49/1540=0,032$. Voor één tot drie kinderen: $p(1\le x\le 3)=1040/1540=0,675$.

Twee regels gelden altijd: elke kans ligt tussen 0 en 1, en de kansen van alle mogelijke uitkomsten tellen op tot 1: $0\le p(x)\le 1$ en $\sum p(x)=1$.

Random variabele en kansverdeling

Een random variabele koppelt een getal aan elke mogelijke uitkomst van een experiment of survey. Er zijn twee soorten:

• Discreet: gehele getallen die je telt (0, 1, 2, 3 ...), meestal een eindig aantal waarden. Voorbeeld: aantal kinderen. Bijbehorende verdelingen zijn bijvoorbeeld de binomiale en de Poisson-verdeling.
• Continu: kan elke waarde in een interval aannemen, ook decimalen; oneindig veel mogelijke waarden. Voorbeeld: de tijdsduur van een nummer in seconden. Bijbehorende verdelingen zijn de z-verdeling (normaal), de t-verdeling, de ${\chi }^2$-verdeling en de F-verdeling.

Een kansverdeling geeft voor elke mogelijke uitkomst van een random variabele de kans. Bij een discrete variabele is dat een lijst van kansen, bij een continue variabele een curve waarbij kansen oppervlaktes zijn.

Van steekproef naar steekproevenverdeling

Het college gebruikte een sprekend voorbeeld: de 191 originele nummers van Pink Floyd. Die vormen hier de populatie, met een gemiddelde tijdsduur van $\mu =266,78$ seconden en $\sigma =191,01$ seconden. De verdeling is rechtsscheef (een paar zeer lange nummers).

• Trek je één steekproef van 35 nummers, dan heb je een steekproefverdeling: de verdeling van de 35 scores in die ene steekproef. Die had $\bar{x}=208,17$ en $s=122,99$.
• Trek je opnieuw 35 nummers, dan krijg je een ander gemiddelde: 248,11, dan 270,31, dan 322,77, enzovoort. Het steekproefgemiddelde is zelf een random variabele.
• Zet je de gemiddelden van 300 steekproeven in een histogram, dan zie je de steekproevenverdeling (sampling distribution) van het gemiddelde. In het college had die een gemiddelde van 268,51 en een standaardafwijking van 29,92. Ze was veel smaller dan de populatie en vrijwel symmetrisch.

Let op het verschil in woorden: steekproefverdeling is de verdeling van scores binnen één steekproef; steekproevenverdeling is de verdeling van een statistiek over veel steekproeven.

De centrale limietstelling

De centrale limietstelling (CLT) zegt: als de steekproef voldoende groot is (vuistregel $n\ge 30$), dan is de steekproevenverdeling van het gemiddelde bij benadering normaal, ook als de populatie zelf niet normaal verdeeld is. Bovendien geldt:

Het gemiddelde van alle steekproefgemiddelden is gelijk aan het populatiegemiddelde, en de spreiding van de steekproefgemiddelden is de populatiestandaardafwijking gedeeld door de wortel uit $n$. Die laatste grootheid heet de standaardfout (standard error, SE). In het Pink Floyd-voorbeeld: $191,01/\sqrt{35}=32,3$, dicht bij de 29,92 die uit de 300 steekproeven kwam.

Omdat $\sigma$ meestal onbekend is, gebruik je de standaardafwijking van de steekproef:

Voorbeeld. In de practicumopdracht besteden 1004 respondenten gemiddeld 27,28 uur aan hobby's met $\sigma =28,984$. De standaardfout bij $n=1004$ is $28,984/\sqrt{1004}=0,915$. Voor een steekproef van 100 met $s=28,19$ is de standaardfout $28,19/\sqrt{100}=2,82$; voor een steekproef van 10 met $s=31,73$ wordt hij $31,73/\sqrt{10}=10,03$.

Twee dingen vallen op. Een grotere steekproef geeft een kleinere standaardfout: de gemiddelden liggen dichter bij elkaar. En omdat $n$ onder een wortel staat, moet je de steekproef vier keer zo groot maken om de standaardfout te halveren.

Zuiverheid en efficiëntie van een schatter

Een steekproefstatistiek die je gebruikt om een parameter te schatten heet een schatter. Twee eigenschappen bepalen de kwaliteit:

• Zuiverheid (unbiasedness): de schatter zit gemiddeld op de juiste waarde. Het steekproefgemiddelde is een zuivere schatter van $\mu$, omdat ${\mu }_{\bar{x}}=\mu$. In een concrete opdracht noemt de cursus het steekproefgemiddelde dat het verst van het populatiegemiddelde ligt het "minst zuiver".
• Efficiëntie: de schatter heeft weinig spreiding rond de echte waarde, dus een kleine standaardfout. De minst efficiënte schatter is die met de grootste standaardfout.

In de practicumopdracht hadden drie steekproeven van 100 de gemiddelden 27,27, 28,60 en 28,91 bij een populatiegemiddelde van 27,28, en standaardafwijkingen 28,19, 28,80 en 33,39. Steekproef 3 was zowel de minst zuivere (verst van 27,28) als de minst efficiënte (grootste standaardfout, $33,39/10=3,34$). Kleine steekproeven zijn minder efficiënt en hun standaardafwijkingen wisselen sterk, waardoor $s$ een minder goede benadering van $\sigma$ is.

De z-verdeling en de t-verdeling

Een steekproefgemiddelde omrekenen naar een gestandaardiseerde waarde gaat met dezelfde logica als een z-score, maar je deelt door de standaardfout:

Of je hiervoor de z-verdeling of de t-verdeling gebruikt, hangt af van de situatie:

Waarom dikkere staarten? Bij een kleine steekproef is $s$ zelf onzeker, dus je moet ruimer marges nemen. Naarmate $n$ groter wordt, lijkt de t-verdeling steeds meer op de z-verdeling; vanaf ongeveer 30 waarnemingen is het verschil klein (bij df = 24 is de eenzijdige 5%-waarde 1,711 tegen 1,645 voor z). SPSS rekent overigens altijd met de t-verdeling, ook bij grote steekproeven; daarom heet het in SPSS altijd een "t-test".

Overzicht van de kansverdelingen in de cursus