Estymacja wartości oczekiwanej (średniej) — estymacja punktowa i przedziałowa

Mgr inż.

Sebastian Dziarmaga-Działyński

Wirtualna kancelaria korepetytorska i konsultacyjna – wszechwiedza.pl

Estymacja wartości oczekiwanej, czyli średniej populacji, pozwala na podstawie danych z próby ocenić przeciętny poziom badanego zjawiska w całej zbiorowości. W artykule omawiamy estymator punktowy średniej, jego własności oraz trzy klasyczne modele budowy przedziału ufności: dla populacji normalnej ze znanym odchyleniem standardowym, dla populacji normalnej z odchyleniem nieznanym oraz dla dużej próby z populacji o dowolnym rozkładzie.

Średnia arytmetyczna jest jedną z najczęściej stosowanych miar opisujących dane. W statystyce matematycznej pojawia się jednak dodatkowe pytanie: czy średnia obliczona z próby dobrze przybliża średnią całej populacji?

Odpowiedź zależy od sposobu doboru próby, jej liczebności, zmienności badanej cechy oraz założeń dotyczących rozkładu populacji. Teoria estymacji pozwala uporządkować te kwestie i zbudować nie tylko jedno oszacowanie średniej, ale również przedział pokazujący niepewność tego oszacowania.

Co estymujemy?

Niech \(X\) oznacza badaną cechę w populacji. Jej wartość oczekiwaną, czyli średnią populacji, oznaczamy symbolem:

\[ \mu=E(X) \]

Parametr \(\mu\) jest zwykle nieznany. Może oznaczać na przykład średni dochód, średni czas oczekiwania na usługę, średni wynik egzaminu, przeciętną masę produktu albo przeciętne zużycie energii.

Losujemy próbę o liczebności \(n\):

\[ X_1,X_2,\ldots,X_n \]

Po przeprowadzeniu badania otrzymujemy konkretne wartości:

\[ x_1,x_2,\ldots,x_n \]

Na ich podstawie chcemy oszacować nieznaną średnią populacji \(\mu\).

Estymacja punktowa średniej populacji

Najbardziej naturalnym estymatorem wartości oczekiwanej jest średnia arytmetyczna z próby:

\[ \overline{X}= \frac{1}{n}\sum_{i=1}^{n}X_i \]

Po podstawieniu zaobserwowanych danych otrzymujemy oszacowanie punktowe średniej populacji:

\[ \overline{x}= \frac{1}{n}\sum_{i=1}^{n}x_i \]

Jeżeli przykładowo średnia liczba punktów uzyskanych przez 20 osób wynosi 72,4, to 72,4 jest oszacowaniem średniego wyniku w całej populacji, z której pochodziła próba.

Czy średnia z próby jest zawsze „najlepsza”?

Średnia z próby jest standardowym i bardzo ważnym estymatorem średniej populacji. Jest nieobciążona i zgodna, a w klasycznym modelu normalnym ma szczególnie dobre własności. Nie istnieje jednak jeden estymator, który byłby bezwarunkowo najlepszy w każdym możliwym modelu i według każdego kryterium jakości.

Własności średniej z próby jako estymatora

Zakładając, że obserwacje w próbie są niezależne i pochodzą z populacji o średniej \(\mu\) oraz wariancji \(\sigma^2\), dla średniej z próby zachodzą zależności:

\[ E(\overline{X})=\mu \]

\[ Var(\overline{X})=\frac{\sigma^2}{n} \]

Pierwszy wzór oznacza, że średnia z próby jest nieobciążonym estymatorem średniej populacji. Gdybyśmy wielokrotnie losowali próby o tej samej liczebności i za każdym razem liczyli średnią, średnia z tych oszacowań byłaby równa \(\mu\).

Drugi wzór mówi, że wariancja średniej z próby maleje wraz ze wzrostem \(n\). Im większa próba, tym mniejsza jest losowa zmienność oszacowania.

Odchylenie standardowe rozkładu średniej z próby nosi nazwę błędu standardowego średniej:

\[ SE(\overline{X})= \frac{\sigma}{\sqrt{n}} \]

Jeżeli populacja ma skończoną wariancję, średnia z próby jest również estymatorem zgodnym:

\[ \overline{X}\xrightarrow{P}\mu \]

Oznacza to, że wraz ze wzrostem liczebności próby prawdopodobieństwo dużego odchylenia średniej z próby od rzeczywistej średniej populacji staje się coraz mniejsze.

Czym jest przedział ufności?

Estymacja punktowa daje jedną liczbę, na przykład \(\overline{x}=72{,}4\). Nie pokazuje jednak, jak duża jest niepewność związana z losowym doborem próby.

Przedział ufności uzupełnia oszacowanie punktowe o zakres wartości, który został wyznaczony na podstawie danych, założeń modelu oraz przyjętego współczynnika ufności.

\[ \text{oszacowanie punktowe} \pm \text{margines błędu} \]

Najczęściej przyjmuje się współczynnik ufności równy \(1-\alpha=0{,}95\), czyli 95%. W klasycznej interpretacji oznacza to, że gdyby tę samą procedurę powtarzać bardzo wiele razy na niezależnych próbach, około 95% otrzymanych przedziałów zawierałoby prawdziwą średnią populacji \(\mu\).

Wyższy współczynnik ufności wymaga większej ostrożności, dlatego prowadzi do szerszego przedziału. Przedział 99-procentowy jest zatem szerszy niż przedział 95-procentowy zbudowany na podstawie tych samych danych.

Dlaczego nie żądać przedziału ufności 100%?

W klasycznych wzorach dla przedziałów ufności, gdy współczynnik ufności dąży do 100%, odpowiednia wartość krytyczna dąży do nieskończoności. Nie można więc otrzymać użytecznego skończonego przedziału ufności o pokryciu równym dokładnie 100%.

Dla średniej populacji zbiorem zawierającym ją na pewno jest całe \(\mathbb{R}\). Taki „przedział” byłby formalnie bezbłędny, ale całkowicie nieużyteczny. Dla wariancji lub odchylenia standardowego analogicznym zbiorem byłby przedział \([0,\infty)\). Przedziały ufności zawsze są więc kompromisem między pewnością a informacyjnością.

Trzy modele estymacji przedziałowej średniej

W klasycznych zadaniach dotyczących średniej populacji najczęściej spotyka się trzy modele. Różnią się one założeniami dotyczącymi rozkładu populacji, znajomości odchylenia standardowego w tejże populacji oraz liczebności próby.

Model	Założenia	Rozkład wartości krytycznej
1	Populacja normalna, \(\sigma\) znane.	Normalny standaryzowany.
2	Populacja normalna, \(\sigma\) nieznane.	t-Studenta z \(n-1\) stopniami swobody.
3	Populacja o dowolnym rozkładzie, próba duża, wariancja skończona.	W przybliżeniu normalny standaryzowany.

W modelach drugim i trzecim odchylenie standardowe populacji jest nieznane. Zastępujemy je wtedy wielkością obliczoną z próby.

Model 1: populacja normalna i znane odchylenie standardowe

Zakładamy, że populacja ma rozkład normalny:

\[ X\sim N(\mu,\sigma^2) \]

oraz że odchylenie standardowe populacji \(\sigma\) jest znane. Nie chodzi tutaj o odchylenie obliczone z bieżącej próby, lecz o wartość znaną wcześniej, na przykład z dobrze kontrolowanego procesu technologicznego albo z wiarygodnych danych historycznych.

Wtedy statystyka:

\[ Z= \frac{\overline{X}-\mu}{\sigma/\sqrt{n}} \]

ma rozkład normalny standaryzowany \(N(0,1)\). Dwustronny przedział ufności dla średniej populacji ma postać:

\[ \left( \overline{x} - u_{\alpha/2}\frac{\sigma}{\sqrt{n}}, \; \overline{x} + u_{\alpha/2}\frac{\sigma}{\sqrt{n}} \right) \]

Symbol \(u_{\alpha/2}\) oznacza dodatnią wartość krytyczną rozkładu normalnego spełniającą warunek:

\[ P(Z>u_{\alpha/2})=\frac{\alpha}{2} \]

Dla współczynnika ufności 95% mamy \(\alpha=0{,}05\), a wartość krytyczna wynosi około \(u_{0{,}025}=1{,}96\). Można ją odczytać z tablicy rozkładu normalnego i kalkulatora.

Model 2: populacja normalna i nieznane odchylenie standardowe

Ten model jest bardzo częsty w zadaniach. Zakładamy nadal normalność populacji, ale nie znamy jej odchylenia standardowego \(\sigma\). Zastępujemy je odchyleniem wyznaczonym na podstawie próby.

Najpierw definiujemy skorygowaną wariancję z próby:

\[ S^2= \frac{1}{n-1} \sum_{i=1}^{n}(x_i-\overline{x})^2 \]

oraz odpowiadające jej odchylenie standardowe:

\[ S=\sqrt{S^2} \]

Jeżeli populacja ma rozkład normalny, to statystyka:

\[ T= \frac{\overline{X}-\mu}{S/\sqrt{n}} \]

ma rozkład t-Studenta z \(n-1\) stopniami swobody. Stąd dwustronny przedział ufności dla średniej ma postać:

\[ \left( \overline{x} - t_{\alpha/2;n-1}\frac{S}{\sqrt{n}}, \; \overline{x} + t_{\alpha/2;n-1}\frac{S}{\sqrt{n}} \right) \]

Wartość \(t_{\alpha/2;n-1}\) odczytuje się dla \(n-1\) stopni swobody. Dla współczynnika ufności 95% korzystamy z wartości odpowiadającej prawdopodobieństwu \(\alpha/2=0{,}025\) w prawym ogonie. Wartości krytyczne można odczytać z tablicy rozkładu t-Studenta i kalkulatora.

Mała próba wymaga założenia normalności

Jeżeli próba jest mała, a odchylenie standardowe populacji jest nieznane, klasyczny przedział oparty na rozkładzie t-Studenta wymaga założenia, że badana populacja ma rozkład normalny.

W zadaniu, które nie podaje tego wprost, ale prowadzi do użycia rozkładu t-Studenta, warto napisać: „Przyjmujemy założenie, że badana populacja ma rozkład normalny”. Pominięcie tego założenia może być uznane za błąd merytoryczny, zwłaszcza przy niewielkiej liczebności próby.

Model 3: dowolny rozkład populacji i duża próba

W trzecim modelu nie zakładamy, że populacja ma rozkład normalny. Wymagamy jednak, aby jej wariancja była skończona oraz aby próba była dostatecznie duża.

Podstawą jest centralne twierdzenie graniczne. Mówi ono, że dla dużych prób rozkład odpowiednio wystandaryzowanej średniej z próby jest w przybliżeniu normalny:

\[ \frac{\overline{X}-\mu}{\sigma/\sqrt{n}} \approx N(0,1) \]

Ponieważ \(\sigma\) jest najczęściej nieznane, w praktyce zastępujemy je odchyleniem standardowym wyznaczonym z próby. Otrzymujemy przybliżony przedział ufności:

\[ \left( \overline{x} - u_{\alpha/2}\frac{S}{\sqrt{n}}, \; \overline{x} + u_{\alpha/2}\frac{S}{\sqrt{n}} \right) \]

W podręcznikowych zadaniach często przyjmuje się orientacyjnie, że próba jest duża, gdy \(n\geq30\). Nie jest to jednak sztywna granica matematyczna. Jeżeli rozkład populacji jest silnie asymetryczny, ma bardzo ciężkie ogony albo zawiera liczne obserwacje nietypowe, nawet próba o liczebności 30 może nie wystarczyć do uzyskania dobrego przybliżenia normalnego.

Jeżeli próba jest mała, populacja nie ma rozkładu normalnego, a normalności nie wolno założyć, nie należy automatycznie stosować klasycznego przedziału t-Studenta. W takiej sytuacji potrzebne mogą być metody bardziej zaawansowane, na przykład procedury bootstrapowe lub metody nieparametryczne.

Dlaczego raz występuje n, a innym razem n − 1?

To jeden z najczęstszych powodów pomyłek w zadaniach dotyczących estymacji średniej. Problem wynika z tego, że różne podręczniki i programy mogą oznaczać symbolem \(s\) różnie zdefiniowane odchylenie standardowe z próby.

Odchylenie standardowe obliczone z mianownikiem \(n\) zapisujemy tutaj jako:

\[ s_n= \sqrt{ \frac{1}{n} \sum_{i=1}^{n}(x_i-\overline{x})^2 } \]

Natomiast odchylenie standardowe oparte na skorygowanej wariancji z mianownikiem \(n-1\) oznaczamy jako \(S\):

\[ S= \sqrt{ \frac{1}{n-1} \sum_{i=1}^{n}(x_i-\overline{x})^2 } \]

Między tymi wielkościami zachodzi zależność:

\[ S^2=\frac{n}{n-1}s_n^2 \]

Po podzieleniu przez pierwiastek z liczebności próby otrzymujemy:

\[ \frac{S}{\sqrt{n}} = \frac{s_n}{\sqrt{n-1}} \]

Oznacza to, że przedział ufności w modelu drugim można zapisać na dwa równoważne sposoby:

\[ \overline{x} \pm t_{\alpha/2;n-1}\frac{S}{\sqrt{n}} \]

albo:

\[ \overline{x} \pm t_{\alpha/2;n-1}\frac{s_n}{\sqrt{n-1}} \]

Praktyczna zasada

Najpierw sprawdź, jak w zadaniu lub programie zdefiniowano odchylenie standardowe. Jeżeli masz \(S\) oparte na mianowniku \(n-1\), dzielisz je przez \(\sqrt n\). Jeżeli masz \(s_n\) oparte na mianowniku \(n\), dzielisz je przez \(\sqrt{n-1}\).

Nie należy mieszać tych zapisów. Użycie \(s_n/\sqrt n\) prowadziłoby do zaniżenia błędu standardowego, a więc do zbyt wąskiego przedziału ufności.

Warto też pamiętać o terminologii. Skorygowana wariancja \(S^2\) jest nieobciążonym estymatorem wariancji \(\sigma^2\), ale jej pierwiastek \(S\) nie jest w ścisłym sensie nieobciążonym estymatorem odchylenia standardowego \(\sigma\). Mimo to w praktyce \(S\) jest powszechnie stosowane jako standardowe oszacowanie rozproszenia populacji.

Przykład: 95-procentowy przedział ufności dla średniej

W próbie dziesięciu obserwacji otrzymano wartości:

\[ 12,\;14,\;15,\;16,\;16,\;17,\;18,\;18,\;19,\;20 \]

Zakładamy, że próba pochodzi z populacji o rozkładzie normalnym. Odchylenie standardowe populacji jest nieznane. Stosujemy więc model drugi, oparty na rozkładzie t-Studenta.

Krok 1. Liczebność i średnia z próby

\[ n=10 \]

\[ \overline{x} = \frac{12+14+15+16+16+17+18+18+19+20}{10} = 16{,}5 \]

Krok 2. Skorygowane odchylenie standardowe

Suma kwadratów odchyleń od średniej wynosi:

\[ \sum_{i=1}^{10}(x_i-\overline{x})^2=52{,}5 \]

Skorygowana wariancja z próby:

\[ S^2 = \frac{52{,}5}{10-1} = 5{,}8333 \]

\[ S = \sqrt{5{,}8333} \approx 2{,}4152 \]

Krok 3. Wartość krytyczna

Przy współczynniku ufności 95% mamy:

\[ \alpha=0{,}05 \]

Liczba stopni swobody wynosi:

\[ \nu=n-1=9 \]

Z tablicy rozkładu t-Studenta odczytujemy:

\[ t_{0{,}025;9}\approx2{,}262 \]

Krok 4. Margines błędu

\[ d = t_{0{,}025;9} \frac{S}{\sqrt n} = 2{,}262 \cdot \frac{2{,}4152}{\sqrt{10}} \approx 1{,}73 \]

Krok 5. Przedział ufności

\[ \left( 16{,}5-1{,}73, \; 16{,}5+1{,}73 \right) \]

\[ (14{,}77;\;18{,}23) \]

Otrzymujemy 95-procentowy przedział ufności dla średniej populacji równy w przybliżeniu \((14{,}77;\;18{,}23)\).

Gdyby w tym samym przykładzie korzystać z odchylenia obliczonego z mianownikiem \(n\), otrzymalibyśmy \(s_n\approx2{,}2913\). Należałoby wtedy użyć równoważnego błędu standardowego:

\[ \frac{s_n}{\sqrt{n-1}} = \frac{2{,}2913}{\sqrt9} \approx 0{,}7638 \]

Jest to dokładnie ta sama wartość co:

\[ \frac{S}{\sqrt n} = \frac{2{,}4152}{\sqrt{10}} \approx 0{,}7638 \]

Najczęstsze błędy przy estymacji średniej

Używanie rozkładu normalnego zamiast t-Studenta przy małej próbie i nieznanym odchyleniu standardowym populacji.
Pomijanie założenia normalności populacji w modelu z małą próbą.
Mylenie odchylenia standardowego populacji \(\sigma\) z odchyleniem standardowym wyznaczonym z próby.
Stosowanie wartości krytycznej \(t_{\alpha;n-1}\) zamiast \(t_{\alpha/2;n-1}\) w przedziale dwustronnym.
Nieprawidłowe mieszanie mianowników \(n\) i \(n-1\) przy obliczaniu błędu standardowego.
Traktowanie progu \(n=30\) jako bezwzględnego prawa matematycznego.
Interpretowanie 95-procentowego przedziału ufności jako dosłownego 95-procentowego prawdopodobieństwa dla już ustalonego parametru.

Podsumowanie

Średnia arytmetyczna z próby jest podstawowym estymatorem wartości oczekiwanej populacji. Jest nieobciążona, zgodna, a jej zmienność maleje wraz ze wzrostem liczebności próby.

Gdy populacja ma rozkład normalny i znamy \(\sigma\), stosujemy rozkład normalny standaryzowany.
Gdy populacja ma rozkład normalny, ale \(\sigma\) jest nieznane, stosujemy rozkład t-Studenta z \(n-1\) stopniami swobody.
Gdy populacja ma dowolny rozkład, ale próba jest duża i wariancja skończona, korzystamy z przybliżenia normalnego wynikającego z centralnego twierdzenia granicznego.
Przedział ufności staje się szerszy, gdy rośnie współczynnik ufności, zmienność danych lub gdy maleje liczebność próby.
Przy stosowaniu wzorów trzeba zawsze sprawdzić, czy odchylenie standardowe zostało obliczone z mianownikiem \(n\), czy z mianownikiem \(n-1\).

Powiązane artykuły

Masz problem z tym tematem?

Wszechwiedza.pl pomaga zrozumieć matematykę, statystykę, ekonometrię, badania operacyjne, analizę danych, mechanikę, rachunkowość i wiele innych przedmiotów — spokojnie, konkretnie i krok po kroku.

Zapytaj o pomoc