Параметры и статистики выборки

Параметр генеральной совокупности - числовая характеристика всей интересующей совокупности. Выборочная статистика - величина, рассчитанная по данным конкретной выборки. Статистики используются для описания собранных данных и оценки неизвестных параметров.

Например, истинная средняя продолжительность сна всех первокурсников региона является параметром. Средняя продолжительность сна 318 обследованных студентов является выборочной статистикой и служит оценкой этого параметра.

Основные обозначения

Характеристика	Генеральная совокупность	Выборка
Число единиц	$N$	$n$
Среднее	$\mu$	$\bar{x}$
Дисперсия	${\sigma }^2$	$s^2$
Стандартное отклонение	$\sigma$	$s$
Доля единиц с признаком	$p$	$\hat{p}$
Коэффициент корреляции	$\rho$	$r$

Обозначения могут различаться в книгах и программах, поэтому в отчёте важно пояснять использованные символы.

Параметр и его оценка

Параметр относится ко всей генеральной совокупности и обычно неизвестен. Если состав совокупности зафиксирован, параметр также считается фиксированной величиной. Выборочная статистика зависит от того, какие единицы попали в выборку, поэтому при новом отборе её значение может измениться.

Например, выборочное среднее рассчитывается как:

$$\bar{x}=\frac{1}{n}\sum _{i=1}^n{x}_i.$$

Оно используется как оценка среднего генеральной совокупности $\mu$. Выборочная доля:

$$\hat{p}=\frac{x}{n},$$

где $x$ - число участников с интересующим признаком, оценивает долю $p$ в генеральной совокупности.

Выборочная дисперсия обычно рассчитывается с делением на $n-1$:

$$s^2=\frac{1}{n-1}\sum _{i=1}^n(x_i-\bar{x}{)}^2.$$

Поправка $n-1$ нужна, поскольку отклонения рассчитываются от выборочного среднего, уже найденного по тем же данным. Если наблюдения независимы, получены из одного распределения и его дисперсия конечна, математическое ожидание $s^2$ равно дисперсии генеральной совокупности ${\sigma }^2$.

Точечная и интервальная оценки параметров

Точечная оценка - одно число, рассчитанное по выборке для оценки параметра. Например, $\bar{x}=6.7$ часа является точечной оценкой средней продолжительности сна.

Одна величина не показывает точность оценки. Для этого строят доверительный интервал, который задаёт диапазон значений, совместимых с данными и выбранной процедурой расчёта.

Например, запись

$$\bar{x}=6.7,95\%\text{ДИ}[6.58;6.82]$$

сообщает и оценку среднего, и степень её неопределённости.

Выборочное распределение и стандартная ошибка

Если многократно получать выборки одинакового размера из одной генеральной совокупности, рассчитанные статистики образуют выборочное распределение. Его разброс показывает, насколько сильно статистика меняется от выборки к выборке.

Стандартная ошибка - стандартное отклонение выборочного распределения статистики. Для среднего при независимых наблюдениях она оценивается как:

$$S{E}_{\bar{x}}=\frac{s}{\sqrt{n}}.$$

Для выборочной доли часто используют оценку:

$$S{E}_{\hat{p}}=\sqrt{\frac{\hat{p}(1-\hat{p})}{n}}.$$

Эти формулы применимы при простом случайном отборе и независимых наблюдениях. Для кластерных, взвешенных и других сложных выборок стандартную ошибку рассчитывают с учётом плана отбора.

Стандартное отклонение и стандартная ошибка отвечают на разные вопросы:

• Стандартное отклонение описывает разброс отдельных значений внутри выборки.
• Стандартная ошибка описывает неопределённость выборочной статистики как оценки параметра.

Свойства хорошей оценки

При выборе статистики учитывают несколько свойств:

• Несмещённость: при многократном повторении среднее значение оценки совпадает с параметром. $$E(\hat{\theta })=\theta .$$
• Состоятельность: при росте выборки оценка приближается к параметру.
• Точность: значения оценки мало меняются между повторными выборками; стандартная ошибка невелика.
• Устойчивость: отдельные крайние наблюдения и небольшие отклонения от предположений не меняют вывод непропорционально сильно.

Одна оценка не всегда обладает всеми свойствами одновременно. Например, среднее хорошо использует числовую информацию, но чувствительно к крайним значениям; медиана устойчивее, однако отвечает на другой вопрос о распределении.

Описательные статистики и статистический вывод

Одна и та же статистика может применяться на двух уровнях:

• Описание выборки: $\bar{x}=6.7$ сообщает среднее среди обследованных участников.
• Оценка параметра: то же значение используется как приближение неизвестного $\mu$ для целевой совокупности.

Возможность оценивать параметр целевой совокупности зависит от способа отбора, выборочной ошибки и смещения и репрезентативности. Необходимо знать, какие группы отсутствовали в основе выборки, кто отказался или выбыл и учитывались ли неодинаковые вероятности включения. Правильно рассчитанное число может точно описывать выборку, но систематически отличаться от параметра целевой совокупности.

Пример

В выборке из $n=318$ первокурсников средняя продолжительность сна составила $\bar{x}=6.7$ часа, стандартное отклонение - $s=1.1$ часа, а 98 участников спали менее шести часов.

Выборочная доля короткого сна равна:

$$\hat{p}=\frac{98}{318}\approx \mathrm{0.308.}$$

В этом примере $n$, $\bar{x}$, $s$ и $\hat{p}$ являются статистиками выборки. Соответствующие $N$, $\mu$, $\sigma$ и $p$ генеральной совокупности остаются неизвестными. Чтобы перейти от описания 318 студентов к выводу обо всех первокурсниках региона, необходимо учитывать способ отбора и неопределённость оценок.

Важные замечания

• Параметр и выборочная статистика - не взаимозаменяемые понятия.
• Большее $n$ обычно уменьшает стандартную ошибку, но не устраняет систематическое смещение.
• При повторных измерениях, парных данных и кластерах простые формулы стандартной ошибки могут быть неприменимы.
• Вместе с точечной оценкой желательно сообщать доверительный интервал и размер выборки.
• Перед расчётом важно определить, какой именно параметр отвечает на исследовательский вопрос: среднее, медиана, доля, разница групп, корреляция или другая величина.