Слушні (консистентні) оцінки
Початковий рівень
Умова
Дана вибірка \({X_1}, \ldots ,{X_n}\), \({X_i} \sim Be\left( p \right)\), \(\theta = p \in \left( {0.1} \right)\) – невідомий параметр.
Перевірити, що \({X_1}\), \({X_1}{X_2}\), \({X_1}\left( {1 - {X_2}} \right)\) є незміщеними оцінками відповідно для
\(p\), \({p^2}\), \(p\left( {1 - p} \right)\). Чи є ці оцінки консистентними?
Розв’язок
1) Перевіримо незміщеність оцінок
Оцінка \(\hat \theta \) скалярного параметра \(\theta \) називається незміщеною, якщо
$$M\hat \theta = \theta, \qquad \forall \theta \in \Theta .$$
Знайдемо математичні сподівання оцінок \({X_1}\), \({X_1}{X_2}\), \({X_1}\left( {1 - {X_2}} \right)\):
а) \({X_1} \sim Be\left( p \right)\), тому \(M{X_1} = p\), отже, оцінка \({X_1}\) є незміщеною для \(p\).
б) Оскільки \({X_1}\) та \({X_2}\) незалежні, то
$$M\left( {{X_1}{X_2}} \right) = M{X_1} \cdot M{X_2} = p \cdot p = {p^2},$$
тому оцінка \({X_1}{X_2}\) є незміщеною для \({p^2}\).
в) Оскільки \({X_1}\) та \({X_2}\) незалежні, то і \({X_1}\) та\(\left( {1 - {X_2}} \right)\) теж незалежні, звідки
$$M\left( {{X_1}\left( {1 - {X_2}} \right)} \right) = M{X_1} \cdot M\left( {1 - {X_2}} \right) = M{X_1} \cdot \left( {M\left( 1 \right) - M{X_2}} \right) = p\left( {1 - p} \right),$$
тому оцінка \({X_1}\left( {1 - {X_2}} \right)\) є незміщеною відносно \(p\left( {1 - p} \right)\).
2) Перевіримо оцінки на консистентність
Оцінка \({\hat \theta _n}\) називається слушною (консистентною), якщо при \(n \to \infty \)
$$ {\hat \theta _n} \xrightarrow{\quad P \quad} \theta, $$
тобто, якщо
$$\forall \varepsilon > 0 \qquad \mathop {\lim }\limits_{n \to \infty } P\left\{ {\left| {{{\hat \theta }_n} - \theta } \right| > \varepsilon } \right\} = 0,$$
що еквівалентно до
$$\forall \varepsilon > 0 \qquad \mathop {\lim }\limits_{n \to \infty } P\left\{ {\left| {{{\hat \theta }_n} - \theta } \right| < \varepsilon } \right\} = 1.$$
Оцінки \({X_1}\), \({X_1}{X_2}\), \({X_1}\left( {1 - {X_2}} \right)\) не залежать від \(n\), тому границю по \(n \to \infty \) можна прибрати.
а) Оцінка \({X_1}\):
$$P\left\{ {\left| {{X_1} - \theta } \right| < \varepsilon } \right\} = P\left\{ { - \varepsilon < {X_1} - \theta < \varepsilon } \right\} = P\left\{ {\theta - \varepsilon < {X_1} < \theta + \varepsilon } \right\}.$$
За властивістю функції розподілу
$$P\left\{ {\theta - \varepsilon < {X_1} < \theta + \varepsilon } \right\} = {F_{{X_1}}}\left( {\theta + \varepsilon } \right) - {F_{{X_1}}}\left( {\theta - \varepsilon } \right).$$
Оскільки \({X_1} \sim Be\left( \theta \right)\), то \({F_{{X_1}}}\) на інтервалі \(\left( {0;1} \right)\) буде приймати значення \(1 - \theta \) . Тоді для кожного \(\theta \in (0;1)\) і досить малих \(\varepsilon \)
$${F_{{X_1}}}\left( {\theta + \varepsilon } \right) - {F_{{X_1}}}\left( {\theta - \varepsilon } \right) = 1 - \theta - 1 + \theta = 0 \ne 1,$$
тобто, оцінка \({X_1}\) параметра \(p\) не буде консистентною.
б) Оцінка \({X_1}{X_2}\).
Зауважимо, що \({X_1}{X_2}\) теж має розподіл Бернуллі, але з параметром \({\theta _1} = {\theta ^2}\). Тоді, аналогічно до пункту 2.а:
$$P\left\{ {\left| {{X_1}{X_2} - {\theta _1}} \right| < \varepsilon } \right\} = P\left\{ { - \varepsilon < {X_1}{X_2} - {\theta _1} < \varepsilon } \right\} = P\left\{ {\theta - \varepsilon < {X_1}{X_2} < {\theta _1} + \varepsilon } \right\} = $$
$$ = {F_{{X_1}{X_2}}}\left( {{\theta _1} + \varepsilon } \right) - {F_{{X_1}{X_2}}}\left( {{\theta _1} - \varepsilon } \right) = 1 - {\theta _1} - 1 + {\theta _1} = 0 \ne 1,$$
тобто, оцінка \({X_1}{X_2}\) параметра \({p^2}\) не буде консистентною.
в) Оцінка \({X_1}\left( {1 - {X_2}} \right)\).
Аналогічно до пункту 2.б \({X_1}\left( {1 - {X_2}} \right)\) має розподіл Бернуллі, але з параметром \({\theta _2} = \theta (1 - \theta )\).
$$P\left\{ {\left| {{X_1}\left( {1 - {X_2}} \right) - {\theta _2}} \right| < \varepsilon } \right\} = P\left\{ { - \varepsilon < {X_1}\left( {1 - {X_2}} \right) - {\theta _2} < \varepsilon } \right\} = P\left\{ {{\theta _2} - \varepsilon < {X_1}\left( {1 - {X_2}} \right) < {\theta _2} + \varepsilon } \right\} = $$
$$ = {F_{{X_1}\left( {1 - {X_2}} \right)}}\left( {{\theta _2} + \varepsilon } \right) - {F_{{X_1}\left( {1 - {X_2}} \right)}}\left( {{\theta _2} - \varepsilon } \right) = 1 - {\theta _2} - 1 + {\theta _2} = 0 \ne 1,$$
тобто, оцінка \({X_1}\left( {1 - {X_2}} \right)\) параметра \(p\left( {1 - p} \right)\) не буде консистентною.
Відповідь: оцінки є незміщеними, але не є консистентними.