Вопросы после параграфа §43 на странице 211, ГДЗ по математике за 10 и 11 класс к учебнику Высоцкого. Вероятность и статистика базовый и углубленный уровни
Выборочная оценка \(\hat{\theta}\) неизвестного параметра \(\theta\) называется состоятельной, если вероятность любого различия между \(\hat{\theta}\) и \(\theta\) стремится к нулю: \(\mathrm{P}(|\hat{\theta} - \theta| > a) \to 0\) для любого \(a > 0\) при \(n \to \infty\), где \(n\) — объём выборки.
Существенны оба требования: число \(a\) задаётся заранее и может быть каким угодно малым, а к нулю стремится не само различие, а его вероятность.
Пусть бросают игральный кубик и оценивают \(\theta = \mathrm{E}X = 3{,}5\), где \(X\) — число выпавших очков. Среднее всей выборки \(\hat{\theta} = \overline{X}\) состоятельно: его дисперсия \(\mathrm{D}\hat{\theta} = \frac{35}{12n}\) убывает с ростом числа бросков.
Первое наблюдение \(\hat{\theta} = X_1\) несостоятельно: дисперсия \(\mathrm{D}\hat{\theta} = \mathrm{D}X = \frac{35}{12}\) от \(n\) не зависит, разброс не уменьшается, и вероятность различия больше чем на \(a = 0{,}5\) к нулю не стремится.
Ответ: состоятельной называется выборочная оценка \(\hat{\theta}\) неизвестного параметра \(\theta\), у которой вероятность любого различия между \(\hat{\theta}\) и \(\theta\) стремится к нулю: \(\mathrm{P}(|\hat{\theta} - \theta| > a) \to 0\) для любого \(a > 0\) при \(n \to \infty\), где \(n\) — объём выборки; проще говоря, чем больше выборка, тем с большей вероятностью такая оценка близка к оцениваемому параметру.
Оценка \(\hat{\theta}\) неизвестного параметра \(\theta\) называется несмещённой, если \(\mathrm{E}\hat{\theta} = \theta\); если же \(\mathrm{E}\hat{\theta} \ne \theta\), оценку называют смещённой, а разность между \(\mathrm{E}\hat{\theta}\) и \(\theta\) — смещением.
Абсолютно точной оценки не бывает, но у несмещённой оценки ошибка не систематическая, а случайная: её значения группируются вокруг самого \(\theta\), и отклонения в разные стороны в среднем гасят друг друга. У смещённой оценки ошибка повторяется в одну и ту же сторону, и увеличением числа наблюдений её не изжить.
При бросании игрального кубика \(\theta = \mathrm{E}X = 3{,}5\), и оценка «первое выпавшее число» несмещённая: \(\mathrm{E}\hat{\theta} = \mathrm{E}X_1 = \mathrm{E}X = 3{,}5\). Оценка «наименьшее из выпавших чисел» смещённая: наименьшее из чисел не больше первого из них, а при двух и более бросках с положительной вероятностью строго меньше, поэтому \(\mathrm{E}\hat{\theta} < 3{,}5\).
Ответ: оценка \(\hat{\theta}\) неизвестного параметра \(\theta\) называется несмещённой, если \(\mathrm{E}\hat{\theta} = \theta\); она лучше смещённой тем, что её ошибка не систематическая, а случайная — оценка группируется вокруг самого \(\theta\), и её отклонения в разные стороны в среднем гасят друг друга, тогда как у смещённой оценки ошибка повторяется в одну и ту же сторону и не исчезает от увеличения числа наблюдений.
Вероятность \(p\) выпадения орла — свойство самой монеты: она определяется её формой и распределением массы и от бросков не зависит, значит, \(p\) — неизвестная постоянная величина; неизвестность и случайность — разные вещи.
Оценка \(\hat{p}\) построена по выборке — результатам ста бросаний: повторим ту же серию, и орлов выпадет, скорее всего, другое число, а с ним другим получится и значение \(\hat{p}\). Значит, случайная величина здесь — оценка \(\hat{p}\).
Ответ: случайной является оценка \(\hat{p}\) — она зависит от выборки и при повторении ста бросаний получилась бы другой; вероятность \(p\) выпадения орла — неизвестная постоянная величина, свойство самой монеты, и от опыта она не зависит.
Оцениваемый параметр \(\theta\) — средний объём варенья во всех банках этого сорта, то есть математическое ожидание \(\mathrm{E}X\) величины \(X\) «объём варенья в случайно взятой банке». Три банки с полки — выборка объёмом \(n = 3\), а число \(0{,}5\) л на этикетке в оценку не входит: это обещание изготовителя, а не измерение.
\(X_1\), \(X_2\), \(X_3\) — измеренные объёмы варенья в трёх банках в том порядке, в каком они стояли на полке; банки взяты наугад, поэтому величины независимы и подчинены одному распределению.
Первая оценка — объём варенья в первой банке: \[\hat{\theta} = X_1.\]
Вторая оценка — полусумма первого и последнего наблюдений: \[\hat{\theta} = \frac{X_1 + X_3}{2}.\]
Третья оценка — среднее арифметическое всей выборки: \[\hat{\theta} = \overline{X} = \frac{X_1 + X_2 + X_3}{3}.\]
Все три оценки несмещённые: \(\mathrm{E}X_1 = \mathrm{E}X = \theta\); \(\mathrm{E}\left(\frac{X_1 + X_3}{2}\right) = \frac{1}{2}(\theta + \theta) = \theta\); \(\mathrm{E}\overline{X} = \frac{1}{3}(\theta + \theta + \theta) = \theta\).
Наблюдения независимы, поэтому дисперсии оценок равны \(\mathrm{D}X\), \(\frac{\mathrm{D}X}{2}\) и \(\frac{\mathrm{D}X}{3}\): наименьший разброс у третьей оценки — она одна использует все три измерения.
Третья оценка — и единственная состоятельная: дисперсия среднего арифметического \(\frac{\mathrm{D}X}{n}\) убывает с ростом \(n\), и с ростом числа обследованных банок оценка приближается к \(\theta\), а у двух первых оценок разброс от числа банок не зависит вовсе.
Ответ: три оценки среднего объёма варенья во всех таких банках по измерениям \(X_1\), \(X_2\), \(X_3\) трёх банок с полки: \(\hat{\theta} = X_1\); \(\hat{\theta} = \frac{X_1 + X_3}{2}\); \(\hat{\theta} = \overline{X} = \frac{X_1 + X_2 + X_3}{3}\). Все три несмещённые, а лучшая — третья: её дисперсия \(\frac{\mathrm{D}X}{3}\) наименьшая, и только она с ростом числа обследованных банок приближается к оцениваемому среднему объёму, то есть состоятельна.
Выборочная оценка \(\hat{\theta}\) неизвестного параметра \(\theta\) называется состоятельной, если вероятность любого различия между \(\hat{\theta}\) и \(\theta\) стремится к нулю, то есть \(\mathrm{P}(|\hat{\theta} - \theta| > a) \to 0\) для любого \(a > 0\) при \(n \to \infty\), где \(n\) — объём выборки. Коротко это выражают так: состоятельная оценка стремится к \(\theta\), имея в виду, что с большой вероятностью \(\hat{\theta}\) тем ближе к \(\theta\), чем больше выборка.
В определении существенны оба требования. Число \(a\) задаётся заранее и может быть каким угодно малым — именно поэтому оценка обязана приближаться к параметру сколь угодно точно. И стремление к нулю относится не к самому различию, а к его вероятности: отдельная выборка может оказаться неудачной при любом объёме, но с ростом \(n\) это становится всё менее вероятным.
Например, пусть бросают игральный кубик и оценивают \(\theta = \mathrm{E}X = 3{,}5\), где \(X\) — число выпавших очков. Среднее всей выборки \(\hat{\theta} = \overline{X}\) — оценка состоятельная: её дисперсия \(\mathrm{D}\hat{\theta} = \frac{35}{12n}\) убывает с ростом числа бросков, и при большом \(n\) среднее практически наверняка оказывается близко к \(3{,}5\). А первое наблюдение \(\hat{\theta} = X_1\) — оценка несостоятельная: её дисперсия \(\mathrm{D}\hat{\theta} = \mathrm{D}X = \frac{35}{12}\) от \(n\) не зависит, разброс не уменьшается, и вероятность различия больше чем на \(a = 0{,}5\) не стремится к нулю, сколько бросков ни делай.
Ответ: состоятельной называется выборочная оценка \(\hat{\theta}\) неизвестного параметра \(\theta\), у которой вероятность любого различия между \(\hat{\theta}\) и \(\theta\) стремится к нулю: \(\mathrm{P}(|\hat{\theta} - \theta| > a) \to 0\) для любого \(a > 0\) при \(n \to \infty\), где \(n\) — объём выборки; проще говоря, чем больше выборка, тем с большей вероятностью такая оценка близка к оцениваемому параметру.
Оценка \(\hat{\theta}\) неизвестного параметра \(\theta\) называется несмещённой, если \(\mathrm{E}\hat{\theta} = \theta\), то есть если математическое ожидание оценки равно самому оцениваемому параметру. Если же \(\mathrm{E}\hat{\theta} \ne \theta\), оценку называют смещённой, а разность между \(\mathrm{E}\hat{\theta}\) и \(\theta\) — смещением.
Чем несмещённая оценка лучше. Бесконечную выборку сделать нельзя, поэтому абсолютно точной оценки не будет: какая-то ошибка почти наверняка останется. Несмещённость означает, что эта ошибка не систематическая, а случайная, порождённая лишь случайными колебаниями: значения оценки группируются вокруг самого \(\theta\), и отклонения в разные стороны в среднем гасят друг друга. У смещённой оценки ошибка повторяется в одну и ту же сторону при каждом повторении опыта, и увеличением числа наблюдений её не изжить — сколько ни усредняй, центр, вокруг которого группируется оценка, остаётся сдвинутым относительно \(\theta\). Если уподобить оценивание стрельбе из ружья по точке \(\theta\), то несмещённость значит, что прицел не сбит и оценка «целится» точно в \(\theta\).
Например, при бросании игрального кубика \(\theta = \mathrm{E}X = 3{,}5\), и оценка «первое выпавшее число» несмещённая: \(\mathrm{E}\hat{\theta} = \mathrm{E}X_1 = \mathrm{E}X = 3{,}5\). А оценка «наименьшее из выпавших чисел» смещённая: наименьшее из чисел не больше первого из них, а при двух и более бросках с положительной вероятностью строго меньше, поэтому \(\mathrm{E}\hat{\theta} < 3{,}5\). Смещение здесь направлено в одну сторону — вниз, и чем больше бросков, тем оно сильнее: наименьшее значение уходит к \(1\).
Ответ: оценка \(\hat{\theta}\) неизвестного параметра \(\theta\) называется несмещённой, если \(\mathrm{E}\hat{\theta} = \theta\); она лучше смещённой тем, что её ошибка не систематическая, а случайная — оценка группируется вокруг самого \(\theta\), и её отклонения в разные стороны в среднем гасят друг друга, тогда как у смещённой оценки ошибка повторяется в одну и ту же сторону и не исчезает от увеличения числа наблюдений.
Случайная величина здесь — оценка \(\hat{p}\).
Вероятность \(p\) выпадения орла — свойство самой монеты: она определяется её формой и распределением массы и не меняется ни от бросков, ни от того, знаем мы её или нет. Значит, \(p\) — неизвестная постоянная величина. То, что число \(p\) нам неизвестно, случайным его не делает: неизвестность и случайность — разные вещи.
Оценка же \(\hat{p}\) построена по результатам ста бросаний, то есть по выборке. Повторим ту же серию из ста бросаний ещё раз — орлов выпадет, скорее всего, другое число, и значение \(\hat{p}\) получится другим. Оценка зависит от выборки, а выборка случайна; поэтому \(\hat{p}\) — случайная величина. При этом значение \(\hat{p}\) после опыта известно, а постоянная \(p\) остаётся неизвестной: именно ради приближённого знания о \(p\) и строят оценку.
Ответ: случайной является оценка \(\hat{p}\) — она зависит от выборки и при повторении ста бросаний получилась бы другой; вероятность \(p\) выпадения орла — неизвестная постоянная величина, свойство самой монеты, и от опыта она не зависит.
Оцениваемый параметр \(\theta\) — средний объём варенья во всех банках этого сорта, то есть математическое ожидание \(\mathrm{E}X\) случайной величины \(X\) «объём варенья в случайно взятой банке». Три банки с полки — это не генеральная совокупность, а выборка из неё объёмом \(n = 3\). Число \(0{,}5\) л на этикетке — не измерение, а обещание изготовителя, поэтому в оценку оно не входит: варенья в банке может быть и чуть больше, и чуть меньше.
Измерим объём варенья в каждой из трёх банок и обозначим результаты \(X_1\), \(X_2\), \(X_3\) в том порядке, в каком банки стояли на полке. Банки взяты с полки наугад, поэтому эти три величины независимы и подчинены одному распределению — распределению объёма варенья в банке. Из них и составляются оценки.
Первая оценка — объём варенья в первой банке: \[\hat{\theta} = X_1.\]
Вторая оценка — полусумма первого и последнего наблюдений: \[\hat{\theta} = \frac{X_1 + X_3}{2}.\]
Третья оценка — среднее арифметическое всей выборки: \[\hat{\theta} = \overline{X} = \frac{X_1 + X_2 + X_3}{3}.\]
Все три оценки несмещённые, поскольку математическое ожидание каждой равно \(\theta\): \(\mathrm{E}X_1 = \mathrm{E}X = \theta\); \(\mathrm{E}\left(\frac{X_1 + X_3}{2}\right) = \frac{1}{2}(\theta + \theta) = \theta\); \(\mathrm{E}\overline{X} = \frac{1}{3}(\theta + \theta + \theta) = \theta\).
Лучшая из трёх — третья. Наблюдения независимы, поэтому дисперсия суммы равна сумме дисперсий, и дисперсии оценок таковы: у первой \(\mathrm{D}\hat{\theta} = \mathrm{D}X\), у второй \(\mathrm{D}\hat{\theta} = \frac{1}{4}(\mathrm{D}X_1 + \mathrm{D}X_3) = \frac{\mathrm{D}X}{2}\), у третьей \(\mathrm{D}\hat{\theta} = \frac{\mathrm{D}X}{3}\). Разброс третьей оценки втрое меньше, чем у первой, и в полтора раза меньше, чем у второй, — она одна использует все три измерения. Важнее другое: если обследовать не три банки, а всё больше, дисперсия среднего арифметического \(\frac{\mathrm{D}X}{n}\) убывает с ростом \(n\), и только эта оценка приближается к \(\theta\), то есть состоятельна; у двух первых оценок разброс от числа обследованных банок не зависит вовсе.
Ответ: три оценки среднего объёма варенья во всех таких банках по измерениям \(X_1\), \(X_2\), \(X_3\) трёх банок с полки: \(\hat{\theta} = X_1\); \(\hat{\theta} = \frac{X_1 + X_3}{2}\); \(\hat{\theta} = \overline{X} = \frac{X_1 + X_2 + X_3}{3}\). Все три несмещённые, а лучшая — третья: её дисперсия \(\frac{\mathrm{D}X}{3}\) наименьшая, и только она с ростом числа обследованных банок приближается к оцениваемому среднему объёму, то есть состоятельна.