Центральная предельная теорема реферат
Обновлено: 06.07.2024
Неравенство Чебышева и его значение. Теорема Чебышева. Теорема Бернулли. Центральная предельная теорема теории вероятностей (теорема Ляпунова) и её использование в математической статистике.
Теория вероятностей изучает закономерности, свойственные массовым случайным явлениям. Предельные теоремы теории вероятностей устанавливают зависимость между случайностью и необходимостью. Изучение закономерностей, проявляющихся в массовых случайных явлениях, позволяет научно предсказывать результаты будущих испытаний.
Предельные теоремы теории вероятностей делятся на две группы, одна из которых получила название закона больших чисел , а другая — центральной предельной теоремы .
Рассмотрим теоремы, относящих к закону больших чисел: неравенство Чебышева, теоремы Чебышева и Бернулли.
Закон больших чисел состоит из нескольких теорем, в которых доказывается приближение средних характеристик при соблюдении определённых условий к некоторым постоянным значениям.
Неравенство Чебышева
Если случайная величина имеет конечное математическое ожидание и дисперсию, то для любого положительного числа
то есть вероятность того, что отклонение случайной величины от своего математического ожидания по абсолютной величине не превосходит , то есть события, противоположного событию . Очевидно, что
Неравенство Чебышева справедливо для любого закона распределения случайной величины и применимо как к положительным, так и к отрицательным случайным величинам. Неравенство (9.2) ограничивает сверху вероятность того, что случайная величина отклонится от своего математического ожидания на величину больше
Пример 1. Для правильной организации сборки узла необходимо оценить вероятность, с которой размеры деталей отклоняются от середины поля допуска не более чем на 2 мм. Известно, что середина поля допуска совпадает с математическим ожиданием размеров обрабатываемых деталей, а среднее квадратическое отклонение равно 0,25 мм.
Решение. По условию задачи мм и . В данном случае — размер обрабатываемых деталей. Используя неравенство Чебышева, получаем
Теорема Чебышева
При достаточно большом числе независимых испытаний с вероятностью, близкой к единицы, можно утверждать, что разность между средним арифметическим наблюдавшихся значений случайной величины и математическим ожиданием этой величины по абсолютной величине окажется меньше сколь угодно малого числа имеет конечную дисперсию, то есть
где — положительное число, близкое к единице.
Переходя в фигурных скобках к противоположному событию, получаем
Теорема Чебышева позволяет с достаточной точностью по средней арифметической судить о математическом ожидании или, наоборот, по математическому ожиданию предсказывать ожидаемую величину средней. Так, на основании этой теоремы можно утверждать, что если проведено достаточно большое количество измерений определённого параметра прибором, свободным от систематической погрешности, то средняя арифметическая результатов этих измерений сколь угодно мало отличается от истинного значения измеряемого параметра.
Пример 2. Для определения потребности в жидком металле и сырье выборочно устанавливают средний вес отливки гильзы к автомобильному двигателю, так как вес отливки, рассчитанный по металлической модели, отличается от фактического веса. Сколько нужно взять отливок, чтобы с вероятностью более 0,9 можно было утверждать, что средний вес отобранных отливок отличается от расчётного веса, принятого за математическое ожидание, не более чем на 0,2 кг? Установлено, что среднее квадратическое отклонение веса равно 0,45 кг.
Решение. По условию задачи, имеем
а с учётом равенств свойства математического ожидания и дисперсии средней
Подставляя в последнюю формулу данные задачи, получаем
Теорема Бернулли
Теорема Бернулли устанавливает связь между относительной частотой появления события и его вероятностью.
При достаточно большом числе независимых испытаний с вероятностью, близкой к единице, можно утверждать, что разность между относительной частой появления события .
Утверждение теоремы Бернулли можно записать в виде неравенства
где — любые сколь угодно малые положительные числа.
Используя свойства математического ожидания и дисперсии, а также неравенство Чебышева, формулу (9.3) можно записать в виде
При решение практических задач иногда бывает необходимо оценить вероятность наибольшего отклонения частоты появлений события от её ожидаемого значения. В этом случае случайной величиной является число появления события независимых испытаниях. Имеем
Используя неравенство Чебышева, получаем
Пример 3. Из 1000 изделий, отправляемых в сборочный цех, обследованию было подвергнуто 200 отобранных случайным образом изделий. Среди низ оказалось 25 бракованных. Приняв долю бракованных изделий среди отобранных за вероятность изготовления бракованного изделия, оценить вероятность того, что во всей партии окажется бракованных изделий не более 15% и не менее 10%.
Решение. Определем вероятность изготовления бракованного изделия:
Наибольшее отклонение относительной частоты появления бракованных изделий от вероятности по абсолютной величине равно ; число испытаний . Используя формулу (9.4), находим искомую вероятность:
Теорема Ляпунова
Рассмотренные теоремы закона больших чисел касаются вопросов приближения некоторых случайных величин к определённым предельным значениям независимо от их закона распределения. В теории вероятностей существует другая группа теорем, касающихся предельных законов распределения суммы случайных величин. Общее название этой группы теорем — центральная предельная теорема . Различными её формы различаются условиями, накладываемыми на сумму составляющих случайных величин.
Закон распределения суммы независимых случайных величин приближается к нормальному закону распределения при неограниченном увеличении , если выполняются следующие условия:
1) все величины имеют конечные математические ожидания и дисперсии:
2) ни одна из величин по значению резко не отличается от остальных:
При решении многих практических задач используют следующую формулировку теоремы Ляпунова для средней арифметической наблюдавшихся значений случайной величины , которая также является случайной величиной (при этом соблюдаются перечисленные два условия): если случайная величина имеет конечные математическое ожидания и дисперсию , то распределение средней арифметической , вычисленной по наблюдавшимся значениям случайной величины в независимых испытаниях, при приближается к нормальному закону с математическим ожиданием и дисперсией , то есть
Поэтому вероятность того, что заключена в интервале , можно вычислить по формуле
Используя функцию Лапласа ([url]см. приложение 2[/url]), формулу (9.5) можно записать в удобном для расчётов виде:
Следует отметить, что центральная предельная теорема справедлива не только для непрерывных, но и для дискретных случайных величин. Практическое значение теоремы Ляпунова огромно. Опыт показывает, что закон распределения суммы независимых случайных величин, сравнимых по своему рассеиванию, достаточно быстро приближается к нормальному. Уже при числе слагаемых порядка десяти закон распределения суммы можно заменить на нормальный.
Частным случаем предельной центральной теоремы является интегральная теорема теорема Лапласа (см. пункт 5, часть 3). В ней рассматриваются случаи, когда случайные величины дискретны, одинаково распределены и принимают только два возможных значения: 0 и 1. О применении этой теоремы в математической статистике cм. пункт 6, часть 3.
Если некоторые предположения ЦПТ нарушаются, то сам факт сходимости распределений сумм случайных величин к нормальному распределению может быть неверен. Пусть, например, случайные величины Х, …, х" одинаково распределены по закону Коши с плотностью р (х) =. Вероятность, стоящая в правой части, во всяком случае, меньше 16−10, 6. Таким образом, мы наблюдаем весьма редкое событие и должны… Читать ещё >
- теория вероятностей и математическая статистика
Центральная предельная теорема ( реферат , курсовая , диплом , контрольная )
Сформулируем эту теорему в условиях Ляпунова. Эти условия подобраны таким образом, чтобы обеспечить сходимость соответствующей последовательности характеристических функций к функции е" , 2/2 . Таким образом, они являются достаточными условиями справедливости теоремы. Однако эти условия чрезвычайно близки и к необходимым [15−19].
Пусть дана последовательность независимых случайных величин ф, ф, •••> Ф, для каждой из которых существуют математическое ожидание МЦ = а/., дисперсия Эф, = ci/: и третий центральный момент М|ф — й/, р. Положим
Пусть выполнено следующее условие Ляпунова:
Тогда справедлива следующая центральная предельная теорема в форме Ляпунова.
Теорема 4.9. При выполнении условия Ляпунова
равномерно по х.
Доказательство. Рассмотрим случайные величины.
" Я
Я Очевидно, что 5,) = ?г|"*. При этом 1−1.
Пусть f"h (t) — характеристическая функция. Тогда.
По формуле Тейлора для получаем, что равномерно в любом интервале |г | 3 —? 0 при и —" °о равномерно по /г, но тогда и —j = Dr"h —* 0 при w —" равномерно по k. Дей- Вп
ствительно для любого е > О равномерно по k.
Положим
При п — °° имеем |z, J —" 0 равномерно, но к т. е. при достаточно большом п
П
Вычислим теперь характеристическую функцию = ГХ/иДО- Имеем пои п -* °о
Воспользуемся условием Ляпунова, получаем Далее в силу.
при и —> оо и силу того, что max |z"*| -*? 0.
Таким образом ln/y*(f) —" следовательно, fs>(7) —*? е 2 и теорема доказана.
Замечание 4.6. Условие Ляпунова не только обеспечивает соотношение
но из него вытекает еще, что.
Замечания к центральной предельной теореме (ЦПТ).
- 1. В условиях ЦПТ, производя при доказательстве точные оценки, можно получить представления о точности действия приближенной формулы.
- 2. Так, например, можно получить следующее неравенство.
При любом х, если |?"| т. е. отношением этой величины к Ф (х), которое должно быть мало.
2. Если некоторые предположения ЦПТ нарушаются, то сам факт сходимости распределений сумм случайных величин к нормальному распределению может быть неверен. Пусть, например, случайные величины Х, …, х" одинаково распределены по закону Коши с плотностью р (х) =.
=-тг. Характеристическая функция распределения л (1 + *).
Коши равна |г| . Тогда сумма S" = Х + … + х" будет иметь характеристическую функцию е~ п ' 1 а так как по характеристической функции распределение определяется одназпачно, то сумма S" будет также распределена по закону Коши, но с другим параметром. Никакого сближения между характеристическими функциями распределения Коши и нормального, а стало быть, и между самими распределениями, не наблюдается (сравните графики характеристической функции Коши и нормального распределения (рис. 4.2)).
Такой вывод объясняется нарушением условием ЦПТ, а именно: случайные величины с распределением Коши имеют не только бесконечную дисперсию, но и бесконечное.
математическое ожидание (напомним, что существование математического ожидания в этом случае равносильно существованию и конечности интеграла
однако интеграл расходится). По той же причине для последовательности случайных величин с плотностью Коши не выполняется закон больших чисел: арифметическое сред- +… + х".
нее — будет иметь характеристическую функцию,.
равную е~* т. е. такую же, какой обладает отдельное слагае;
мое, и следовательно, арифметическое среднее — случай;
ных величин Х9…, хп будет иметь то же самое распределение Коши, что и каждая случайная величинах/, (9, "https://referat.bookap.info").
3. Рассмотрим в ЦПТ случайные величины xj,хп с одним и тем же распределением.
Тогда, очевидно, а = Мх* = Р и а 2 = Dx* = Pq, следовательно,.
130 Глава 4. Предельные теоремы.
где — — это поправка на дискретность распределения, которая при больших п несущественна, а при малых п улучшает.
результат. Пусть, например, в схеме Бернулли п = 100, р = ;
(это соответствует 100 бросаниям симметричной монеты). Пусть 5юo=*i + … +*ioo (число появления герба при 100 бросаниях). Найдем с помощью теоремы Лапласа вероятность того, что 35 т. е. Р= ½. Будем считать, что данная гипотеза верна, и вычислим вероятность события Pn > 5400>, в которое включается наблюдаемое нами событие w = 5400>. S" — это случайное число гербов, то MSn = 5000, DSn = 2500. По теореме Ла-, S"np
пласа величина Sn = = 6 имеет асимптотически нормальное распределение. Естественно проверять гипотезу р = ½ при альтернативной гипотезе р > ½. Тогда, если гипотеза верна, то.
Вероятность, стоящая в правой части, во всяком случае, меньше 16−10 , 6 . Таким образом, мы наблюдаем весьма редкое событие и должны подвергнуть нашу гипотезу о симметричности монеты сомнению или, как поступают обычно в таких случаях, отвергнуть гипотезу.
Пример 4.9. Построение доверительного интервала для неизвестной вероятности успеха в схеме Бернулли.
Пусть в схеме испытаний Бернулли с вероятностью успеха 0 .) — 1 = 1 — а; Ф (Х) = 1 — а/2 (обозначим X = Х_ р, то гипотеза отвергается, если жер Показать весь текст Стоимость уникальной работы
Если у вас возникли сложности с курсовой, контрольной, дипломной, рефератом, отчетом по практике, научно-исследовательской и любой другой работой - мы готовы помочь.
Прежде чем приступить к рассмотрению центральной предельной теоремы, я считаю нужным сказать о слабой сходимости.
Пусть задана последовательность случайных величин (далее с. в.) , задано некоторое распределение с функцией распределения и — произвольная с. в., имеющая распределение .
Определение.
Говорят, что последовательность с. в. при сходится слабо или по распределению к с. в. и пишут: , или , или ,
если для любого такого, что функция распределения непрерывна в точке , имеет место сходимость при .
Иначе говоря, слабая сходимость — это поточечная сходимость функций распределения во всех точках непрерывности предельной функции распределения.
Если , и функция распределения непрерывна в точках и , то
и т.д. ( продолжить ряд ).
Наоборот, если во всех точках и непрерывности функции распределения имеет место, например, сходимость , то .
1. Если , то .
2. Если , то .
1. Если и , то .
2. Если и , то .
Несколько содержательных примеров слабой сходимости я рассмотрю ниже. Но основной источник слабо сходящихся последовательностей и необычайно мощное и универсальное средство для асимптотического анализа распределений сумм независимых и одинаково распределенных случайных величин предоставляет нам центральная предельная теорема.
Центральная предельная теорема.
Пусть — независимые и одинаково распределенные случайные величины с конечной и ненулевой дисперсией: . Обозначим через сумму первых случайных величин: .
Тогда последовательность случайных величин слабо сходится к стандартному нормальному распределению.
Доказательство.
Пусть — последовательность независимых и одинаково распределенных случайных величин с конечной и ненулевой дисперсией. Обозначим через математическое ожидание и через — дисперсию . Требуется доказать, что
Введем стандартизированные случайные величины — независимые с.в. с нулевыми математическими ожиданиями и единичными дисперсиями . Пусть есть их сумма . Требуется доказать, что
Характеристическая функция величины равна
Характеристическую функцию с.в. можно разложить в ряд Тейлора, в коэффициентах которого использовать известные моменты , . Получим
Подставим это разложение, взятое в точке , в равенство и устремим к бесконечности. Еще раз воспользуемся замечательным пределом:
В пределе получили характеристическую функцию стандартного нормального закона. По теореме о непрерывном соответствии можно сделать вывод о слабой сходимости :
распределений стандартизованных сумм к стандартному нормальному распределению, что и утверждается в ЦПТ.
Пользуясь определением и свойствами слабой сходимости, и заметив, что функция распределения любого нормального закона непрерывна всюду на , утверждение ЦПТ можно сформулировать любым из следующих способов:
Пусть — независимые и одинаково распределенные случайные величины с конечной и ненулевой дисперсией. Следующие утверждения эквивалентны друг другу и равносильны утверждению ЦПТ.
· Для любых вещественных при имеет место сходимость
· Для любых вещественных при имеет место сходимость
· Для любых вещественных при имеет место сходимость
· Если — произвольная с. в. со стандартным нормальным распределением, то
Следствием из ЦПТ является предельная теорема Муавра-Лапласа.
Предельная теорема Муавра — Лапласа.
Пусть — событие, которое может произойти в любом из независимых испытаний с одной и той же вероятностью . Пусть — число осуществлений события в испытаниях. Тогда .
Иначе говоря, для любых вещественных при имеет место сходимость
Доказательство.
По-прежнему есть сумма независимых, одинаково распределенных с. в., имеющих распределение Бернулли с параметром, равным вероятности успеха :
Осталось воспользоваться ЦПТ.
Ниже я рассмотрю примеры использования ЦПТ.
З а д а ч а. Монета подбрасывается 10000 раз. Оценить вероятность того, что частота выпадения герба отличается от вероятности более чем на одну сотую.
Р е ш е н и е. Требуется найти , где , — число выпадений герба, а — независимые с. в., имеющие одно и то же распределение Бернулли с параметром 1/2. Домножим обе части неравенства под знаком вероятности на и поделим на корень из дисперсии одного слагаемого.
Согласно ЦПТ или предельной теореме Муавра — Лапласа, последовательность
слабо сходится к стандартному нормальному распределению. Рассмотрим произвольную с. в. , имеющую распределение .
Прекрасным примером ЦПТ в экономике может служить ее использование в страховом деле. В большинстве случаев конкретный вид распределения потерь (размеров отдельных требований о выплате страховых сумм) не играет существенной роли, поскольку сумма исков, предъявляемых страховщику (величина суммарного иска), обычно зависит только от средней величины и дисперсии убытка. Дело в том, что если количество страховых случаев значительно превышает единицу, то в силу центральной предельной теоремы распределение суммарного иска является нормальным распределением. Обозначив его дисперсию как D Z , а математическое ожидание (среднее значение суммарного иска) как Z > = N > Q >
- где , - среднее значение числа страховых случаев и величины страховой выплаты, получаем следующее выражение для рисковой надбавки Т r :
- где D Q и D N -дисперсии величины страховой выплаты и количества страховых случаев.
В простейшем случае, когда все выплаты одинаковы (а, следовательно, их дисперсия равна нулю), имеем:
Эта формула также дает неплохое приближение, если коэффициент вариации уровня страховых выплат значительно меньше единицы.
При включении в страховой полис нескольких независимых рисков ожидаемая величина страховых выплат в соответствии с теоремой о сложении вероятностей представляет собой сумму ожидаемых страховых выплат по каждому риску в отдельности, а рисковая надбавка вычисляется как среднеквадратичная величина всех рисковых надбавок.
Многие задачи ТВ связаны с изучением суммы независимых случайных величин, которая при определенных условиях имеет распределение, близкое к нормальному. Эти условия выражаются центральной предельной теоремой (ЦПТ).
Пусть ξ 1, ξ 2, …, ξ n, …– последовательность независимых случайных величин. Обозначим
n η = ξ 1 + ξ 2 +…+ ξ n. Говорят, что к последовательности ξ 1, ξ 2, …, ξ n, … применима ЦТП,
если при n → ∞ закон распределения ηn стремится к нормальному:
Суть ЦПТ: при неограниченном увеличении числа случайных величин закон распределения их суммы стремится к нормальному.
Центральная предельная теорема Ляпунова
Закон больших чисел не исследует вид предельного закона распределения суммы случайных величин. Этот вопрос рассмотрен в группе теорем, называемых центральной предельной теоремой. Они утверждают, что закон распределения суммы случайных величин, каждая из которых может иметь различные распределения, приближается к нормальному при достаточ-но большом числе слагаемых. Этим объясняется важность нормального закона для практичес-ких приложений.
Для доказательства центральной предельной теоремы используется метод характеристичес-ких функций.
Определение 14.1. Характеристической функциейслучайной величины Х называется функция
g (t) = M ( e itX ) (14.1)
Таким образом, g (t) представляет собой математическое ожидание некоторой комплексной случайной величины U = e itX , связанной с величиной Х. В частности, если Х – дискретная случайная величина, заданная рядом распределения, то
. (14.2)
Для непрерывной случайной величины с плотностью распределения f(x)
(14.3)
Пример 1. Пусть Х – число выпадений 6 очков при одном броске игральной кости. Тогда по формуле (14.2) g(t) =
Пример 2. Найдем характеристическую функцию для нормированной непрерывной случайной величины, распределенной по нормальному закону . По формуле (14.3) ( использовалась формула и то, что i² = -1).
Свойства характеристических функций.
1. Функцию f(x) можно найти по известной функции g(t) по формуле
(14.4)
( преобразование (14.3) называется преобразованием Фурье, а преобразование (14.4) – обратным преобразованием Фурье ).
2. Если случайные величины Х и Y связаны соотношением Y = aX, то их характеристические функции связаны соотношением
gy (t) = gx (at). (14.5)
3. Характеристическая функция суммы независимых случайных величин равна произведению характеристических функций слагаемых: для
(14.6)
Теорема 14.1 (центральная предельная теорема для одинаково распределенных слагае-мых). Если Х1, Х2,…, Хп,… - независимые случайные величины с одинаковым законом распределения, математическим ожиданием т и дисперсией σ 2 , то при неограниченном увеличении п закон распределения суммы неограниченно приближается к нор-мальному.
Докажем теорему для непрерывных случайных величин Х1, Х2,…, Хп (доказательство для дискретных величин аналогично). Согласно условию теоремы, характеристические функции слагаемых одинаковы: Тогда по свойству 3 характеристическая функция суммы Yn будет Разложим функцию gx(t) в ряд Маклорена:
, где при .
Найдем
Если предположить, что т = 0 ( то есть перенести начало отсчета в точку т ), то .
(так как т = 0). Подставив полученные результаты в формулу Маклорена, найдем, что
.
Рассмотрим новую случайную величину , отличающуюся от Yn тем, что ее дисперсия при любом п равна 0. Так как Yn и Zn связаны линейной зависимостью, достаточно доказать, что Zn распределена по нормальному закону, или, что то же самое, что ее характе-ристическая функция приближается к характеристической функции нормального закона (см. пример 2). По свойству характеристических функций
.
Прологарифмируем полученное выражение:
где
Разложим в ряд при п → ∞, ограничившись двумя членами разложения, тогда ln(1 - k) ≈ - k.
, где последний предел равен 0, так как при . Следовательно, , то есть - характеристическая функция нормального распределения. Итак, при неограниченном увеличении числа слагаемых характеристическая функция величины Zn неограниченно приближается к характеристической функции нормального закона; следова-тельно, закон распределения Zn ( и Yn) неограниченно приближается к нормальному. Теорема доказана.
А.М.Ляпунов доказал центральную предельную теорему для условий более общего вида:
Теорема 14.2 (теорема Ляпунова). Если случайная величина Х представляет собой сумму очень большого числа взаимно независимых случайных величин, для которых выполнено условие:
, (14.7)
где bk – третий абсолютный центральный момент величины Хк, а Dk – ее дисперсия, то Х имеет распределение, близкое к нормальному ( условие Ляпунова означает, что влияние каждого слагаемого на сумму ничтожно мало).
Практически можно использовать центральную предельную теорему при достаточно небольшом количестве слагаемых, так как вероятностные расчеты требуют сравнительно малой точности. Опыт показывает, что для суммы даже десяти и менее слагаемых закон их распределения можно заменить нормальным.
Результат классической центральной предельной теоремы справедлив для ситуаций гораздо более общих, чем полная независимость и одинаковая распределённость.
Ц.П.Т. Линдеберга (J. W. Lindeberg)
Пусть независимые случайные величины определены на одном и том же вероятностном пространстве и имеют конечные математические ожидания и дисперсии: . Как и прежде построим частичные суммы . Тогда в частности, . Наконец, пусть выполняется условие Линдеберга:
по распределению при .
Пусть выполнены базовые предположения Ц.П.Т. Линдеберга. Пусть случайные величины Xi> имеют конечный третий момент. Тогда определена последовательность
. Если предел
(условие Ляпунова),
по распределению при .
Формула размещения - выборки которые различаются как по составу, так и по расположению элементов.
Формула перестановки - выборки, различающиеся только по расположению элементов.
Формула сочетания - выборки, которые различаются только по составу (из всей совокупности часть, порядок НЕ важен)
Классическая формула вероятности:
, где m - число благоприятных исходов ; n - общее число исходов
Читайте также: