Центральная предельная теорема. Энциклопедия маркетинга Центральная предельная теорема для одинаково распределенных слагаемых

План:

1. Понятие центральной предельной теоремы (теорема Ляпунова)

2. Закон больших чисел, вероятность и частота (теоремы Чебышева и Бернулли)

1. Понятие центральной предельной теоремы.

Нормальное распределение вероятностей имеет в теории вероят­ностей большое значение. Нормальному закону подчиняется вероят­ность при стрельбе по цели, в измерениях и т. п. В частности, оказывается, что закон распределения суммы достаточно большого чис­ла независимых случайных величин с произвольными законами распределения близок к нормальному распределению. Этот факт, называемый центральной предельной теоремой или теоремой Ляпунова.

Известно, что нормально распределенные случай­ные величины широко распространены на практике. Чем это объясняется? Ответ на этот вопрос был дан

Централь­ная предельная теорема. Если случайная величина X пред­ставляет, собой сумму очень большого числа взаимно неза­висимых случайных величин, влияние каждой из которых на всю сумму ничтожно мало, то X имеет распределение, близкое к нормальному распределению.

Пример. Пусть производится измерение некоторой физической величины. Любое измерение дает лишь приближенное значение изме­ряемой величины, так как на результат измерения влияют очень многие независимые случайные факторы (температура, колебания прибора, влажность и др.). Каждый из этих факторов порождает ничтожную "частную ошибку". Однако, поскольку число этих факторов очень велико, их совокупное действие порождает уже заметную «суммар­ную ошибку».

Рассматривая суммарную ошибку как сумму очень большого числа взаимно независимых частных ошибок, мы вправе заключить, что суммарная ошибка имеет распределение, близкое к нормальному распределению. Опыт подтверждает справедливость такого заключения.

Рассмотрим условия, при которых выполняется "централь­ная предельная теорема"

Х1, Х2, ...,Х n – последовательность независимых случайных величин,

M (Х1), M (Х2), ..., M (Х n ) - конечные математические ожидания этих величин, соответственно равные М(Xk )= ak

D(Х1), D (Х2), ..., D (Х n ) - конечные дисперсии их, соответственно равные D (X k )= bk 2

Введем обозначения: S= Х1+Х2 + ...+Хn;

A k= Х1+Х2 + ...+Хn=; B2= D(Х1)+ D (Х2)+ ...+ D (Х n ) =

Запишем функцию распределения нормированной суммы:

Говорят, что к последовательности Х1, Х2, ...,Х n применима централь­ная предельная теорема, если при любом x функция распределения нормированной суммы при n ® ¥ стремится к нормальной функции распределения:

Right " style="border-collapse:collapse;border:none;margin-left:6.75pt;margin-right: 6.75pt">

Рассмотрим дискретную случайную величину X , задан­ную таблицей распределения:

Поставим перед собой задачу оценить вероятность того, что отклонение случайной величины от ее математического ожидания не превышает по абсолютной величине поло­жительного числа ε

Если ε достаточно мало, то мы оце­ним, таким образом, вероятность того, что X примет значения, достаточно близкие к своему математическому ожиданию. доказал неравенство, позволяю­щее дать интересующую нас оценку.

Лемма Чебышева. Дана случайная величина X, принимающая только неотрицательные значения с математическим ожиданием M(X). Для любого числа α>0 имеет место выражение:

Неравенство Чебышева. Вероятность того, что отклонение случайной величины X от ее математического ожидания по абсолютной величине меньше положитель­ного числа ε , не меньше, чем 1 – D(X) / ε 2:

Р (| X-M (X) | < ε ) ³ 1 - D (Х) / ε 2.

Замечание. Неравенство Чебышева имеет для практики огра­ниченное значение, поскольку часто дает грубую, а иногда и три­виальную (не представляющую интереса) оценку.

Теоретическое же значение неравенства Чебышева весьма велико. Ниже мы воспользуемся этим неравенством для вывода теоремы Чебышева.

2.2. Теорема Чебышева

Если Х1, Х2, ...,Хn..- попарно независимые случайные величины, причем диспер­сии их равномерно ограничены (не превышают постоян­ного числа С), то, как бы мало ни было положительное число ε , вероятность неравенства

÷ (Х1+Х2 + ...+Хn) / n - (M(Х1)+M(Х2)+ ...+M(Хn))/n | < ε

будет как угодно близка к единице, если число случайных величин достаточно велико.

P (÷ (Х1+Х2 + ...+Хn) / n - (M(Х1)+M(Х2)+ ...+M(Хn))/n | < ε )=1.

Теорема Чебышева утверждает:

1. Рассматривается достаточно большое число незави­симых случайных величин, имеющих ограниченные ди­сперсии,

Формулируя теорему Чебышева, мы предпола­гали, что случайные величины имеют различные матема­тические ожидания. На практике часто бывает, что слу­чайные величины имеют одно и то же математическое ожидание. Очевидно, что если вновь допустить, что диспер­сии этих величин ограничены, то к ним будет применима теорема Чебышева.

Обозначим математическое ожидание каждой из слу­чайных величин через а;

В рассматриваемом случае среднее арифметическое математических ожиданий, как легко видеть, также равно а.

Можно сформулировать тео­рему Чебышева для рассматриваемого частного случая.

"Если Х1, Х2, ...,Хn..- попарно независимые случай­ные величины, имеющие одно и то же математическое ожидание а, и если дисперсии этих величин равномерно ограничены, то, как бы мало ни было число ε > О, ве­роятность неравенства

÷ (Х1+Х2 + ...+Хn) / n - a | < ε

будет как угодно близка к единице, если число случай­ных величин достаточно велико".

Другими словами, в условиях теоремы

P (÷ (Х1+Х2 + ...+Хn) / n - a | < ε ) = 1.

2.3. Сущность теоремы Чебышева

Хотя от­дельные независимые случайные величины могут прини­мать значения, далекие от своих математических ожиданий, среднее арифметическое достаточно большого числа случай­ных величин с большой вероятностью принимает значе­ния, близкие к определенному постоянному числу, а именно к числу

(М (Xj ) + М (Х2) +... + М (Х„))/п или к числу а в частном случае.

Иными словами, отдельные случайные величины могут иметь значительный разброс, а их среднее арифметическое рассеянно мало.

Таким образом, нельзя уверенно предсказать, какое возможное значение примет каждая из случайных вели­чин, но можно предвидеть, какое значение примет их среднее арифметическое.

Итак, среднее арифметическое достаточно большого числа независимых случайных величин (дисперсии которых равномерно ограничены) утрачивает характер случайной, величины.

Объясняется это тем, что отклонения каждой из величин от своих математических ожиданий могут быть как положительными, так и отрицательными, а в среднем арифметическом они взаимно погашаются.

Теорема Чебышева справедлива не только для дискрет­ных, но и для непрерывных случайных величин; она является примером, подтверждающим справедли­вость учения о связи между случайностью и необходимостью.

2.4. Значение теоремы Чебышева для практики

Приведем примеры применения теоремы Чебышева к решению практических задач.

Обычно для измерения некоторой физической величины производят несколько измерений и их среднее арифме­тическое принимают в качестве искомого размера. При каких условиях этот способ измерения можно считать правильным? Ответ на этот вопрос дает теорема Чебы­шева (ее частный случай).

Действительно, рассмотрим результаты каждого из­мерения как случайные величины

Х1, Х2, ...,Хn

К. этим величинам можно применить теорему Чебышева, если:

1) Они попарно независимы.

2) имеют одно и то же ма­тематическое ожидание,

3) дисперсии их равномерно огра­ничены.

Первое требование выполняется, если результат каж­дого измерения не зависит от результатов остальных.

Второе требование выполняется, если измерения произ­ведены без систематических (одного знака) ошибок. В этом случае математические ожидания всех случайных величин одинаковы и равны истинному размеру а.

Третье требо­вание выполняется, если прибор обеспечивает определен­ную точность измерений. Хотя при этом результаты отдельных измерений различны, но рассеяние их огра­ничено.

Если все указанные требования выполнены, мы вправе применить к результатам измерений теорему Чебышева: при достаточно большом п вероятность неравенства

| (Х1 + Хя+...+Х„)/п - а |< ε как угодно близка к единице.

Другими словами, при достаточно большом числе измерений почти достоверно, что их среднее арифметическое как угодно мало отли­чается от истинного значения измеряемой величины.

Теорема Чебышева указывает условия, при ко­торых описанный способ измерения может быть приме­нен. Однако ошибочно думать, что, увеличивая число измерений, можно достичь сколь угодно большой точ­ности. Дело в том, что сам прибор дает показания лишь с точностью ± α , поэтому каждый из результатов изме­рений, а следовательно, и их среднее арифметическое будут получены лишь с точностью, не превышающей точности прибора.

На теореме Чебышева основан широко применяемый в статистике выборочный метод, суть которого состоит в том, что по сравнительно небольшой случайной выборке судят о всей совокупности (генеральной совокупности) исследуемых объектов.

Например, о качестве кипы хлопка заключают по небольшому пучку, состоящему из волокон, наудачу отобранных из разных мест кипы. Хотя число волокон в пучке значительно меньше, чем в кипе, сам пучок содержит достаточно большое количество волокон, исчисляемое сотнями.

В качестве другого примера можно указать на опре­деление качества зерна по небольшой его пробе. И в этом случае число наудачу отобранных зерен мало сравни­тельно со всей массой зерна, но само по себе оно доста­точно велико.

Уже из приведенных примеров можно заключить, что для практики теорема Чебышева имеет неоценимое значение.

2.5. Теорема Бернулли

Производится п независимых испытаний (не событий, а испытаний). В каждом из них вероятность появления события A равна р.

Возникает вопрос, какова примерно будет относительная частота появлений события? На этот вопрос отвечает теорема, доказанная Бернулли которая полу­чила название "закона больших чисел" и положила начало теории вероятностей как науке.

Теорема Бернулли. Если в каждом из п независимых испытаний вероятность р появления события А постоянна, то как угодно близка к единице вероятность того, что отклонение относительной частоты от вероятности р по абсолютной величине будет сколь угодно малым, если число испытаний достаточно велико.

Другими словами, если ε >0 сколь угодно малое число, то при соблюдении условий теоремы имеет место равенство

Р(| m / п - р| < ε)= 1

Замечание. Было бы неправильным на основании теоремы Бернулли сделать вывод, что с ростом числа испытаний относитель­ная частота неуклонно стремится к вероятности р; другими словами, из теоремы Бернулли не вытекает равенство (т/п) = р,

В теореме речь идет лишь о вероятности того, что при достаточно большом числе испытаний относительная частота будет, как угодно мало отличаться от постоянной вероятности появления события в каж­дом испытании.

Задание 7-1.

1. Оценить вероятность того, что при 3600 бросаниях кости число появления 6 очков будет не меньше 900.

Решение. Пусть x – число появления 6 очков при 3600 бросаниях монеты. Вероятность появления 6 очков при одном бросании равна p=1/6, тогда M(x)=3600·1/6=600. Воспользуемся неравенством (леммой) Чебышева при заданном α = 900

= P (x ³ 900) £ 600 / 900 =2 / 3

Ответ 2 / 3.

2. Проведено 1000 независимых испытаний, p=0,8. Найти вероятность числа наступлений события A в этих испытаниях отклонится от своего математического ожидания по модулю меньше, чем 50.

Решение. x –число наступлений события A в n – 1000 испытаниях.

М(Х)= 1000·0,8=800. D(x)=100·0,8·0,2=160

Воспользуемся неравенством Чебышева при заданном ε = 50

Р (| х-M (X) | < ε) ³ 1 - D (х) / ε 2

Р (| х-800 | < 50) ³ / 50 2 = 1-160 / 2500 = 0,936.

Ответ. 0,936

3. Используя неравенство Чебышева, оценить вероятность того, что |Х - М(Х)| < 0,1, если D (X) = 0,001. Ответ Р³0,9.

4. Дано: Р(|Х-М(Х)\ < ε) ³ 0,9; D (X )= 0,004. Используя неравенство Чебышева, найти ε. Ответ. 0,2.

Контрольные вопросы и задания

1. Назначение центральной предельной теоремы

2. Условия применимости теоремы Ляпунова.

3. Отличие леммы и теоремы Чебышева.

4. Условия применимости теоремы Чебышева.

5. Условия применимости теоремы Бернулли (закона больших чисел)

Требования к знаниям умениям и навыкам

Студент должен знать обще смысловую формулировку центральной предельной теоремы. Уметь формулировать частные теоремы для не зависимых одинаково распределенных случайных величин. Понимать неравенство Чебышева и закон больших чисел в форме Чебышева. Иметь представление о частоте события, взаимоотношениях между понятиями "вероятность" и "частота". Иметь представление о законе больших чисел в форме Бернулли.

(1857-1918), вы­дающийся русский математик

Одно из важнейших положений теории вероятностей - так называемая центральная предельная теорема. Как и закон больших чисел, она имеет ряд форм. Во всех формах закона больших чисел устанавливается факт сходимости по вероятности каких-то случайных величин к постоянным, неслучайным при увеличении числа опытов п или числа наблюдаемых случайных величин.

В данном пункте мы рассмотрим другую группу предельных теорем, а именно теорем, определяющих условия возникновения нормального распределения (закона Гаусса). Такие условия часто встречаются на практике, что и объясняет широкую распространенность нормального закона в случайных явлениях природы.

Кое-что об этих условиях (на чисто описательном уровне) мы уже говорили раньше (глава 6), там, где впервые встретились с нормальным распределением. А именно, нормальное распределение возникает тогда, когда суммируется много независимых (или слабо зависимых) случайных величин, сравнимых по порядку своего влияния на рассеивание суммы.

В практической деятельности инженера такая обстановка встречается нередко.

Пусть, например, рассматривается отклонение Y n выходного параметра большой интегральной схемы (БИС) от номинала. Это отклонение (при известных допущениях) может быть представлено как сумма п элементарных отклонений, связанных с отдельными причинами:

где, например,

Х х - отклонение, вызванное влиянием температуры;

Х 2 - отклонение, вызванное влиянием влажности воздуха;

Хз - отклонение, вызванное ошибкой ввода какого-либо параметра; Х 4 - отклонение, вызванное недостаточной чистотой материала изделия;

Число п этих элементарных отклонений весьма велико, как и число п причин, вызывающих суммарное отклонение Г„; обычно слагаемые Х х, Х 2 , ..., Х п сравнимы по порядку своего влияния на рассеивание суммы. Действительно, если бы какая-то из случайных величин Х х, Х 2 , ..., ^„оказывала существенно большее влияние на рассеивание суммы, чем все остальные, было бы естественно принять специальные меры для того, чтобы устранить главную причину рассеивания; поскольку такие меры не предпринимаются, можно предположить, что оставшиеся случайные слагаемые сравнимы по порядку своего (равномерно малого) влияния на рассеивание суммы.

Нормальный закон широко распространен в технике; в большинстве случаев ошибки измерения параметров, ошибки выполнения команд, ошибки ввода различных величин в техническое устройство распределены по нормальному (или близкому к нормальному) закону; такая ошибка обычно может быть представлена в виде суммы многих «элементарных ошибок» Х ь каждая из которых связана с отдельной, практически независимой от других, причиной.

Именно в применении к теории ошибок был впервые обоснован Лапласом и Гауссом нормальный закон.

Нормальный закон широко распространен в биологии: масса, размер и другие параметры представителей растительного и животного мира во многих случаях имеют нормальное распределение, так как их разброс вызван суммарным воздействием многих факторов, среди которых нет доминирующих по своему влиянию.

Центральная предельная теорема в различных ее формах устанавливает условия, при которых возникает нормальное распределение и нарушение которых ведет к распределению, отличному от нормального.

Различные формы центральной предельной теоремы различаются между собой условиями, накладываемыми на распределения образующих сумму случайных слагаемых Х х, Х 2 , ...,Х п. Чем жестче эти условия, тем легче доказывается теорема; чем они шире, тем труднее доказательство. Здесь мы докажем одну из самых простых форм этой теоремы, а именно центральную предельную теорему для одинаково распределенных слагаемых.

Теорема. Если Х х, Х 2 , Х п,... - независимые случайные величины , имеющие одно и то же распределение с математическим ожиданием т и дисперсией а 2 , то при увеличении п закон распределения суммы

Доказательство. Проведем доказательство для случая непрерывных случайных величин (для дискретных оно будет аналогичным). Применим для этого аппарат характеристических функций . Согласно свойствам, доказанным в подразделе 8.9, характеристическая функция суммы (10.2.2) равна произведению характеристических функций слагаемых. Случайные величины X v Х 2 , ..., X п имеют одну и туже плотность f (х), а значит, и ту же характеристическую функцию 0* (t ). Не нарушая общности, можно перенести начало отсчета всех случайных величин X v Х 2 , ...,Х п в их общее математическое ожидание т это равносильно их центрированию и, значит, тому, что м. о. каждой из них будет равно нулю.

Напомним, что характеристическая функция каждой из с. в. Х к (к= 1,2,..., п) по определению равна (см. (8.9.4))

где / =4=~ - мнимая единица. Характеристическая функция случайной величины Y n равна произведению п характеристических функций слагаемых (см. 8.9.9):

Разложим функцию (t ) в окрестности точки t = 0 в ряд Маклоре- на с тремя членами:

где производные берутся по t a (t) -> 0 при t -» 0.

Найдем значения &Д0); 9^(0); $"(0).

Полагая в формуле (10.2.3) /= 0, имеем:

по свойству плотности распределения/(х).

Продифференцируем (10.2.3) по t.

Полагая в (10.2.6) /= 0, получим:

где М [Х - математическое ожидание с. в. Хс плотностью/(х). В нашем случае все случайные величины Х х, Х 2 , ..., X п имеют плотность /(х), а их общее м. о. равно нулю, поэтому

Продифференцируем (10.2.6) еще раз:

Полагая / = 0, получим:

а это есть не что иное, как дисперсия центрированной с. в. Хс плотностью /(х) (со знаком «минус»).

Следовательно,

Подставляя в (10.2.5) Э х (0) = 1; 0" х (0) = 0и в”(0) = -сг 2 , получим

Обратимся к случайной величине Y n . Мы хотим доказать, что при увеличении п ее закон распределения приближается к нормальному. Для этого перейдем от нее к линейно связанной с Y n «нормированной» случайной величине

Эта величина удобна тем, что ее дисперсия не зависит от п и равна единице при любом п. В этом нетрудно убедиться, рассматривая Z n как линейную функцию независимых случайных величин Х х, Х 2 , ..., X п, каждая из которых имеет дисперсию а 2 .

Если мы докажем, что с. в. Z n имеет нормальное распределение, это будет означать, что и с. в. У„, линейно связанная с Z„, распределена нормально.

Вместо того чтобы доказывать, что закон распределения с. в. Z„ при увеличении п приближается к нормальному, докажем, что ее характеристическая функция, однозначно определяющая плотность, приближается к характеристической функции нормального закона с теми же, что у Z„, параметрами: m z = 0; o z =1 (8.9.16).

Найдем характеристическую функцию с. в. Z. Из свойства (8.9.7) характеристической функции (подраздел 8.9) имеем:

где - характеристическая функция с. в. Y n . Из (10.2.4) и (10.2.8) имеем:

Или, пользуясь формулой (*),

Прологарифмируем это выражение:

Введем обозначение

Будем неограниченно увеличивать п при этом величина к согласно (10.2.10) будет стремиться к нулю. Разложим In (1 - к) в ряд по степеням к и ограничимся одним членом разложения (остальные при я -> оо станут пренебрежимо малыми):

Но функция а(0 стремится к нулю при t -> 0; следовательно, lima (t/(oJn)) = 0и liming (t) = -t 2 / 2, откуда liming (t) = e~‘‘ 2 ,

tl -Л->0c n n-> OO "

а это есть не что иное, как характеристическая функция случайной величины, распределенной по нормальному закону с параметрами т = О, ст= 1 (см. (8.9.16)).

Таким образом, мы доказали центральную предельную теорему для частного случая одинаково распределенных слагаемых. Другие, более общие (и более сложные) формы центральной предельной теоремы мы приведем без доказательства.

Теорема Ляпунова. Пусть Х х, Х 2 , ..., Х п - независимые случайные величины с математическими ожиданиями m Xi , т Х2 ,..., т Хп и дисперсиями Z) , D r ,..., Z> , причем при п -» оо.

х х 2 х п

где Х к =Х к -т к.

А. М. Ляпунов доказал, что при п -> оо закон распределения случайной величины

неограниченно приближается к нормальному.

Смысл условий (10.2.12) состоит в том, чтобы в сумме (10.2.13) не было слагаемых, влияние которых на рассеивание суммы подавляюще велико по сравнению с влиянием всех остальных, а также не должно быть большого числа случайных слагаемых, влияние которых на рассеивание суммы исчезающе мало по сравнению с суммарным влиянием остальных.

Наиболее общим (необходимым и достаточным) условием справедливости центральной предельной теоремы является условие Линдебер- га: для любого т > 0

где f (х) - плотность распределения с. в. X h т-, = М [Х‘] (/" = 1, 2,п).

Однако пользование условием Линдеберга на практике затруднительно, так как нам редко бывают в точности известны законы распределения случайных величин X t (/ = 1, 2,п).

Исторически первой доказанной формой центральной предельной теоремы явилась теорема Лапласа , состоящая в следующем. Если производится п независимых опытов, в каждом из которых событие А появляется с вероятностью р, то при больших п справедливо приближенное равенство:

где Y n - число появлений события А в п опытах; q = 1 - р Ф (х) - функция Лапласа.

Выведем формулу (10.2.15) как следствие центральной предельной теоремы для одинаково распределенных слагаемых. «Нормированная» случайная величина

связанная с Нелинейной зависимостью, строго говоря, дискретна, также дискретна с. в. Y n , распределенная по биномиальному закону, но при большом п ее значения расположены на оси абсцисс так тесно, что можно ее рассматривать как непрерывную, с плотностью распределения /(г). Случайная величина Y n имеет биномиальное распределение с параметрами п, р ее математическое ожидание М [ Y n ] = пр ее дисперсия равна D [ Y n ] = npq. Найдем числовые характеристики случайной величины (10.2.16): м. о. и дисперсию линейной функции от с. в. Y n . Имеем:

Таким образом, случайная величина Z n (10.2.16) имеет не зависящие от п числовые характеристики т = 0, а = 1 (потому мы и перешли к с. в. Z n от Y n).

Учитывая, что Т„ = ^где Х (- индикатор события А в /-м опы- 1=1

те, убеждаемся, что с. в. Z n (10.2.16) есть сумма п независимых одинаково распределенных случайных величин. Применяя центральную предельную теорему для одинаково распределенных слагаемых, убеждаемся, что при большом числе опытов п с. в. Z n имеет распределение, близкое к нормальному, с параметрами т = 0; а = 1, откуда и следует справедливость формулы (10.2.15).

Теорема Лапласа дает возможность приближенно находить вероятности значений случайных величин, распределенных по биномиальному закону при больших значениях параметра п при этом вероятность р не должна быть ни слишком большой, ни слишком малой.

Практически можно судить о возможности замены биномиального распределения нормальным по тому, выполнены ли при данных п и р условия:

Если эти условия соблюдены, то можно вычислять вероятности Р к = Р {Y n = к) как приращение нормальной функции распределения на участке от к до к + 1:

где F(x) - функция распределения нормального закона:

Подставляя в (10.2.19) т - при а = yfnpq, получим:

Вычисляя приращение этой функции на участке от к до к + 1, получим:

Теорему Лапласа (10.2.15) можно записать в несколько ином виде, если перейти обратно от нормированной с. в. Z n (10.2.16) к с. в. Y n -

числу появлений события в п опытах - связанной с Z n линейной зависимостью:

Функция распределения случайной величины Y n при большом п будет сколь угодно близка к нормальной функции распределения с параметрами т у - пр; о „ = Jnpq:

а вероятность попадания случайной величины Y n на любой участок от а до р приближенно равна

откуда - другая форма записи теоремы Лапласа:

Рассмотрим ряд примеров, в каждом из которых для решения задачи следует применить ту или другую форму центральной предельной теоремы.

Пример 1. Имеется п идентичных технических устройств (ТУ), время безотказной работы каждого /-го из которых - случайная величина 7), распределенная по показательному закону с параметром X, одинаковым для всех ТУ. Число п собранных в такую систему ТУ достаточно велико. Случайные величины 7j, Т 2 , ..., T t , ..., ^независимы между собой. В случае отказа /-го ТУ происходит мгновенное и безотказное переключение на следующие по порядку (/ + )-е ТУ (/" + 1 п). Общее время Гбезотказной работы системы ТУ равно сумме времен Т;.

Найти приближенно вероятность того, что система ТУ проработает безотказно время, не меньшее лялянного т:

(поскольку с. в. Т непрерывна, знак равенства можно оторосить;.

Решение. Согласно центральной предельной теореме для одинаково распределенных слагаемых с. в. Т (10.2.23) будет распределяться приближенно по нормальному закону с параметрами:

Находим приближенно вероятность (10.2.24): где F(т) - функция нормального распределения с параметрами:

Для нормального закона функция распределения равна:

где Ф (х) - функция Лапласа.

Пример 2. Станок с числовым программным управлением выдает за смену п = 1000 изделий, из которых в среднем 2% дефектных. Найти приближенно вероятность того, что за смену будет изготовлено не менее 970 доброкачественных (недефектных) изделий, если изделия оказываются доброкачественными независимо друг от друга.

Решение. Вероятность р изготовления доброкачественного изделия: р = 0,98, Y- число доброкачественных изделий; число независимых опытов п = 1000. Проверяем, выполнены ли условия (10.2.17); находим:

Следовательно, пользоваться нормальным законом можно; применяя теорему Лапласа в форме (10.2.22), находим:

Итак, искомая вероятность достаточно велика (равна 0,988), но все же с вероятностью 0,012 можно ожидать, что число доброкачественных изделий за смену будет меньше, чем 970. ?

Пример 3. Для условий предыдущего примера определить, на сколько доброкачественных изделий у должен быть рассчитан заготовленный для них бункер, такой, чтобы вероятность его переполнения за смену не превысила 0,01.

Решение. Найдем у из условия

Ищем такое значение у = у, при котором функция распределения случайной величины Y n

т. е.

По таблице функции Лапласа (см. приложение 2) находим аргумент, при котором функция Лапласа равна 0,49; он приближенно равен 2,33, отсюда

Пример 4. Железнодорожный состав состоит из п вагонов; масса каждого вагона в тоннах - случайная величина Хс м. о. т х и с. к. о. о х. Число вагонов п - большое (несколько десятков). Локомотив может везти массу не больше q (т); если масса состава больше q (т), приходится прицеплять второй локомотив. Найти вероятность того, что одного локомотива не хватит для перевозки состава.

Решение. Обозначим Q = ^ J X j массу состава. На основании

центральной предельной теоремы при достаточно большом п с. в. Q распределена приближенно по нормальному закону с параметрами

m q - пт х, o q =^ = y = яД; D = n/X 2 . Следовательно, с. в. Хс нужным нам нормальным распределением определяется через Т {п) формулой

а величина X определится из условия откуда

Пример 9. Провести аппроксимацию нормального закона с параметрами ш х и D x с помощью суммы я независимых с. в. Х и ..., Х п, распределенных равномерно в интервале (0, 1).

Решение. На основании центральной предельной теоремы при большом п случайная величина

распределена приближенно по нормальному закону с параметрами:

Нужную нам случайную величину X представим как линейную функцию случайной величины Y n:

Откуда находим коэффициенты а и b в формуле (10.2.29)

Итак, чтобы получить случайную величину X, распределенную приближенно по нормальному закону, надо сложить достаточно большое число п независимых случайных величин, распределенных равномерно в интервале (0, 1) и подвергнуть их сумму линейному преобразованию (10.2.29).

В практике работы с ЭВМ при моделировании случайных явлений получают нормально распределенные случайные величины именно таким способом. Опыт показывает, что вполне удовлетворительную точность можно получить уже при п = 6; числа п = Юн- 12 вполне достаточно. ?

Пример 10. В кассе учреждения имеется сумма d = 3500 (руб.). В очереди стоит п = 20 лиц. Сумма X, которую надо выплатить отдельному лицу - случайная величина с математическим ожиданием т х = 150 (руб.) и средним квадратическим отклонением о* = 60 (руб.). Найти вероятность того, что суммы due хватит для выплаты денег всем людям, стоящим в очереди.

Решение. На основании центральной предельной теоремы для одинаково распределенных слагаемых при большом п (а п = 20 практически можно считать «большим») случайная величина или

где Xj - сумма, которую надо выплатить /-му лицу, имеет приближенно нормальное распределение с параметрами:

Итак, с вероятностью около 3% имеющейся в кассе суммы не хватит для выплаты всем, стоящим в очереди.

Пример 11. В условиях предыдущего примера: какую сумму а нужно иметь в кассе, чтобы вероятность того, что ее не хватит для выплаты всем стоящим, стала равна 0,005?

Решение. Имеем условие Р {Y n > а} = 0,5 - Ф ((а - 3000)/268) = = 0,005, т. е. Ф ((а - 3000)/268) = 0,495. По таблице Ф (х) приложения находим аргумент функции Лапласа, при котором она равна 0,495:

откуда а - 3691.

Итак, сравнительно небольшого увеличения суммы а (от 3500 до 3691) достаточно для того, чтобы гарантировать выплату всем с очень высокой вероятностью 0,995. ?

Пример 12. Монета подбрасывается п = 1000 раз. Рассматривается с. в. X- число выпавших гербов. Определить интервал возможных значений с. в. X, симметричный относительно м. о. этой с. в., в который она попадает с вероятностью 9 > = 0,997.

Решение. X = ^Х { , где Х { - число выпавших гербов при /-м бросании: »"=i

На основании центральной предельной теоремы с. в. Храспределе- на нормально, следовательно,

По таблицам Ф (х) - функции Лапласа находим:

Искомый интервал будет:

Итак, с очень большой вероятностью $Р= 0,997 можно утверждать, что число выпавших гербов будет заключено в пределах от 453 до 577 (об этом уже говорилось в подразделе 1Л). ?

• Заметим, что этот аппарат был создан А.М. Ляпуновым специально для доказательствацентральной предельной теоремы.

Чарльз Уилан Глава из книги
Издательство «Манн, Иванов и Фербер»

Наконец, настало время подвести итог сказанному. Поскольку средние значения выборок распределены по нормальному закону (благодаря центральной предельной теореме), мы можем воспользоваться богатым потенциалом кривой нормального распределения. Мы рассчитываем, что примерно 68% средних значений всех выборок будут отстоять от среднего значения совокупности на расстоянии, не превышающем одной стандартной ошибки; 95% - на расстоянии, не превышающем двух стандартных ошибок; и 99,7% - на расстоянии, не превышающем трех стандартных ошибок.

Теперь вернемся к отклонению (разбросу) в примере с пропавшим автобусом - правда, на этот раз призовем на помощь не интуицию, а числа. (Сам по себе этот пример остается абсурдным; в следующей главе мы рассмотрим множество более близких к реальности случаев.) Допустим, что организаторы исследования Americans" Changing Lives пригласили всех его участников на выходные в Бостон, чтобы весело провести время и заодно предоставить кое-какие недостающие данные. Участников распределяют произвольным образом по автобусам и отвозят в тестовый центр, где их взвесят, определят рост и т. п. К ужасу организаторов мероприятия, один из автобусов пропадает где-то по пути в тестовый центр. Об этом событии оповещают в программе новостей местного радио и телевидения. Возвращаясь примерно в то же время в своем автомобиле с Фестиваля любителей сосисок, вы замечаете на обочине дороги сломавшийся автобус. Похоже, его водитель был вынужден резко свернуть в сторону, пытаясь уклониться от столкновения с лосем, неожиданно появившимся на дороге. От столь резкого маневра все пассажиры потеряли сознание или лишились дара речи, хотя никто из них, к счастью, не получил серьезных травм. (Такое предположение понадобилось мне исключительно для чистоты приведенного здесь примера, а надежда на отсутствие у пассажиров серьезных травм объясняется моим врожденным человеколюбием.) Врачи кареты скорой помощи, оперативно прибывшие на место происшествия, сообщили вам, что средний вес 62 пассажиров автобуса составляет 194 фунта. Кроме того, оказалось (к огромному облегчению всех любителей животных), что лось, от столкновения с которым пытался увернуться водитель автобуса, практически не пострадал (если не считать легкого ушиба задней ноги), но от сильного испуга тоже потерял сознание и лежит рядом с автобусом.

К счастью, вам известен средний вес пассажиров автобуса, а также сред-неквадратическое отклонение для всей совокупности Americans" Changing Lives. Кроме того, мы имеем общее представление о центральной предельной теореме и знаем, как оказать первую помощь пострадавшему животному. Средний вес участников исследования Americans" Changing Lives составляет 162 фунта; среднеквадратическое отклонение равняется 36. На основе этой информации вы можете вычислить стандартную ошибку для выборки из 62 человек (количество пассажиров автобуса, потерявших сознание): .

Разница между средним значением этой выборки (194 фунта) и средним значением совокупности (162 фунта) равна 32 фунта, то есть значительно больше трех стандартных ошибок. Из центральной предельной теоремы вам известно, что 99,7% средних значений всех выборок будут отстоять от среднего значения совокупности на расстоянии, не превышающем трех стандартных ошибок. Таким образом, крайне маловероятно, что встретившийся вам автобус перевозит группу участников исследования Americans" Changing Lives. Будучи видным общественным активистом города, вы звоните организаторам мероприятия, чтобы сообщить, что в повстречавшемся вам автобусе, скорее всего, находится какая-то другая группа людей. Правда, в этом случае вы можете опираться на статистические результаты, а не свои «интуитивные догадки». Вы сообщаете организаторам, что отрицаете вероятность того, что найденный вами автобус именно тот, который они разыскивают, с 99,7% доверительным уровнем. А поскольку в данном случае вы разговариваете с людьми, знакомыми со статистикой, то можете не сомневаться, они понимают, что вы правы. (Всегда приятно иметь дело с умными людьми!)

Сделанные вами выводы находят дальнейшее подтверждение, когда врачи скорой помощи берут пробы крови у пассажиров автобуса и обнаруживают, что средний уровень холестерина в их крови превышает средний уровень холестерина в крови участников исследования Americans" Changing Lives на пять стандартных ошибок. Из этого следует, что впавшие в бессознательное состояние пассажиры - участники Фестиваля любителей сосисок. (Впоследствии это было неопровержимо доказано.)

[У этой истории оказался счастливый конец. Когда к пассажирам автобуса вернулось сознание, организаторы исследования Americans" Changing Lives посоветовали им проконсультироваться у специалистов-диетологов относительно опасности употребления в пищу продуктов с высоким содержанием насыщенных жиров. После таких консультаций многие из любителей сосисок решили порвать со своим позорным прошлым и вернуться к более здоровому рациону питания. Пострадавшего лося выходили в местной ветеринарной клинике и выпустили на свободу под одобрительные возгласы членов местного Общества защиты животных. Да, история почему-то умалчивает о судьбе водителя автобуса. Возможно, потому, что статистика не занимается судьбами отдельно взятых людей. Лось - совсем другое дело, замолчать его судьбу не удастся! В случае чего за него может вступиться Общество защиты животных.]

В этой главе я пытался говорить только об основах. Вы, наверное, обратили внимание, что центральная предельная теорема применима лишь в случаях, когда размер выборки достаточно велик (как правило, не менее 30). Кроме того, нам требуется относительно большая выборка, если мы намерены предположить, что ее среднеквадратическое отклонение будет примерно таким же, как и среднеквадратическое отклонение генеральной совокупности.

Существует немало статистических поправок, которые можно применять в случае несоблюдения указанных условий, но все это похоже на сахарную глазурь на торте (и, возможно, даже на шоколадные крошки, которыми присыпают эту глазурь сверху). «Общая картина» здесь проста и чрезвычайно эффективна.

1. Если вы формируете на основе какой-либо совокупности большие (по объему) случайные выборки, то их средние значения будут распределены по нормальному закону вблизи среднего значения соответствующей совокупности (какой бы вид ни имело распределение исходной совокупности).
2. Большинство средних значений выборок будет расположено достаточно близко к среднему значению совокупности (что именно следует в том или ином случае считать «достаточно близким», определяется стандартной ошибкой).
3. Центральная предельная теорема говорит нам о вероятности того, что среднее значение выборки будет находиться не дальше определенного расстояния от среднего значения совокупности. Относительно маловероятно, что среднее значение выборки будет отстоять от среднего значения совокупности дальше, чем на расстояние двух стандартных ошибок, и крайне маловероятно, что среднее значение выборки будет отстоять от среднего значения совокупности дальше, чем на расстояние трех и более стандартных ошибок.
4. Чем меньше вероятность того, что какой-то исход оказался чисто случайным, тем больше мы можем быть уверены в том, что здесь не обошлось без воздействия какого-то другого фактора.

В этом по большому счету и заключается сущность статистического вывода. Центральная предельная теорема главным образом делает все это возможным. И до тех пор, пока Леброн Джеймс не станет столько раз чемпионом НБА, сколько Майкл Джордан (шесть), центральная предельная теорема будет производить на нас гораздо большее впечатление, чем знаменитый баскетболист.

Леброн Рэймон Джеймс (LeBron Raymone James) - американский профессиональный баскетболист, играющий на позиции легкого и тяжелого форварда за команду НБА «Кливленд Кавальерс». Прим. перев.

Обратите внимание на весьма остроумное использование в данном случае ложной точности.

Когда среднеквадратическое отклонение соответствующей совокупности вычисляется на основании меньшей выборки, приведенная нами формула несколько видоизменяется: Это помогает учесть то обстоятельство, что дисперсия в малой выборке может «недооценивать» дисперсию всей совокупности. Это не имеет особого отношения к более универсальным положениям, о которых идет речь в данной главе.

Мой коллега из Чикагского университета, Джим Сэлли, сделал очень важное критическое замечание по поводу примеров с пропавшим автобусом. Он указал, что пропавший автобус - чрезвычайно большая редкость в наше время. Поэтому если нам придется искать какой-нибудь пропавший автобус, то любой встретившийся нам автобус, который окажется пропавшим или поломавшимся, наверняка будет именно тем автобусом, который нас интересует, каким бы ни был вес пассажиров в этом автобусе. Пожалуй, Джим прав. (Воспользуюсь такой аналогией: если вы потеряли в супермаркете своего ребенка и дирекция этого магазина сообщает по радио, что возле кассы номер шесть стоит чей-то потерявшийся ребенок, то вы наверняка сразу же решите, что речь идет именно о вашем ребенке.) Следовательно, нам не остается ничего другого, как дополнить наши примеры еще одним элементом абсурда, полагая, что пропажа автобуса является вполне рядовым событием.

Центральная предельная теорема (ЦПТ) представляет собой вторую группу предельных теорем, которые устанавливают связь между законом распределения суммы случайных величин и его предельной формой –нормальным законом распределения.

До сих пор мы часто говорили об устойчивости средних характеристик большого числа испытаний, говоря точнее, об устойчивости сумм вида

Однако следует обратить внимание, что величина
случайная, а значить, она имеет некоторый закон распределения. Оказывается этот замечательный факт, составляет содержание

другой группы теорем, объединяемых под общим названием центральная предельная теорема , что при досточно общих условиях закон распределенияблизок к нормальному закону.

Поскольку величина отличается от суммы

лишь постоянным множителем
то в общих чертах содержание ЦПТ может быть сформулировано следующим образом.

Распределение суммы большого числа независимых случайных величин при весьма

общих условиях близко к нормальному закону распределению.

Известно, что нормально распределенные случайные величины широко распространены на практике (не только в теории вероятностей, но и в её многочисленных приложениях). Чем такое явление объясняется? Ответ на такой «феномен» впервые был дан выдающимся русским математиком А.М. Ляпуновым в 1901году: «Центральная предельная теорема Ляпунова». Ответ Ляпунова заключается в его условии, при которых справедливо ЦПТ (см. далее).

В целях подготовки точной формулировки ЦПТ, поставим перед собой два вопроса:

1. Какой точный смысл содержит в себе утверждение о том, что «закон распределения суммы «близка» к нормальному закону?».

2. При каких условиях справедлива эта близость?

Чтобы ответить на эти вопросы, рассмотрим бесконечную последовательность случайных величин:
Составим «частичные суммы» нашей последовательности с.в.

(23)

От каждой случайных величин перейдём к «нормированной» случайной величине

(24)

Нами было установлено (см.Т.8., п.3, равенства (19)), что
.

Ответ на первый вопрос теперь можно сформулировать в виду предельного равенства

(25)
, (
,

означающего, что закон распределения с.в. с ростомприближается к нормальному закону с
. Разумеется, из того факта, что величинаимеет приближенно нормальное распределение, следует, что и величинараспределена приближенно нормально,

(26)

Формула для определения вероятности того, что сумма нескольких с.в. окажется в заданных пределах. Часто ЦПТ используют при

По поводу условий, которые следует наложить на величины
можно высказать следующие соображения. Рассмотрим разность
Получим отклонение с.вот её математического ожидания. Общий смысл накладываемых условий, на величины
заключается в том, что отдельные отклонения
должны быть равномерно малы по сравнению с суммарным отклонением
Точную формулировку этих условий, при которых справедливо предельное соотношение дал М.А. Ляпунов в 1901 году. Она заключается в следующем.

Пусть для каждой из величин
числаконечны, (заметим, чтоесть дисперсия с.в.
- «центральный момент третьего порядка» ).

Если при

,

то будем говорить, что последовательность
удовлетворяетусловию Ляпунова.

В частности, ЦПТ для случаев, когда в сумме случайных величин каждый слагаемый имеет одинаковое распределение, т.е. все и
то условие Ляпунова выполняется

Именно, на практике такой случай ЦПТ чаще всего используется. Потому, что в математической статистике любая случайная выборка с.в. имеют одинаковые распределения, поскольку «выборки» получены из одной и той же генеральной совокупности.

Сформулируем этот случай как отдельное утверждение ЦПТ.

Теорема 10.7 (ЦПТ). Пусть случайные величины
независимы, одинаково распределены, имеют конечные математическое ожидание
и дисперсию

Тогда функция распределения центрированной и нормированной суммы этих с.в. при
стремится к функции распределения стандартной нормальной случайной величины:

(27)

На этом частном случае хорошо осмыслить, в чем находит своё проявление равномерная «малость» слагаемых,
где величинаимеет порядок, а величина
порядок
, тем самым отношение первой величины ко второй стремится, к 0.

Теперь мы в состоянии сформулировать центральную предельную теорему в форме А.М. Ляпунова.

Теорема 10.8. (Ляпунова). Если последовательность
независимых случайных величин удовлетворяет условию Ляпунова, то справедливо предельное соотношение

(28)
,

для любых
и, при этом (
.

Иными словами, в этом случае закон распределения нормированной суммы сходится к нормальному закону с параметрами

Следует отметить, что для доказательства ЦПТ А.М. Ляпунов разработал специальный метод, основанный на теорию так называемых характеристических функций. Этот метод оказался весьма полезным и в других разделах математики (см. доказательство ЦПТ например в кн. Бородин […]). В этой книге мы, о производящих функциях будем давать краткую информацию и некоторые применения к подсчёту числовых характеристик случайных величин.

Краткие сведения об ошибке измерений. Известно, что при повторении измерений одного и того же объекта, выполненными одним и тем же измерительным прибором с одинаковой тщательностью (при одинаковых условиях) не всегда достигаются одинаковые результаты. Разброс результатов измерения вызван тем, что на процесс измерения влияют многочисленные факторы, которые не возможно и не целесообразно учитывать. В этой ситуации ошибку, возникающую при измерении интересующей нас величины часто можно рассматривать как сумму большого числа независимых между собой слагаемых, каждое из которых даёт лишь незначительный вклад в образование всей суммы. Но такие случаи приводят нас как раз к условиям применимости теоремы Ляпунова и можно ожидать, что распределение ошибки измеряемой величины мало отличается от нормального распределения.

В более общем случае, ошибка является функцией большого числа случайных аргументов, каждый из которых лишь немного отличается от своего математического ожидания. Линеаризуя эту функцию, то есть, заменяя её линейной, опять приходят к предыдущему случаю. Накопленный опыт по статистической обработке результатов измерений действительно подтверждает этот факт в большинстве практических случаев.

Аналогичные рассуждения объясняют появление нормального распределения в отклонениях параметров, определяющих выпущенную готовую продукцию (изделия), от нормативных значений при массовом производстве.

Рассмотрим следующий пример.

Пример 5. Независимые случайные величиныраспределены равномерно на отрезке . Найти закон распределения с.в.
, а также вероятность того, что

Решение. Условия ЦПТ соблюдается, поэтому с.в.имеет приближенно плотность распределения

По известным формулам для м.о. и дисперсии в случае равномерного распределения находим: Тогда

На основании формулы (26), находим (с учётом табличных значений функции Лапласа)

Кроме теорем, относящихся к закону больших чисел, существует еще одна группа теорем, которые образуют так называемую центральную предельную теорему. Эта группа теорем определяет условия, при которых возникает нормальный закон распределения. Такие условия достаточно часто встречаются на практике, что, по сути, и является объяснением того, что нормальный закон наиболее часто используется в случайных явлениях на практике. Различие форм центральной предельной теоремы состоит в формулировке разных условий, накладываемых на сумму рассматриваемых случайных величин. Важнейшее место среди всех этих форм принадлежит теореме Ляпунова.

Теорема Ляпунова. Если Х 1 , Х 2 , … , Х n – независимые случайные величины, имеющие конечные математические ожидания и дисперсии, при этом ни одна из величин по своему значению резко не отличается от всех остальных, т.е. оказывает на сумму этих величин ничтожно малое влияние, то при неограниченном увеличении числа случайных величин n , закон распределения их суммы неограниченно приближается к нормальному.

Следствие. Если все случайные величины Х 1 , Х 2 , … , Х n одинаково распределены, то закон распределения их суммы неограниченно приближается к нормальному при неограниченном увеличении числа слагаемых.

Теорема Ляпунова имеет большое практическое значение. Опытным путем было установлено, что приближение к нормальному закону идет достаточно быстро. При выполнении условий теоремы Ляпунова закон распределения суммы даже десяти слагаемых уже можно считать нормальным.

Существует более сложная и более общая форма теоремы Ляпунова.

Общая теорема Ляпунова. Если Х 1 , Х 2 , … , Х n – независимые случайные величины, имеющие математические ожидания а i , дисперсии σ 2 i , центральные моменты третьего порядка т i и

то закон распределения суммы Х 1 + Х 2 + … + Х n при n неограниченно приближается к нормальному с математическим ожиданием и дисперсией .

Смысл условия (2.1) состоит в том, чтобы в сумме случайных величин не было бы ни одного слагаемого, влияние которого на рассеивание суммы величин было бы подавляюще велико по сравнению с влиянием всех остальных случайных величин. Кроме этого, не должно быть большого числа слагаемых, влияние которых на рассеивание суммы очень мало по сравнению с суммарным влиянием остальных.

Одной из самых первых форм центральной предельной теоремы была доказана теорема Лапласа.

Теорема Лапласа. Пусть производится n независимых опытов, в каждом из которых событие А появляется с вероятностью р , тогда при больших n справедливо приближенное равенство

(2.2)

где Y n – число появлений события А в n опытах; q =1-p ; Ф(х ) – функция Лапласа.

Теорема Лапласа позволяет находить приближенно вероятности значений биномиально распределенных случайных величин при больших значениях величины n . Однако при этом, вероятность р не должна быть ни достаточно маленькой, ни достаточно большой.

Для практических задач часто используется другая форма записи формулы (2.2), а именно

(2.3)

Пример 2.1. Станок выдает за смену n =1000 изделий, из которых в среднем 3% дефектных. Найти приближенно вероятность того, что за смену будет изготовлено не менее 950 хороших (без дефекта) изделий, если изделия оказываются хорошими независимо друг от друга.

Решение . Пусть Y – число хороших изделий. По условию задачи р = 1-0,03=0,97; число независимых опытов n =1000. Применим формулу (2.3):

Пример 2.2, В условиях предыдущего примера выяснить сколько хороших изделий k должен вмещать ящик, чтобы вероятность его переполнения за одну смену не превысила 0,02.

Решение . Из условия ясно, что . Найдем из этого условия число k . Имеем
, т.е. .

По таблице функции Лапласа по значению 0,48 находим аргумент, равный 2,07. Получаем
. ■

Пример 2.3. В банке в определенную кассу за получением некоторых денежных сумм стоят 16 человек. В настоящее время в этой кассе имеется 4000 ден. ед. Суммы Х i , которые необходимо выплатить каждому из 20 человек – это случайные величины с математическим ожиданием т = 160 ден.ед. и средним квадратическим отклонением σ = 70 ден.ед. Найти вероятность того, что денег, имеющихся в кассе, не хватит для выплаты всем стоящим в очереди.

Решение . Применим теорему Ляпунова для одинаково распределенных случайных величин. Величину n = 20 можно считать достаточно большой, следовательно, общую сумму выплат Y = Х 1 + Х 2 + … + Х 16 можно считать случайной величиной распределенной по нормальному закону с математическим ожиданием т у = nт = 20 160= 3200 и среднеквадратическим отклонением .

Напечатать