ШАЛАЕВ Ю.Н. доцент каф. ИПС, АВТФ ТЕОРИЯ ВЕРОЯТНОСТЕЙ, МАТЕМАТИЧЕСКАЯ СТАТИСТИКА И СЛУЧАНЙНЫЕ ПРОЦЕССЫ Лекции- 26 часов Практические занятия- 26 часов Экзамен, зачет.

Литература 1.Гмурман В.Е. Курс теории вероятностей. М.: В.Ш. 1977, Гмурман В.Е. Курс теории вероятностей. М.: В.Ш. 1977, Вентцель Е. С. Теория вероятностей М.: Наука, 1979, Вентцель Е. С. Теория вероятностей М.: Наука, 1979, Чистяков В.П. Курс теории вероятностей. М.: Чистяков В.П. Курс теории вероятностей. М.:1987. Свешников А.А. Сборник задач по теории вероятностей, математической статистике и теории случайных функций. М.: Наука, Свешников А.А. Сборник задач по теории вероятностей, математической статистике и теории случайных функций. М.: Наука, 1965.

Пространство элементарных событий Ω Пространством элементарных событий Ω называется множество элементарных событий ω i, удовлетворяющих данному эксперименту: Ω={ ω 1, ω 2, …, ω n }. Пространством элементарных событий Ω называется множество элементарных событий ω i, удовлетворяющих данному эксперименту: Ω={ ω 1, ω 2, …, ω n }.

Случайные события Случайным событием или просто событием называется подмножество А множества Ω: A Ω. А={ω 1, ω 2,…,ω m }, где m-число элементарных событий случайного события А. Случайным событием или просто событием называется подмножество А множества Ω: A Ω. А={ω 1, ω 2,…,ω m }, где m-число элементарных событий случайного события А. Для дискретного Ω число случайных событий N=2 n. Для дискретного Ω число случайных событий N=2 n.

Действия над событиями A B - объединение множеств ( событий ) A B - объединение множеств ( событий ) A B – пересечение множеств ( событий ) A B – пересечение множеств ( событий ) Ā= Ω – А –противоположное событие Ā= Ω – А –противоположное событие A B=Ø – несовместные события A B=Ø – несовместные события

Комбинаторика Основное правило комбинаторики: пусть требуется совершить одно за другим К действий и первое действие можно осуществить n 1 способами, второе n 2 и так до К действия, которое можно осуществить n k способами, то все К действий можно осуществить Основное правило комбинаторики: пусть требуется совершить одно за другим К действий и первое действие можно осуществить n 1 способами, второе n 2 и так до К действия, которое можно осуществить n k способами, то все К действий можно осуществить N=n 1 ·n 2 ···n k N=n 1 ·n 2 ···n k способами. способами.

Сочетания: Сочетания: Перестановки: Перестановки: Размещения: Размещения: Комбинации с возвращением: Комбинации с возвращением:

Вероятность Аксиоматическое определение вероятности: Вероятность на пространстве элементарных событий Ω называется функция Р(А), обладающая свойствами: Р(Ω)=1; 0 Р(А) 1; Р(А В)=Р(А)+Р(В), А В=Ø

Классическая вероятность: Р(А)=m/n, n-число элементарных событий для Ω; m-число элементарных событий для А. Геометрическая вероятность: Р(А)=L A /L Ω ; Р(А)=S A /S Ω ; Р(А)=V A /V Ω, где L-длина, S-площадь, V-объем. Статистическая вероятность: Р(А)=lim n A /n. n-

Вероятность суммы вероятность суммы для совместных событий А и В определяется по соотношению Р(А U В) = Р(А) + Р(В) – Р(А В); Вероятность противоположного события Р( Ā )=1-Р(А)

Условная вероятность Условная вероятность для зависимых событий определяется по соотношению Р(А/В) = Р(А В) / Р(В). События А и В независимы, если условная вероятность равна своей безусловной вероятности Р(А/В) = Р(А);

Вероятность произведения Вероятность произведения двух событий равна произведению вероятностей одного из этих событий на условную вероятность другого при условии, что первое произошло: Р(А В)=Р(А)·Р(В/А); Для трех событий: Р(А В С)=Р(А)·Р(В/А)·Р(С/АВ); для независимых событий вероятность произведения равна произведению вероятностей Р(А В) = Р(А) Р(В); Вероятность произведения коммутативна: Р(А В)=Р(А)·Р(В/А); Р(А В)=Р(В)·Р(А/В).

Формула полной вероятности А-произвольное событие; События Н 1, Н 2,…Н n попарно несовместны, называются гипотезами и образуют полную группу событий, при этом Р(Н i )>0,

Формула Байеса Это вероятность наступления К гипотезы при условии, что событие А произошло. Это вероятность наступления К гипотезы при условии, что событие А произошло.

Испытания Бернулли Производится последовательность независимых испытаний, в каждом из которых с постоянной вероятностью Р происходит событие А (успех) и событие Ā с вероятностью q=1-p. Необходимо определить вероятность появления события А в этой в этой серии ровно m раз: Производится последовательность независимых испытаний, в каждом из которых с постоянной вероятностью Р происходит событие А (успех) и событие Ā с вероятностью q=1-p. Необходимо определить вероятность появления события А в этой в этой серии ровно m раз:

Случайная величина Случайная величина ξ это действительная функция ξ= ξ (ω), ωΩ, определенная на пространстве элементарных событий. Случайная величина ξ это действительная функция ξ= ξ (ω), ωΩ, определенная на пространстве элементарных событий. Т.е. случайная величина-это функция; аргумент у которой, элементарное событие; значение- число. Т.е. случайная величина-это функция; аргумент у которой, элементарное событие; значение- число. Случайные события (А,В,…) качественные характеристики случайных явлений. Случайная величина дает количественную характеристику явлений. Случайные события (А,В,…) качественные характеристики случайных явлений. Случайная величина дает количественную характеристику явлений.

Случайная величина дискретного типа ξ= x k ; P k -вероятность, которую принимает это значение x k : P k =P(ξ= x k )>0: Закон задается в виде ряда распределения-это совокупность пар чисел (x k,P k ), где xk-значения, которые принимает случайная величина ξ= x k ; P k -вероятность, которую принимает это значение x k : P k =P(ξ= x k )>0: ξ= x k x 1 x 2 x n P k P 1 P 2 P n

Функция распределения F(x)=P(ξ

Свойства функции распределения 1. F(-)=0; F()=1; 2. F(x)- неубывающая функция; х 1

Случайная величина непрерывного типа f(x) – плотность распределения вероятностей случайной величины ξ. f(x) – плотность распределения вероятностей случайной величины ξ.

Плотность вероятностей Плотность распределения вероятностей случайной величины ξ, называется предел отклонения вероятности попадания ξ на малый интервал к Плотность распределения вероятностей случайной величины ξ, называется предел отклонения вероятности попадания ξ на малый интервал к длине этого интервала: длине этого интервала: Если этот предел существует, то он равен производной от функции распределения

Свойства плотности вероятностей График плотности вероятностей f(x) – кривая распределения вероятностей; График плотности вероятностей f(x) – кривая распределения вероятностей; Плотность вероятностей неотрицательная функция: f(x) 0; Плотность вероятностей неотрицательная функция: f(x) 0; Плотность вероятностей нормирована на единицу: Плотность вероятностей нормирована на единицу: Вероятность попадания на интервал [а,в): Вероятность попадания на интервал [а,в):

Числовые характеристики случайных величин Математическое ожидание – это число, которое характеризует среднее значение случайной величины: для дискретной ξ Математическое ожидание – это число, которое характеризует среднее значение случайной величины: для дискретной ξ Для непрерывной ξ: Для непрерывной ξ:

Свойства математического ожилания 1 Математическое ожидание постоянной величины С равно самой постоянной величине: МС=С; самой постоянной величине: МС=С; 2 Постоянную величину можно выносить за оператор математического ожидания: МСξ=СМξ; математического ожидания: МСξ=СМξ; 3 Математическое ожидание суммы случайных величин равно сумме математических ожиданий этих величин: равно сумме математических ожиданий этих величин: М(ξ + η)=Мξ + Мη : М(ξ + η)=Мξ + Мη : 4 Математическое ожидание произведения независимых случайных величин равно произведению математическое ожиданий величин равно произведению математическое ожиданий этих величин: Мξη=Мξ*Мη. этих величин: Мξη=Мξ*Мη.

Дисперсия случайной величины Дисперсией случайной величины ξ называется число Dξ=М(ξ – Мξ) 2, Dξ=М(ξ – Мξ) 2, Которое является мерой рассеяния случайной значений величины около ее математического ожидания. После преобразования правой части получим второе соотношение для дисперсии: Dξ=Mξ 2 – (Mξ) 2. Dξ=Mξ 2 – (Mξ) 2.

Для дискретной ξ: Для дискретной ξ: Для непрерывной ξ: Для непрерывной ξ:

Свойства дисперсии 1 Дисперсия положительная величина Dξ 0; 2 Дисперсия постоянной величины равна нулю: DC=0; 3 Константу можно выносить за оператор дисперсии в квадрате квадрате DCξ=C 2 Dξ; DCξ=C 2 Dξ;

4 Дисперсия суммы и разности независимых случайных величин равна сумме дисперсий этих величин : D(ξ+η)=Dξ+Dη; D(ξ+η)=Dξ+Dη; D(ξ-η)=Dξ+Dη; D(ξ-η)=Dξ+Dη; 5 Среднее квадратическое отклонение: 6 Дисперсия показывает средний квадрат разброса случайной величины относительно центра (математического ожидания).

Моменты Начальный момент К порядка: Начальный момент К порядка: k =Mξ k, 1 =Mξ; Для дискретной ξ: k =Mξ k, 1 =Mξ; Для дискретной ξ: Для непрерывной ξ: Для непрерывной ξ:

Центральный момент К порядка: Центральный момент К порядка: μ к =М(ξ-Мξ) к, μ 1 =0, μ 2 =Dξ; μ к =М(ξ-Мξ) к, μ 1 =0, μ 2 =Dξ; Для дискретной ξ: Для непрерывной ξ: Для дискретной ξ: Для непрерывной ξ:

Квантиль Квантиль порядка Р для распределения F(x) называется значение ε Р для которого F(ε Р )=P. Квантиль порядка Р для распределения F(x) называется значение ε Р для которого F(ε Р )=P.

Типовые законы распределения случайных величин Биномиальный закон: Проводится серия из nоднородных и независимых опытов. А – событие успеха, которое может появится в опыте. Случайная величина ξ – число успехов появления события А в серии из n опытов. ξ – дискретная случайная величина и ее значения целые числа: Биномиальный закон: Проводится серия из nоднородных и независимых опытов. А – событие успеха, которое может появится в опыте. Случайная величина ξ – число успехов появления события А в серии из n опытов. ξ – дискретная случайная величина и ее значения целые числа: ξ=k; k=0,1,2,…, n. ξ=k; k=0,1,2,…, n.

Целочисленная случайная величина ξ подчинена биномиальному закону, если вероятности ряда распределения вычисляются по формуле Бернулли: Математическое ожидание: Мξ=np; Целочисленная случайная величина ξ подчинена биномиальному закону, если вероятности ряда распределения вычисляются по формуле Бернулли: Математическое ожидание: Мξ=np; Дисперсия: D ξ=npq. Дисперсия: D ξ=npq.

Закон Пуассона ξ – дискретная случайная величина, которая принимает целые неотрицательные значения: k=0,1,2,…,k,…, последовательность этих значений не ограничена n, p 0 так, что np=const. Случайная величина ξ подчинена закону Пуассона, если вероятности ряда распределения вычисляются по формуле Пуассона : ξ – дискретная случайная величина, которая принимает целые неотрицательные значения: k=0,1,2,…,k,…, последовательность этих значений не ограничена n, p 0 так, что np=const. Случайная величина ξ подчинена закону Пуассона, если вероятности ряда распределения вычисляются по формуле Пуассона : Математическое ожидание Mξ=a; Математическое ожидание Mξ=a; Дисперсия Dξ=a. Дисперсия Dξ=a.

Равномерное распределение Непрерывная случайная величина ξ распределена по равномерному закону, если плотность распределения имеет вид: Равномерное распределение применяется при определении ошибок вычислений (измерений). Датчик случайных чисел в ЭВМ. Непрерывная случайная величина ξ распределена по равномерному закону, если плотность распределения имеет вид: Равномерное распределение применяется при определении ошибок вычислений (измерений). Датчик случайных чисел в ЭВМ.

Функция распределения Математическое ожидание: Мξ=(в+а)/2; Дисперсия: Dξ=(b-a) 2 /12. Математическое ожидание: Мξ=(в+а)/2; Дисперсия: Dξ=(b-a) 2 /12.

Закон экспоненциального распределения Непрерывная случайная величина ξ распределена по экспоненциальному закону, если плотность вероятностей задана формулой: Применяется при расчете надежности различных технических систем. Непрерывная случайная величина ξ распределена по экспоненциальному закону, если плотность вероятностей задана формулой: Применяется при расчете надежности различных технических систем.

Функция распределения Математическое ожидание: Мξ=1/λ; Дисперсия: Dξ=1/λ 2.

Закон нормального распределения (закон Гаусса) Плотность вероятностей: Плотность вероятностей: Функция распределения: Математическое ожидание: Мξ=а; Дисперсия: Dξ=σ 2. Функция распределения: Математическое ожидание: Мξ=а; Дисперсия: Dξ=σ 2.

Интеграл вероятностей Интеграл вероятностей есть функция распределения Гауссовской случайной величины Z: MZ=0; DZ=1; F(-)=0; F(0)=0.5; F()=1; F(-z)=1 – F(z) MZ=0; DZ=1; F(-)=0; F(0)=0.5; F()=1; F(-z)=1 – F(z)

Локальная теорема Муавра-Лапласа При неограниченном увеличении числа испытаний n формула Бернулли сводится к формуле Гаусса: При неограниченном увеличении числа испытаний n формула Бернулли сводится к формуле Гаусса: Формула справедлива для всех 0

Интегральная теорема Муавра-Лапласа При неограниченном увеличении числа испытаний n вероятность попадания случайной на заданный интервал (a,b] равна где F(z) – интеграл вероятностей. При неограниченном увеличении числа испытаний n вероятность попадания случайной на заданный интервал (a,b] равна где F(z) – интеграл вероятностей.

Системы случайных величин Совокупность нескольких случайных величин, рассматриваемых совместно называется системой случайных величин: {ξ 1,ξ 2,ξ 3, ξ n }. Система двух случайных величин {ξ,η} изображается на плоскости в виде вектора; каждой точки соответствует единственный вектор

Законы распределения системы Таблица распределения является формой записи закона распределения системы дискретной случайной величины: P ij =P(ξ=x i, η=y j ); P ij =P(ξ=x i, η=y j ); yx y 1 y 1 y 2 y 2. yj yj yj yj X 1 X 1 P 11 P 11 P 12 P 12. P jj P jj X2 X2 X2 X2 P 21 P 21 P 22 P 22. P2j P2j P2j P2j.... Xn Xn Xn Xn P i1 P i1 P i2 P i2. P ij P ij

Функция распределения системы F(x,y)=P(ξ

Плотность системы случайных величин Свойства плотности вероятностей системы Свойства плотности вероятностей системы 1 Плотность системы неотрицательная функция f(x,y) 0; 2 Плотность системы нормирована на единицу:

Вероятность попадания системы в область D: Вероятность попадания системы в область D:

Дисперсия системы Дисперсия системы определяется по законам отдельных составляющих системы: Дисперсия системы определяется по законам отдельных составляющих системы: Среднее квадратическое отклонение характеризует рассеивание системы относительно центра (математического ожидания). Среднее квадратическое отклонение характеризует рассеивание системы относительно центра (математического ожидания).

Корреляционный момент Корреляционный момент есть математическое ожидание центрированной системы: Для дискретной системы: Корреляционный момент есть математическое ожидание центрированной системы: Для дискретной системы:

Для непрерывной системы: х,у – возможные значения ξ, η; f(x,y) – плотность вероятностей системы. Геометрически К ξη показывает величину отклонения системы от центра. Если К ξη 0, то система коррелированна. Если К ξη =0, то система не коррелированна. Из независимости системы вытекает некоррелированность, обратное может быть и неверно. Геометрически К ξη показывает величину отклонения системы от центра. Если К ξη 0, то система коррелированна. Если К ξη =0, то система не коррелированна. Из независимости системы вытекает некоррелированность, обратное может быть и неверно.

Свойства корреляционного момента Корреляционный момент симметричен: Корреляционный момент симметричен: К ξη = К ηξ ; К ξη = К ηξ ; К ξξ = Dξ; К ξξ = M(x-Mξ)(x-Mξ)=Dξ; К ξξ = Dξ; К ξξ = M(x-Mξ)(x-Mξ)=Dξ; K ηη = Dη; K ηη = M(y-Mη)(y-Mη)=Dη; K ηη = Dη; K ηη = M(y-Mη)(y-Mη)=Dη; Совокупность всех корреляционных моментов, расположенных в квадратной таблице называется корреляционной матрицей системы: Совокупность всех корреляционных моментов, расположенных в квадратной таблице называется корреляционной матрицей системы:

Коэффициент корреляции Наличие размерности у корреляционного момента вызывает неудобства, поэтому вместо корреляционного момента используют коэффициент корреляции: Наличие размерности у корреляционного момента вызывает неудобства, поэтому вместо корреляционного момента используют коэффициент корреляции:

Коэффициент корреляции обладает свойствами корреляционного момента: Коэффициент корреляции обладает свойствами корреляционного момента: показывает меру линейной связи между случайными величинами: показывает меру линейной связи между случайными величинами: r ξη = 0, если ξ,η некоррелированные случайные величины; r ξη = 0, если ξ,η некоррелированные случайные величины; коэффициент корреляции системы симметричен: r ξη = r ηξ ; коэффициент корреляции системы симметричен: r ξη = r ηξ ; / r ξη / 1; (1 – максимальное значение); / r ξη / 1; (1 – максимальное значение); Совокупность всех коэффициентов корреляции в виде таблице образуют нормированную корреляционную матрицу системы: Совокупность всех коэффициентов корреляции в виде таблице образуют нормированную корреляционную матрицу системы:

Условное математическое ожидание; линейная регрессия Для дискретной ξ: Для дискретной ξ: Для непрерывной ξ : Функция регрессии показывает среднее значение η на ξ. С помощью регрессии осуществляется наилучший прогноз η по ξ. Для непрерывной ξ : Функция регрессии показывает среднее значение η на ξ. С помощью регрессии осуществляется наилучший прогноз η по ξ.

В практике функция регрессии относится к линейной: φ(х)=β 0 + β 1 х; β 0, β 1 – параметры – коэффициенты регрессии. В практике функция регрессии относится к линейной: φ(х)=β 0 + β 1 х; β 0, β 1 – параметры – коэффициенты регрессии. Коэффициенты регрессии подбирают так, чтобы обеспечить минимум среднего разброса η относительно прямой регрессии (метод наименьших квадратов): вводится уклонение η относительно прямой регрессии: Δ = (у – (β 0 + β 1 х)): находим дисперсию: Δ 2 (β 0, β 1 ) = М(у – (β 0 + β 1 х)) 2 min β 0, β 1 : после преобразования получим: Δ 2 (β 0, β 1 ) = М(у – (β 0 + β 1 х)) 2 min β 0, β 1 : после преобразования получим: φ(х)=β 0 + β 1 х = Мη + r ξηση/σξ(x - Mξ). φ(х)=β 0 + β 1 х = Мη + r ξηση/σξ(x - Mξ).