ШАЛАЕВ Ю.Н. доцент каф. ИПС, АВТФ ТЕОРИЯ ВЕРОЯТНОСТЕЙ, МАТЕМАТИЧЕСКАЯ СТАТИСТИКА И СЛУЧАНЙНЫЕ ПРОЦЕССЫ Лекции- 26 часов Практические занятия- 26 часов. - презентация

1 ШАЛАЕВ Ю.Н. доцент каф. ИПС, АВТФ ТЕОРИЯ ВЕРОЯТНОСТЕЙ, МАТЕМАТИЧЕСКАЯ СТАТИСТИКА И СЛУЧАНЙНЫЕ ПРОЦЕССЫ Лекции- 26 часов Практические занятия- 26 часов Экзамен, зачет.

2 Литература 1.Гмурман В.Е. Курс теории вероятностей. М.: В.Ш. 1977, Гмурман В.Е. Курс теории вероятностей. М.: В.Ш. 1977, Вентцель Е. С. Теория вероятностей М.: Наука, 1979, Вентцель Е. С. Теория вероятностей М.: Наука, 1979, Чистяков В.П. Курс теории вероятностей. М.: Чистяков В.П. Курс теории вероятностей. М.:1987. Свешников А.А. Сборник задач по теории вероятностей, математической статистике и теории случайных функций. М.: Наука, Свешников А.А. Сборник задач по теории вероятностей, математической статистике и теории случайных функций. М.: Наука, 1965.

3 Пространство элементарных событий Ω Пространством элементарных событий Ω называется множество элементарных событий ω i, удовлетворяющих данному эксперименту: Ω={ ω 1, ω 2, …, ω n }. Пространством элементарных событий Ω называется множество элементарных событий ω i, удовлетворяющих данному эксперименту: Ω={ ω 1, ω 2, …, ω n }.

4 Случайные события Случайным событием или просто событием называется подмножество А множества Ω: A Ω. А={ω 1, ω 2,…,ω m }, где m-число элементарных событий случайного события А. Случайным событием или просто событием называется подмножество А множества Ω: A Ω. А={ω 1, ω 2,…,ω m }, где m-число элементарных событий случайного события А. Для дискретного Ω число случайных событий N=2 n. Для дискретного Ω число случайных событий N=2 n.

5 Действия над событиями A B - объединение множеств ( событий ) A B - объединение множеств ( событий ) A B – пересечение множеств ( событий ) A B – пересечение множеств ( событий ) Ā= Ω – А –противоположное событие Ā= Ω – А –противоположное событие A B=Ø – несовместные события A B=Ø – несовместные события

6 Комбинаторика Основное правило комбинаторики: пусть требуется совершить одно за другим К действий и первое действие можно осуществить n 1 способами, второе n 2 и так до К действия, которое можно осуществить n k способами, то все К действий можно осуществить Основное правило комбинаторики: пусть требуется совершить одно за другим К действий и первое действие можно осуществить n 1 способами, второе n 2 и так до К действия, которое можно осуществить n k способами, то все К действий можно осуществить N=n 1 ·n 2 ···n k N=n 1 ·n 2 ···n k способами. способами.

7 Сочетания: Сочетания: Перестановки: Перестановки: Размещения: Размещения: Комбинации с возвращением: Комбинации с возвращением:

8 Вероятность Аксиоматическое определение вероятности: Вероятность на пространстве элементарных событий Ω называется функция Р(А), обладающая свойствами: Р(Ω)=1; 0 Р(А) 1; Р(А В)=Р(А)+Р(В), А В=Ø

9 Классическая вероятность: Р(А)=m/n, n-число элементарных событий для Ω; m-число элементарных событий для А. Геометрическая вероятность: Р(А)=L A /L Ω ; Р(А)=S A /S Ω ; Р(А)=V A /V Ω, где L-длина, S-площадь, V-объем. Статистическая вероятность: Р(А)=lim n A /n. n-

10 Вероятность суммы вероятность суммы для совместных событий А и В определяется по соотношению Р(А U В) = Р(А) + Р(В) – Р(А В); Вероятность противоположного события Р( Ā )=1-Р(А)

11 Условная вероятность Условная вероятность для зависимых событий определяется по соотношению Р(А/В) = Р(А В) / Р(В). События А и В независимы, если условная вероятность равна своей безусловной вероятности Р(А/В) = Р(А);

12 Вероятность произведения Вероятность произведения двух событий равна произведению вероятностей одного из этих событий на условную вероятность другого при условии, что первое произошло: Р(А В)=Р(А)·Р(В/А); Для трех событий: Р(А В С)=Р(А)·Р(В/А)·Р(С/АВ); для независимых событий вероятность произведения равна произведению вероятностей Р(А В) = Р(А) Р(В); Вероятность произведения коммутативна: Р(А В)=Р(А)·Р(В/А); Р(А В)=Р(В)·Р(А/В).

13 Формула полной вероятности А-произвольное событие; События Н 1, Н 2,…Н n попарно несовместны, называются гипотезами и образуют полную группу событий, при этом Р(Н i )>0,

14 Формула Байеса Это вероятность наступления К гипотезы при условии, что событие А произошло. Это вероятность наступления К гипотезы при условии, что событие А произошло.

15 Испытания Бернулли Производится последовательность независимых испытаний, в каждом из которых с постоянной вероятностью Р происходит событие А (успех) и событие Ā с вероятностью q=1-p. Необходимо определить вероятность появления события А в этой в этой серии ровно m раз: Производится последовательность независимых испытаний, в каждом из которых с постоянной вероятностью Р происходит событие А (успех) и событие Ā с вероятностью q=1-p. Необходимо определить вероятность появления события А в этой в этой серии ровно m раз:

16 Случайная величина Случайная величина ξ это действительная функция ξ= ξ (ω), ωΩ, определенная на пространстве элементарных событий. Случайная величина ξ это действительная функция ξ= ξ (ω), ωΩ, определенная на пространстве элементарных событий. Т.е. случайная величина-это функция; аргумент у которой, элементарное событие; значение- число. Т.е. случайная величина-это функция; аргумент у которой, элементарное событие; значение- число. Случайные события (А,В,…) качественные характеристики случайных явлений. Случайная величина дает количественную характеристику явлений. Случайные события (А,В,…) качественные характеристики случайных явлений. Случайная величина дает количественную характеристику явлений.

17 Случайная величина дискретного типа ξ= x k ; P k -вероятность, которую принимает это значение x k : P k =P(ξ= x k )>0: Закон задается в виде ряда распределения-это совокупность пар чисел (x k,P k ), где xk-значения, которые принимает случайная величина ξ= x k ; P k -вероятность, которую принимает это значение x k : P k =P(ξ= x k )>0: ξ= x k x 1 x 2 x n P k P 1 P 2 P n

18 Функция распределения F(x)=P(ξ

19 Свойства функции распределения 1. F(-)=0; F()=1; 2. F(x)- неубывающая функция; х 1

20 Случайная величина непрерывного типа f(x) – плотность распределения вероятностей случайной величины ξ. f(x) – плотность распределения вероятностей случайной величины ξ.

21 Плотность вероятностей Плотность распределения вероятностей случайной величины ξ, называется предел отклонения вероятности попадания ξ на малый интервал к Плотность распределения вероятностей случайной величины ξ, называется предел отклонения вероятности попадания ξ на малый интервал к длине этого интервала: длине этого интервала: Если этот предел существует, то он равен производной от функции распределения

22 Свойства плотности вероятностей График плотности вероятностей f(x) – кривая распределения вероятностей; График плотности вероятностей f(x) – кривая распределения вероятностей; Плотность вероятностей неотрицательная функция: f(x) 0; Плотность вероятностей неотрицательная функция: f(x) 0; Плотность вероятностей нормирована на единицу: Плотность вероятностей нормирована на единицу: Вероятность попадания на интервал [а,в): Вероятность попадания на интервал [а,в):

23 Числовые характеристики случайных величин Математическое ожидание – это число, которое характеризует среднее значение случайной величины: для дискретной ξ Математическое ожидание – это число, которое характеризует среднее значение случайной величины: для дискретной ξ Для непрерывной ξ: Для непрерывной ξ:

24 Свойства математического ожилания 1 Математическое ожидание постоянной величины С равно самой постоянной величине: МС=С; самой постоянной величине: МС=С; 2 Постоянную величину можно выносить за оператор математического ожидания: МСξ=СМξ; математического ожидания: МСξ=СМξ; 3 Математическое ожидание суммы случайных величин равно сумме математических ожиданий этих величин: равно сумме математических ожиданий этих величин: М(ξ + η)=Мξ + Мη : М(ξ + η)=Мξ + Мη : 4 Математическое ожидание произведения независимых случайных величин равно произведению математическое ожиданий величин равно произведению математическое ожиданий этих величин: Мξη=Мξ*Мη. этих величин: Мξη=Мξ*Мη.

25 Дисперсия случайной величины Дисперсией случайной величины ξ называется число Dξ=М(ξ – Мξ) 2, Dξ=М(ξ – Мξ) 2, Которое является мерой рассеяния случайной значений величины около ее математического ожидания. После преобразования правой части получим второе соотношение для дисперсии: Dξ=Mξ 2 – (Mξ) 2. Dξ=Mξ 2 – (Mξ) 2.

26 Для дискретной ξ: Для дискретной ξ: Для непрерывной ξ: Для непрерывной ξ:

27 Свойства дисперсии 1 Дисперсия положительная величина Dξ 0; 2 Дисперсия постоянной величины равна нулю: DC=0; 3 Константу можно выносить за оператор дисперсии в квадрате квадрате DCξ=C 2 Dξ; DCξ=C 2 Dξ;

28 4 Дисперсия суммы и разности независимых случайных величин равна сумме дисперсий этих величин : D(ξ+η)=Dξ+Dη; D(ξ+η)=Dξ+Dη; D(ξ-η)=Dξ+Dη; D(ξ-η)=Dξ+Dη; 5 Среднее квадратическое отклонение: 6 Дисперсия показывает средний квадрат разброса случайной величины относительно центра (математического ожидания).

29 Моменты Начальный момент К порядка: Начальный момент К порядка: k =Mξ k, 1 =Mξ; Для дискретной ξ: k =Mξ k, 1 =Mξ; Для дискретной ξ: Для непрерывной ξ: Для непрерывной ξ:

30 Центральный момент К порядка: Центральный момент К порядка: μ к =М(ξ-Мξ) к, μ 1 =0, μ 2 =Dξ; μ к =М(ξ-Мξ) к, μ 1 =0, μ 2 =Dξ; Для дискретной ξ: Для непрерывной ξ: Для дискретной ξ: Для непрерывной ξ:

31 Квантиль Квантиль порядка Р для распределения F(x) называется значение ε Р для которого F(ε Р )=P. Квантиль порядка Р для распределения F(x) называется значение ε Р для которого F(ε Р )=P.

32 Типовые законы распределения случайных величин Биномиальный закон: Проводится серия из nоднородных и независимых опытов. А – событие успеха, которое может появится в опыте. Случайная величина ξ – число успехов появления события А в серии из n опытов. ξ – дискретная случайная величина и ее значения целые числа: Биномиальный закон: Проводится серия из nоднородных и независимых опытов. А – событие успеха, которое может появится в опыте. Случайная величина ξ – число успехов появления события А в серии из n опытов. ξ – дискретная случайная величина и ее значения целые числа: ξ=k; k=0,1,2,…, n. ξ=k; k=0,1,2,…, n.

33 Целочисленная случайная величина ξ подчинена биномиальному закону, если вероятности ряда распределения вычисляются по формуле Бернулли: Математическое ожидание: Мξ=np; Целочисленная случайная величина ξ подчинена биномиальному закону, если вероятности ряда распределения вычисляются по формуле Бернулли: Математическое ожидание: Мξ=np; Дисперсия: D ξ=npq. Дисперсия: D ξ=npq.

34 Закон Пуассона ξ – дискретная случайная величина, которая принимает целые неотрицательные значения: k=0,1,2,…,k,…, последовательность этих значений не ограничена n, p 0 так, что np=const. Случайная величина ξ подчинена закону Пуассона, если вероятности ряда распределения вычисляются по формуле Пуассона : ξ – дискретная случайная величина, которая принимает целые неотрицательные значения: k=0,1,2,…,k,…, последовательность этих значений не ограничена n, p 0 так, что np=const. Случайная величина ξ подчинена закону Пуассона, если вероятности ряда распределения вычисляются по формуле Пуассона : Математическое ожидание Mξ=a; Математическое ожидание Mξ=a; Дисперсия Dξ=a. Дисперсия Dξ=a.

35 Равномерное распределение Непрерывная случайная величина ξ распределена по равномерному закону, если плотность распределения имеет вид: Равномерное распределение применяется при определении ошибок вычислений (измерений). Датчик случайных чисел в ЭВМ. Непрерывная случайная величина ξ распределена по равномерному закону, если плотность распределения имеет вид: Равномерное распределение применяется при определении ошибок вычислений (измерений). Датчик случайных чисел в ЭВМ.

36 Функция распределения Математическое ожидание: Мξ=(в+а)/2; Дисперсия: Dξ=(b-a) 2 /12. Математическое ожидание: Мξ=(в+а)/2; Дисперсия: Dξ=(b-a) 2 /12.

37 Закон экспоненциального распределения Непрерывная случайная величина ξ распределена по экспоненциальному закону, если плотность вероятностей задана формулой: Применяется при расчете надежности различных технических систем. Непрерывная случайная величина ξ распределена по экспоненциальному закону, если плотность вероятностей задана формулой: Применяется при расчете надежности различных технических систем.

38 Функция распределения Математическое ожидание: Мξ=1/λ; Дисперсия: Dξ=1/λ 2.

39 Закон нормального распределения (закон Гаусса) Плотность вероятностей: Плотность вероятностей: Функция распределения: Математическое ожидание: Мξ=а; Дисперсия: Dξ=σ 2. Функция распределения: Математическое ожидание: Мξ=а; Дисперсия: Dξ=σ 2.

40 Интеграл вероятностей Интеграл вероятностей есть функция распределения Гауссовской случайной величины Z: MZ=0; DZ=1; F(-)=0; F(0)=0.5; F()=1; F(-z)=1 – F(z) MZ=0; DZ=1; F(-)=0; F(0)=0.5; F()=1; F(-z)=1 – F(z)

41 Локальная теорема Муавра-Лапласа При неограниченном увеличении числа испытаний n формула Бернулли сводится к формуле Гаусса: При неограниченном увеличении числа испытаний n формула Бернулли сводится к формуле Гаусса: Формула справедлива для всех 0

42 Интегральная теорема Муавра-Лапласа При неограниченном увеличении числа испытаний n вероятность попадания случайной на заданный интервал (a,b] равна где F(z) – интеграл вероятностей. При неограниченном увеличении числа испытаний n вероятность попадания случайной на заданный интервал (a,b] равна где F(z) – интеграл вероятностей.

43 Системы случайных величин Совокупность нескольких случайных величин, рассматриваемых совместно называется системой случайных величин: {ξ 1,ξ 2,ξ 3, ξ n }. Система двух случайных величин {ξ,η} изображается на плоскости в виде вектора; каждой точки соответствует единственный вектор

44 Законы распределения системы Таблица распределения является формой записи закона распределения системы дискретной случайной величины: P ij =P(ξ=x i, η=y j ); P ij =P(ξ=x i, η=y j ); yx y 1 y 1 y 2 y 2. yj yj yj yj X 1 X 1 P 11 P 11 P 12 P 12. P jj P jj X2 X2 X2 X2 P 21 P 21 P 22 P 22. P2j P2j P2j P2j.... Xn Xn Xn Xn P i1 P i1 P i2 P i2. P ij P ij

45 Функция распределения системы F(x,y)=P(ξ

46 Плотность системы случайных величин Свойства плотности вероятностей системы Свойства плотности вероятностей системы 1 Плотность системы неотрицательная функция f(x,y) 0; 2 Плотность системы нормирована на единицу:

47 Вероятность попадания системы в область D: Вероятность попадания системы в область D:

48 Дисперсия системы Дисперсия системы определяется по законам отдельных составляющих системы: Дисперсия системы определяется по законам отдельных составляющих системы: Среднее квадратическое отклонение характеризует рассеивание системы относительно центра (математического ожидания). Среднее квадратическое отклонение характеризует рассеивание системы относительно центра (математического ожидания).

49 Корреляционный момент Корреляционный момент есть математическое ожидание центрированной системы: Для дискретной системы: Корреляционный момент есть математическое ожидание центрированной системы: Для дискретной системы:

50 Для непрерывной системы: х,у – возможные значения ξ, η; f(x,y) – плотность вероятностей системы. Геометрически К ξη показывает величину отклонения системы от центра. Если К ξη 0, то система коррелированна. Если К ξη =0, то система не коррелированна. Из независимости системы вытекает некоррелированность, обратное может быть и неверно. Геометрически К ξη показывает величину отклонения системы от центра. Если К ξη 0, то система коррелированна. Если К ξη =0, то система не коррелированна. Из независимости системы вытекает некоррелированность, обратное может быть и неверно.

51 Свойства корреляционного момента Корреляционный момент симметричен: Корреляционный момент симметричен: К ξη = К ηξ ; К ξη = К ηξ ; К ξξ = Dξ; К ξξ = M(x-Mξ)(x-Mξ)=Dξ; К ξξ = Dξ; К ξξ = M(x-Mξ)(x-Mξ)=Dξ; K ηη = Dη; K ηη = M(y-Mη)(y-Mη)=Dη; K ηη = Dη; K ηη = M(y-Mη)(y-Mη)=Dη; Совокупность всех корреляционных моментов, расположенных в квадратной таблице называется корреляционной матрицей системы: Совокупность всех корреляционных моментов, расположенных в квадратной таблице называется корреляционной матрицей системы:

52 Коэффициент корреляции Наличие размерности у корреляционного момента вызывает неудобства, поэтому вместо корреляционного момента используют коэффициент корреляции: Наличие размерности у корреляционного момента вызывает неудобства, поэтому вместо корреляционного момента используют коэффициент корреляции:

53 Коэффициент корреляции обладает свойствами корреляционного момента: Коэффициент корреляции обладает свойствами корреляционного момента: показывает меру линейной связи между случайными величинами: показывает меру линейной связи между случайными величинами: r ξη = 0, если ξ,η некоррелированные случайные величины; r ξη = 0, если ξ,η некоррелированные случайные величины; коэффициент корреляции системы симметричен: r ξη = r ηξ ; коэффициент корреляции системы симметричен: r ξη = r ηξ ; / r ξη / 1; (1 – максимальное значение); / r ξη / 1; (1 – максимальное значение); Совокупность всех коэффициентов корреляции в виде таблице образуют нормированную корреляционную матрицу системы: Совокупность всех коэффициентов корреляции в виде таблице образуют нормированную корреляционную матрицу системы:

54 Условное математическое ожидание; линейная регрессия Для дискретной ξ: Для дискретной ξ: Для непрерывной ξ : Функция регрессии показывает среднее значение η на ξ. С помощью регрессии осуществляется наилучший прогноз η по ξ. Для непрерывной ξ : Функция регрессии показывает среднее значение η на ξ. С помощью регрессии осуществляется наилучший прогноз η по ξ.

55 В практике функция регрессии относится к линейной: φ(х)=β 0 + β 1 х; β 0, β 1 – параметры – коэффициенты регрессии. В практике функция регрессии относится к линейной: φ(х)=β 0 + β 1 х; β 0, β 1 – параметры – коэффициенты регрессии. Коэффициенты регрессии подбирают так, чтобы обеспечить минимум среднего разброса η относительно прямой регрессии (метод наименьших квадратов): вводится уклонение η относительно прямой регрессии: Δ = (у – (β 0 + β 1 х)): находим дисперсию: Δ 2 (β 0, β 1 ) = М(у – (β 0 + β 1 х)) 2 min β 0, β 1 : после преобразования получим: Δ 2 (β 0, β 1 ) = М(у – (β 0 + β 1 х)) 2 min β 0, β 1 : после преобразования получим: φ(х)=β 0 + β 1 х = Мη + r ξηση/σξ(x - Mξ). φ(х)=β 0 + β 1 х = Мη + r ξηση/σξ(x - Mξ).