Реализация, сечение случайного процесса. Случайные процессы и их основные статистические характеристики Гармоническое колебание со случайной амплитудой
Глава 1. Основные понятия теории случайных процессов
Определение случайного процесса. Основные подходы к заданию
Случайных процессов. Понятие реализации и сечения.
Элементарные случайные процессы.
Случайным (стохастическим, вероятностным) процессом называется функция действительного переменного t, значениями которой являются соответствующие случайные величины X(t).
В теории случайных процессов t трактуется как время, принимающее значения из некоторого подмножества Т множества действительных чисел (t T, T R).
В рамках классического математического анализа под функцией y=f(t) понимается такой тип зависимости переменных величин t и y, когда конкретному числовому значению аргумента t соответствует и притом единственное числовое значение функции y. Для случайных процессов ситуация принципиально иная: задание конкретного аргумента t приводит к появлению случайной величины X(t) с известным законом распределения (если это дискретная случайная величина) или с заданной плотностью распределения (если это непрерывная случайная величина). Другими словами, исследуемая характеристика в каждый момент времени носит случайный характер с неслучайным распределением.
Значения, которые принимает обычная функция y=f(t) в каждый момент времени, полностью определяет структуру и свойства этой функции. Для случайных процессов дело обстоит совершенно иным образом: здесь совершенно не достаточно знать распределение случайной величины X(t) при каждом значении t, необходима информация об ожидаемых изменениях и их вероятностях, то есть информация о степени зависимости предстоящего значения случайного процесса от его предыстории.
Наиболее общий подход в описании случайных процессов состоит в задании всех его многомерных распределений, когда определена вероятность одновременного выполнения следующих событий:
t 1 , t 2 ,…,t n T, n N: X(t i) ≤ x i ; i=1,2,…,n;
F(t 1 ;t 2 ;…;t n ;x 1 ;x 2 ;…;x n) = P(X(t 1)≤x 1 ; X(t 2)≤x 2 ;…; X(t n)≤x n).
Такой способ описания случайных процессов универсален, но весьма громоздок. Для получения существенных результатов выделяют наиболее важные частные случаи, допускающие применение более совершенного аналитического аппарата. В частности, удобно рассматривать случайный процессX(t, ω) как функцию двух переменных: t T, ω Ω , которая при любом фиксированном значении t T становится случайной величиной, определенной на вероятностном пространстве (Ω, AА, P), где Ω - непустое множество элементарных событий ω; AА - σ-алгебра подмножеств множества Ω, то есть множество событий; P - вероятностная мера, определенная на AА.
Неслучайная числовая функция x(t)=X(t, ω 0) называется реализацией (траекторией) случайного процесса X(t, ω).
Сечением случайного процесса X(t, ω) называется случайная величина, которая соответствует значению t=t 0 .
Если аргумент t принимает все действительные значения или все значения из некоторого интервала T действительной оси, то говорят о случайном процессе с непрерывным временем . Если t принимает только фиксированные значения, то говорят о случайном процессе с дискретным временем .
Если сечение случайного процесса - дискретная случайная величина, то такой процесс называется процессом с дискретными состояниями . Если же любое сечение - непрерывная случайная величина, то случайный процесс называется процессом с непрерывными состояниями .
В общем случае задать случайный процесс аналитически невозможно. Исключение составляют так называемые элементарные случайные процессы , вид которых известен, а случайные величины входят как параметры:
X(t)=Х(t,A 1 ,…,A n), где A i , i=1,…,n - произвольные случайные величины с конкретным распределением.
Пример 1 . Рассматривается случайный процесс X(t)=A·e - t , где А - равномерно распределенная дискретная случайная величина, принимающая значения {-1;0;1}; t≥0. Изобразить все его реализации случайного процесса X(t) и показать сечения в моменты времени t 0 =0; t 1 =1; t 2 =2.
Решение.
Данный случайный процесс является процессом с непрерывным временем и дискретными состояниями. При t=0 сечением случайного процесса X(t) является дискретная случайная величина А{-1;0;1}, распределенная равномерно.
При t=0 сечением случайного процесса X(t) является дискретная случайная величина А{-1;0;1}, распределенная равномерно.
При t=1 сечением случайного процесса X(t) является дискретная случайная величина {-1/е;0;1/е}., распределенная равномерно.
При t=2 сечением случайного процесса X(t) является дискретная случайная величина {-1/е 2 ;0;1/е 2 }., распределенная равномерно.
Пример 2 . Рассматривается случайный процесс X(t)=sin At, где А - дискретная случайная величина, принимающая значения {0;1;2}; аргумент t принимает дискретные значения {0; π/4; π/2; π }. Изобразить графически все реализации и сечения данного случайного процесса.
Решение.
Данный случайный процесс является процессом с дискретным временем и дискретными состояниями.
Процессов
Функция вида
Функция вида
Решение.
Математическое ожидание: m Y (t)=M(Xe - t)=e - t m X =me - t .
Дисперсия: D Y (t)=D(Xe - t)=e -2 t DX=σ 2 e -2 t .
Стандартное отклонение:
Корреляционная функция: K Y (t 1 ; t 2)=M((X e - t 1 -m e - t 1)×(X e - t 2 -m e - t 2))=
E -(t 1+ t 2) M(X-m) 2 =σ 2 e -(t 1+ t 2) .
Нормированная корреляционная функция:
По условию задачи случайная величина X распределена нормально; при фиксированном значении t сечение Y(t) линейно зависит от случайной величины X, и по свойству нормального распределения сечение Y(t) также распределено нормально с одномерной плотностью распределения:
Пример 4. Найти основные характеристики случайного процесса Y(t)=W×e - Ut (t>0), где W и U - независимые случайные величины; U распределена равномерно на отрезке ; W имеет математическое ожидание m W и стандартное отклонение σ W .
Решение.
Математическое ожидание: m Y (t)=M(We - Ut)=MW×M(e - Ut)=m w ×*M(e - Ut);
, (t>0).
Корреляционная функция:
так как 
Дисперсия:
Пример 5. Найти одномерный закон распределения случайного процесса: Y(t)=Vcos(Ψt-U), где V и U независимые случайные величины; V нормально распределена с параметрами (m V ; σ V); Ψ-const; U- равномерно распределена на отрезке .
Решение.
Математическое ожидание случайного процесса Y(t):
Дисперсия:
Стандартное отклонение:
Переходим к выводу одномерного закона распределения. Пусть t-фиксированный момент времени, и случайная величина U принимает фиксированное значение U=u - const; u , тогда получаем следующие условные характеристики случайного процесса Y(t):
M(Y(t)| U=u)=m V ×cos(Ψt-u);
D(Y(t)| U=u)= ×cos 2 (Ψt-u);
σ(Y(t)| U=u)= ×|cos(Ψt-u)|.
Так как случайная величина V распределена нормально и при заданном значении случайной величины U=u все сечения линейно зависимы, то условное распределение в каждом сечении является нормальным и имеет следующую плотность:
Безусловная одномерная плотность случайного процесса Y(t):
Очевидно, что это распределение уже не является нормальным.
Сходимость и непрерывность
Сходимость по вероятности.
Говорят, что последовательность случайных величин {Х n } сходится по вероятности к случайной величине Х при n®¥, если
Обозначение:
Обратите внимание, что при n®¥ имеет место классическая сходимость вероятности к 1, то есть с возрастанием номера n можно гарантировать сколь угодно близкие к 1 значения вероятности. Но при этом нельзя гарантировать близости значений случайных величин Х n к значениям случайной величины Х ни при каких сколь угодно больших значениях n, поскольку мы имеем дело со случайными величинами.
стохастически непрерывным
в
точке
t 0 T, если 
3. Сходимость в среднем в степени p³1.
Говорят, что последовательность случайных величин {X n } сходится в среднем в степени p³ 1 к случайной величине Х, если
Обозначение: X n X.
В частности, {X n } сходится в среднеквадратичном к случайной величине Х, если
Обозначение:
Случайный процесс X(t), t T называется непрерывным в среднеквадратичном в точке t 0 T, если
4. Сходимость почти наверное (сходимость с вероятностью единица).
Говорят, что последовательность случайных величин {Х n } сходится почти наверное к случайной величине Х, если
где ωÎW - элементарное событие вероятностного пространства (W, AА, Р).
Обозначение: 
.
Слабая сходимость.
Говорят, что последовательность { F Xn (x)} функций распределения случайных величин Х n слабо сходится к функции распределения F X (x) случайной величины Х, если имеет место поточечная сходимость в каждой точке непрерывности функции F X (x).
Обозначение: F Xn (x)Þ F X (x).
Решение.
1) Математическое ожидание, дисперсия, стандартное отклонение, корреляционная функция и нормированная корреляционная функция случайного процесса X(t) имеют вид (см. Пример 3 ):
2) Переходим к расчету характеристик случайного процесса X ’ (t). В соответствии с Tтеоремами 1-3 получаем:
За исключением математического ожидания (которое поменяло знак), все остальные характеристики сохранились полностью. Взаимные корреляционные функции случайного процесса X(t) и его производной X ’ (t) имеют вид:
3) В соответствии с Теоремами 41-64 основные характеристики интеграла от случайного процесса X(t) имеют следующие значения:
D (t1;t2)=?????????????
Взаимные корреляционные функции случайного процесса X(t) и его интеграла Y(t):
Выражение вида
,
где φ ik (t), k=1;2;…-неслучайные функции; V i , k=1;2;…-некоррелированные центрированные случайные величины, называется каноническим разложением случайного процесса X(t), при этом случайные величины V i называются коэффициентами канонического разложения; а неслучайные функции φ ki (t) - координатными функциями канонического разложения.
Рассмотрим характеристики случайного процесса
Так как по условию 
то
Очевидно, что один и тот же случайный процесс имеет различные виды канонического разложения в зависимости от выбора координатных функций. Более того, даже при состоявшемся выборе координатных функций существует произвол в распределении случайных величин V к. На практике по итогам экспериментов получают оценки для математического ожидания и корреляционной функции: 
. После разложения в двойной ряд Фурье по координатным функциям φ к (t):
получают значения дисперсий D Vk случайных величин V k .
Пример 7
.
Случайный процесс Х(t) имеет следующее каноническое разложение: 
, где V k -нормально распределенные некоррелированные случайные величины с параметрами (0; σ к); m 0 (t) - неслучайная функция. Найти основные характеристики случайного процесса Х(t), включая плотности распределения.
Решение.
Из полученных ранее общих формул имеем:
В каждом сечении случайный процесс Х(t) имеет нормальное распределение, так как является линейной комбинацией некоррелированных нормально распределенных случайных величин V k , при этом одномерная плотность распределения имеет вид:
Двумерный закон распределения также является нормальным и имеет следующую двумерную плотность распределения:
Пример 8. Известныо математическое ожидание m X (t) и корреляционная функция К X (t 1 ;t 2)=t 1 t 2 случайного процесса Х(t), где . Найти каноническое разложение Х(t) по координатным функциям при условии, что коэффициенты разложения V k - нормально распределенные случайные величины.
Решение.
Корреляционная функция имеет следующее разложение
следовательно,
;
;
Так как ,
то 
; .
Плотность распределения случайных величин V k:
Каноническое разложение случайного процесса Х(t) имеет вид:
.
Узком и широком смыслах.
Значительное число происходящих в природе событий, в частности, связанных с эксплуатацией технических устройств, носит «почти» установившиейся характер, то есть картина таких событий, подверженных незначительным случайным флуктуациям, тем не менее, в целом с течением времени сохраняется. В этих случаях принятно говорить о стационарных случайных процессах.
Например, летчик выдерживает заданную высоту полета, но разнообразные внешние факторы (порывы ветра, всходящие потоки, изменение тяги двигателей и т.п.) приводят к тому, что высота полета колеблется около заданного значения. Другим примером могла бы служить траектория движения маятника. Если бы он был предоставлен сам себе, то при условии отсутствия систематических факторов, приводящих к затуханию колебаний, маятник находился бы в режиме установившихся колебаний. Но различные внешние факторы (порывы ветра, случайные колебания точки подвеса и т.п.), не меняя в целом параметров колебательного режима, тем не менее делают характеристики движения не детерминированными, а случайными.
Стационарным (однородным во времени) называют случайный процессСП, статистические характеристики которого не меняются с течением времени, то естьт.е. являются инвариантными относительно временных и сдвигов.
Различают случайные процессыСП стационарные в широком и узком смысле.
Таких, что
Выполняется условие
F(t 1 ; t 2 ;… ;t n ; x 1 ; x 2 ;…; x n)=F(t 1 +τ; t 2 +τ;… ;t n +τ; x 1 ; x 2 ;…; x n),
и, следовательно, все n-мерные распределения зависят не от моментов времени t 1 ; t 2 ;… ;t n , а от n-1 длительности временных промежутков τ i ;:
В частности, одномерная плотность распределения вообще не зависит от времени t:
двумерная плотность сечений в моменты времени t 1 и t 2
n-мерная плотность сечений в моменты времени t 1 ; t 2 ...; t n:
Случайный процессСП Хx(t) называется стационарным в широком смысле, если его моменты первого и второго порядка инвариантны относительно временного сдвига, то есть его математическое ожидание не зависит от времени t и является константой, а корреляционная функция зависит только от длины временного промежутка между сечениями:
Очевидно, что стационарный случайный процессССП в узком смысле является стационарным случайным процессомССП и в широком смысле;, обратное утверждение не верно.
ПроцессаССП
2. 3. Корреляционная функция стационарного случайного процессаССП четна:
Поскольку она обладает следующей симметрией 
4. Дисперсия стационарного случайного процесса ССП есть константа, равная
знзнаачению ее корреляционной функции в точке :
6. Корреляционная функция стационарного случайного процессаССП является
положительно определенной, то есть
Нормированная корреляционная функция стационарного случайного процессаССП 
также четна, положительно определена и при этом
Пример 11. Найти характеристики и сделать вывод о типе случайного процессаСП Хx(t):
гГде U 1 иb U 2 - некоррелированные случайные величиныСВ;
Решение.
Следовательно, случайный процесс Х(t) является стационарным в широком смысле. Как следует из Ппримера 10…
, если U 1 и U 2 независимые, центрирование и нормально распределенные случайные величиныСВ, то случайный процессСП 
также является стационарным в широком смысле.
Пример 12. … Доказать, стационарность в широком смыслечто случайного процессаСП Хx(t) является стационарным в широком смысле:
где V и независимые случайные величиныСВ; MV=m vV - const; - норравномерномально распределенная на отрезке случайная величинаСВ;
Решение.
Запишем Хx(t) следующим образом:
Так как случайная величина равномерно распределена на отрезке , то плотность распределения имеет вид:
следовательно,
Получаем
Так как cлучайный процессСП Хx(t) имеет постоянные математическое ожидание и дисперсию, а корреляционная функция является функцией , то вне зависимости от закона распределения случайной величиныСВ V М случайный процессСП Х x(t) является стационарным в широком смысле.
Стационарно связанные СП
Cлучайные процессыСП X(t)X(t) и Y(t)Y(t) называются стационарно связанными, если их взаимная корреляционная функция зависит только от разности аргументов τ =t 2 -t 1:
R x XY y (t 1 ;t 2)=r x XY y (τ).
Стационарность самих случайных процессов СП X(t) X(t) и Y(t) Y(t) не означает их стационарной связанности.
Отметим основные свойства стационарно связанных случайных процессовСП, производной и интеграла от стационарных случайных процессовССП,
1) 1) rR x XYy (τ)=rR y YXx (-τ).
2) 2) 
3) 3) 
где 
5) 5) 
где 
6) 6) 
;
Пример 13. Корреляционная функция стационарного случайного процессаССП X(t)X(t) имеет вид
Найти корреляционные функции, дисперсии, взаимные корреляционные функции случайных процессовСП X(t), X’(t), 
.
Решение.
Ограничимся анализом случая значениями
D x Х (t)=1.
Воспользуемся следующим соотношением:
Получаем:
Обратите внимание, что в результатепри дифференцированияи стационарный случайный процессССП X(t) переходит в стационарный случайный процессССП X’(t) , при этом X(t) и X’(t) стационарно связаны. При интегрировании стационарного случайного процессаССП X(t) возникает нестационарный случайный процессСП Y(t), и при этом X(t) и Y(t) не являются стационарно связанными.
И их характеристики
Среди стационарных случайных процессовССП есть особый класс процессов, называемых эргодическими , которые обладают следующими свойствоами: их характеристики, полученные усреднением множества всех реализаций,совпадают с соответствующими характеристиками, полученными усреднением по времени одной реализации, наблюдаемой на интервале (0, T) достаточно большой продолжительности. То есть на достаточнобольшом временном промежутке любая реализация проходит через любое состояние независимо от того, каково было исходное состояние системы при t=0; и в этом смысле любая реализация полностью представляет всю совокупность реализаций.
Литература: [Л.1], стр. 155-161
[Л.2], стр. 406-416, 42-426
[Л.3], стр. 80-81
Математическими моделями случайных сигналов и помех являются случайные процессы. Случайным процессом (СП) называется изменение случайной величины во времени . К случайным процессам относится большинство процессов, протекающих в радиотехнических устройствах, а также помехи, сопровождающие передачу сигналов по каналам связи. Случайные процессы могут быть непрерывными (НСП), либо дискретными (ДСП) в зависимости от того, какая случайная величина непрерывная или дискретная изменятся во времени. В дальнейшем основное внимание будет уделено НСП.
Прежде чем приступить к изучению случайных процессов необходимо определится со способами их представления. Будем обозначать случайный процесс через , а его конкретную реализацию – через . Случайный процесс может быть представлен либо совокупностью (ансамблем) реализаций , либо одной , но достаточно протяженной во времени реализацией . Если сфотографировать несколько осциллограмм случайного процесса и фотографии расположить одну под другой, то совокупность этих фотографий будет представлять ансамбль реализаций (рис. 5.3).
Здесь – первая, вторая, …, k-ая реализации процесса. Если же отобразить изменение случайной величины на ленте самописца на достаточно большом интервале времени T, то процесс будет представлен единственной реализацией (рис. 5.3).
Как и случайные величины, случайные процессы описываются законами распределения и вероятностными (числовыми) характеристиками. Вероятностные характеристики могут быть получены как усреднение значений случайного процесса по ансамблю реализаций, так и усреднением по одной реализации.
Пусть случайный процесс представлен ансамблем реализаций (рис. 5.3). Если выбрать произвольный момент времени и зафиксировать значения, принимаемые реализациями в этот момент времени, то совокупность этих значений образует одномерное сечение СП
и представляет собой случайную величину . Как уже подчеркивалось выше, исчерпывающей характеристикой случайной величины является функция распределения или одномерная плотность вероятности
.
Естественно как , так и , обладают всеми свойствами функции распределения и плотности распределения вероятности, рассмотренными выше.
Числовые характеристики в сечении определяются в соответствии с выражениями (5.20), (5.22), (5.24) и (5.26). Так, в частности математическое ожидание СП в сечении определяется выражением
а дисперсия – выражением
Однако, законов распределения и числовых характеристик только в сечении недостаточно для описания случайного процесса, который развивается во времени. Поэтому, необходимо рассмотреть второе сечении (рис. 5.3). В этом случае СП будет описываться уже двумя случайными величинами и , разнесенными между собой на интервал времени 
и характеризоваться двумерной функцией распределения 
и двумерной плотностью 
, где , . Очевидно, если ввести в рассмотрение третье, четвертое и т.д. сечения, можно прийти к многомерной (N-мерной) функции распределения и соответственно к многомерной плотности распределения .
Важнейшей характеристикой случайного процесса служит автокорреляционная функция (АКФ)
устанавливающая степень статистической связи между значениями СП в моменты времени и
Представление СП в виде ансамбля реализаций приводит к понятию стационарности процесса. Случайный процесс является стационарным , если все начальные и центральные моменты не зависят от времени, т.е.
, 
.
Это жесткие условия, поэтому при их выполнении СП считается стационаром в узком смысле .
На практике используется понятие стационарности в широком смысле . Случайный процесс стационарен в широком смысле, если его математическое ожидание и дисперсия не зависят от времени, т.е.:
а автокорреляционная функция определяется только интервалом и не зависит от выбора на оси времени
В дальнейшем будут рассматриваться только стационарные в широком смысле случайные процессы.
Выше отмечалось, что случайный процесс помимо представления ансамблем реализаций, может быть представлен единственной реализацией на интервале времени T. Очевидно, все характеристики процесса могут быть получены усреднением значений процесса по времени.
Математическое ожидание СП при усреднении по времени определяется следующим образом:
. (5.46)
Отсюда следует физический смысл : математическое ожидание – это среднее значение (постоянная составляющая) процесса.
Дисперсия СП определяется выражением
и имеет физический смысл средней мощности переменной составляющей процесса.
Автокорреляционная функция при усреднении по времени
Случайный процесс называется эргодическим , если его вероятностные характеристики, полученные усреднением по ансамблю, совпадают с вероятностными характеристиками, полученными усреднением по времени единственной реализации из этого ансамбля. Эргодические процессы являются стационарными.
Использование выражений (5.46), (5.47) и (5.48) требует, строго говоря, реализации случайного процесса большой (теоретически бесконечной) протяженности. При решении практических задач интервал времени ограничен. При этом большинство процессов считают приблизительно эргодическими и вероятностные характеристики определяют в соответствии с выражениями
; (5.49)
;
Случайные процессы, у которых исключено математическое ожидание, называются центрированными . В дальнейшем под и будут подразумеваться значения центрированных случайных процессов. Тогда выражения для дисперсии и автокорреляционной функции принимают вид
; (5.50)
Отметим свойства АКФ эргодических случайных процессов:
– автокорреляционная функция является вещественной функцией аргумента ,
– автокорреляционная функция является четной функцией, т.е. 
,
– при увеличении АКФ убывает (необязательно монотонно) и при стремится к нулю,
– значение АКФ при равно дисперсии (средней мощности) процесса
.
На практике часто приходится иметь дело с двумя и более СП. Так например, на вход радиоприемника одновременно поступает смесь случайного сигнала и помехи. Взаимную связь между двумя случайными процессами устанавливает взаимная корреляционная функция (ВКФ). Если и – два случайных процесса, характеризующиеся реализациями и , то взаимная корреляционная функция определяется выражением
Лекция 18
Понятие случайного процесса. Характеристики случайных процессов.
Стационарные случайные процессы.
Случайные процессы с независимыми приращениями
Определение.
Случайным процессом
называется семейство случайных
величин
,
заданных на вероятностном пространстве
,
где
есть текущее время. Множество
значений параметра
называют областью определения
случайного процесса
, а множество
возможных значений
– пространством значений случайного
процесса
.
Случайный процесс, в отличие от детерминированного процесса, заранее предсказать невозможно. В качестве примеров случайных процессов можно рассмотреть броуновское движение частиц, работу телефонных станций, помехи в радиотехнических системах и т. д.
Если область определения
случайного процесса представляет
конечное или счетное множество отсчетов
времени, то говорят, что
– случайный процесс с дискретным
временем
или случайная последовательность
(цепь
), а если область определения
– континуум, то
называют случайным процессом с
непрерывным временем
.
В том случае, когда пространство
значений случайного процесса является
конечным или счетным множеством, то
случайный процесс называют дискретным
.
Если же пространство
значений случайного процесса – континуум,
то случайный процесс называют непрерывным
.
Действительную функцию
при некотором фиксированном значении
называют реализацией
или траекторией
случайного процесса
. Таким образом,
случайный процесс представляет собой
совокупность всевозможных своих
реализаций, то есть
,
где индикатор реализаций
может принадлежать счетному множеству
действительных чисел или континууму.
Детерминированный же процесс имеет
единственную реализацию, описываемую
заданной функцией
.
При фиксированном
получаем обычную случайную величину
,
которая называется сечением случайного
процесса
в момент времени
.
Одномерной функцией распределения
случайного процесса
при фиксированном
называется функция
,
.
Эта функция задает вероятность множества
траекторий, которые при фиксированном
проходят ниже точки
.
При
из определения (5.1.1) одномерной функции
распределения следует, что равенство
задает вероятность множества траекторий,
проходящих через «ворота» между точками
и
.
Двумерной функцией распределения
случайного процесса
при фиксированных
и
называется функция
,
.
Эта функция задает вероятность множества
траекторий, которые одновременно
проходят ниже точек
и
.
Аналогично
-мерная
функция распределения
случайного
процесса
при фиксированных
определяется равенством
для всех
из
.
Если эта функция достаточное число раз
дифференцируема, то
-
мерная совместная плотность вероятности
случайного процесса
имеет вид
.
Функция распределения или плотность
вероятности тем полнее описывает сам
случайный процесс, чем больше
.
Эти функции учитывают связь хотя и между
любыми, но лишь фиксированными сечениями
этого процесса. Случайный процесс
считается заданным, если задано множество
всех его
-
мерных законов распределения или
-
мерных плотностей вероятности для любых
.
При этом функция распределения должна
удовлетворять условиям симметрии и
согласованности Колмогорова
. Условие
симметрии состоит в том, что
– симметричная функция для всех пар
,
,
в том смысле, что, например,
Условие же согласованности означает, что
то есть
-
мерный закон распределения случайного
процесса
определяет все законы распределения
более низкой размерности.
Рассмотрим различные характеристики случайных процессов.
Определение.
Математическим
ожиданием
или средним значением
случайного процесса
называется функция
,
где
– одномерная плотность вероятности
случайного процесса. Геометрически
математическому ожиданию соответствует
некоторая кривая, около которой
группируются траектории случайного
процесса.
Определение.
Дисперсией
случайного процесса
называется функция
Таким образом, математическое ожидание
и дисперсия случайного процесса
зависят от одномерной плотности
вероятности и являются неслучайными
функциями времени
.
Дисперсия случайного процесса
характеризует степень разброса траекторий
относительно его среднего значения
.
Чем больше дисперсия, тем значительнее
разброс траекторий. Если дисперсия
равна нулю, то все траектории случайного
процесса
совпадают с математическим ожиданием
,
а сам процесс является детерминированным.
Определение.
Корреляционная
функция
случайного процесса
определяется равенством
где
– двумерная плотность вероятности
случайного процесса.
Корреляционная функция
характеризует степень связи между
ординатами случайного процесса
для двух моментов времени
и
.
При этом, чем больше корреляционная
функция, тем более гладкими являются
траектории случайного процесса
,
и наоборот.
Корреляционная функция обладает следующими свойствами.
1 0 . Симметричность:
,
.
2 0 .
,
.
Эти свойства следуют из соответствующих свойств ковариации случайной величины.
Теория, изучающая случайные процессы на основе математического ожидания и корреляционной функции, называется корреляционной теорией . С помощью методов корреляционной теории исследуются в основном линейные системы автоматического регулирования и управления.
Определение.
Случайный процесс
,
,
называется стационарным
в узком
смысле, если совместное распределение
случайных величин
И
,
одинаково и не зависит от
,
то есть
Отсюда для
-
мерной плотности вероятности справедливо
соотношение
Учитывая, что
в случае одномерной плотности вероятности,
и полагая в этом соотношении
,
имеем
.
Отсюда для стационарного случайного
процесса находим следующее выражение
для математического ожидания:
.
Аналогично для двумерной плотности
вероятности из равенства
при
получим
.
Следовательно, корреляционную функцию
можно записать в виде
где
.
Таким образом, для стационарных случайных процессов в узком смысле, математическое ожидание есть постоянная величина, а корреляционная функция зависит только от разности аргументов, то есть , так как корреляционная функция симметрична.
Определение. Случайный процесс с постоянным математическим ожиданием и корреляционной функцией, зависящей только от разности аргументов, называется случайным процессом, стационарным в широком смысле . Ясно, что стационарный в узком смысле случайный процесс является стационарным и в широком смысле. Обратное же утверждение в общем случае неверно.
Корреляционная функция стационарного случайного процесса обладает приведенными ниже свойствами.
1 0 .
,
то есть функция
– четная.
2 0 . Справедливо неравенство
.
3 0 . Для дисперсии стационарного
случайного процесса
справедливо соотношение
.
Пусть
,
,
– стационарный случайный процесс,
непрерывный по времени
,
с математическим ожиданием
и корреляционной функцией
.
Определение.
Функция, обозначаемая
и определяемая соотношением
,
называется спектральной плотностью .
Если известна спектральная плотность
,
то с помощью преобразования Фурье можно
найти корреляционную функцию
.
Последние два равенства называются формулами Винера – Хинчина .
Очевидно, что для существования обратного
преобразования Фурье достаточно
существования интеграла
,
то есть достаточно абсолютной
интегрируемости на промежутке
корреляционной функции
.
Можно показать, что спектральная
плотность
стационарного случайного процесса
является четной функцией, то есть
.
Так как
– четная функция, то
,
.
Из этих формул и определения корреляционной
функции
следует, что дисперсия стационарного
случайного процесса
равна
.
Если случайный процесс есть флуктуация
электрического тока или напряжения, то
дисперсия случайного процесса как
среднее значение квадрата тока или
напряжения пропорциональна средней
мощности этого процесса. Поэтому из
последнего равенства следует, что
спектральная плотность
в этом случае характеризует плотность
мощности, приходящуюся на единицу
круговой частоты
.
На практике вместо спектральной плотности
часто применяют нормированную
спектральную плотность
,
равную
.
Тогда, как нетрудно убедиться, так
называемая нормированная корреляционная
функция
и нормированная спектральная плотность
связаны прямым и обратным преобразованиями
Фурье:
,
.
Полагая
и учитывая, что
,
имеем
.
Учитывая четность спектральной функции, получаем
,
то есть полная площадь, ограниченная
снизу осью
и сверху графиком нормированной
спектральной плотности, равна единице.
Определение.
Случайный процесс
,
,
называется процессом с независимыми
приращениями
, если для любых
,
,
,
случайные величины
,
,
…,
независимы.
В этом случае для различных пар случайных величин корреляционная функция равна нулю.
Если случайные величины попарно
некоррелированы, то случайный процесс
называется процессом с некоррелированными
или ортогональными приращениями
.
Так как случайные величины независимы, то они некоррелированы (ортогональны). Тем самым всякий процесс с независимыми приращениями есть процесс с ортогональными приращениями.
Пусть
– случайный процесс с ортогональными
приращениями. Тогда для
получаем
поскольку случайные величины
и
ортогональны.
Аналогично при
получим, что
.
Таким образом, корреляционная функция
случайного процесса с ортогональными
приращениями обладает свойством
Применяя функцию Хевисайда
,
корреляционную функцию можно записать
в виде
1. ПОНЯТИЕ СЛУЧАЙНОЙ ФУНКЦИИ
До определенных пор теория вероятностей ограничивалась понятием случайных величин. Их использование позволяет выполнять статические расчеты, учитывающие случайные факторы. Однако механические системы подвергаются также разнообразным динамическим, то есть изменяющимся во времени воздействиям случайного характера. К ним относятся, в частности, вибрационные и ударные воздействия при движении транспортных средств, аэродинамические силы, вызванные атмосферной турбулентностью, сейсмические силы, нагрузки, обусловленные случайными отклонениями от номинальных режимов работы машин.
Случайные динамические явления изучаются при анализе тенденций в экономике (например, изменения курса акций или валюты). Работа в условиях случайных возмущений характерна для систем управления разнообразными динамическими объектами.
Для анализа подобных явлений используется понятие случайной функции . Случайной функцией X (t ) называется такая функция аргумента t , значение которой при любом t является случайной величиной. Если аргумент принимает дискретные значения t 1 , t 2 , …, t k то говорят о случайной последовательности X 1 , X 2 ,…, X k , где X i = X (t i ).
Во многих практических задачах неслучайный аргумент t имеет смысл времени, при этом случайную функцию называют случайным процессом , а случайную последовательность – временным рядом . Вместе с тем, аргумент случайной функции может иметь и иной смысл. Например, речь может идти о рельефе местности Z (x , y ), где аргументами являются координаты местности x и y , а роль случайной функции играет высота над уровнем моря z. В дальнейшем, для определенности, имея в виду приложения случайных функций к исследованию динамических систем, будем говорить о случайных процессах.
Предположим, что при исследовании случайного процесса X (t ) произведено n независимых опытов, и получены реализации
представляющие собой n детерминированных функций. Соответствующее семейство кривых в определенной мере характеризует свойства случайного процесса. Так, на рис.1.1а представлены реализации случайного процесса с постоянными средним уровнем и разбросом значений возле среднего, на рис. 1.1б – реализации случайного процесса с постоянным средним и изменяющимся разбросом, на рис. 1.1в – реализации случайного процесса с изменяющимися во времени средним и разбросом.
Рис.1.1. Типичные реализации случайных процессов
На рис. 1.2 показаны реализации двух случайных процессов, имеющих одинаковый средний уровень и разброс, но различающихся плавностью. Реализации случайного процесса на рис. 1.2а имеют высокочастотный характер, а на рис. 1.2б – низкочастотный.
Рис. 1.2. Высокочастотный и низкочастотный случайные процессы
Таким образом, X
(t
) можно рассматривать и как совокупность всевозможных
реализаций, которая подчиняется определенным вероятностным закономерностям. Как
и для случайных величин, исчерпывающую характеристику этих закономерностей дают
функции или плотности распределения. Случайный процесс считается заданным, если
заданы все многомерные законы распределения случайных величин X
(t i
), X
(t
2
), …, X
(t n
) для любых значений t
1
, t
2
, …, t n
из области изменения аргумента t
. Речь идет, в частности, об
одномерной плотности распределения , двумерной плотности
распределения 
и т.д. .
Для упрощения анализа в большинстве случаев ограничиваются моментными характеристиками, причем чаще всего используют моменты первого и второго порядков. Для характеристики среднего уровня случайного процесса служит математическое ожидание
. (1.1)
Для характеристики амплитуды отклонений случайного процесса от среднего уровня служит дисперсия
Для характеристики изменчивости (плавности) случайного процесса служит корреляционная (автокорреляционная) функция
(1.3)
Как следует из (1.3), корреляционная функция представляет собой ковариацию случайных величин X (t 1) и X (t 2). Ковариация же, как известно из курса теории вероятностей, характеризует взаимозависимость между X (t 1) и X (t 2).
В рамках корреляционной теории случайных функций, которая оперирует лишь моментами первого и второго порядков, могут быть решены многие технические задачи. В частности, могут быть определены априорная, а также условная вероятности выхода случайного процесса за пределы заданных границ. Вместе с тем, некоторые важные в практическом плане задачи не решаются средствами корреляционной теории и требуют использования многомерных плотностей распределения. К таким задачам относится, например, расчет среднего времени нахождения случайного процесса выше или ниже заданной границы.
2. ТИПЫ СЛУЧАЙНЫХ ПРОЦЕССОВ
2.1. Квазидетерминированные случайные процессы
Прежде чем дать определение случайного процесса напомним основные понятия из теории случайных величин. Как известно, случайной величиной называется величина, которая в результате опыта может принять то или иное значение, заранее неизвестное. Различают дискретные и непрерывные случайные величины. Основной характеристикой случайной величины является закон распределения, который может быть задан в виде графика или в аналитической форме. При интегральном законе распределения функция распределения , где – вероятность того, что текущее значение случайной величины меньше некоторого значения . При дифференциальном законе распределения используют плотность вероятности . Численными характеристиками случайных величин являются так называемые моменты, из которых наиболее употребительны момент первого порядка – среднее значение (математическое ожидание) случайной величины и центральный момент второго порядка – дисперсия. В случае, если имеется несколько случайных величин (система случайных величин), вводится понятие корреляционного момента.
Обобщением понятия случайной величины является понятие случайной функции , т.е. функции, которая в результате опыта может принять тот или иной вид, неизвестный заранее. Если аргументом функции является время t, то её называют случайным или стохастическим процессом .
Конкретный вид случайного процесса, полученный в результате опыта, называется реализацией случайного процесса и является обычной неслучайной (детерминированной) функцией. С другой стороны в фиксированный момент времени имеем так называемое сечение случайного процесса в виде случайной величины.
Для описания случайных процессов обобщаются естественным образом понятия теории случайных величин. Для некоторого фиксированного момента времени , случайный процесс превращается в случайную величину , для которой можно ввести функцию , называемую одномерным законом распределения случайного процесса . Одномерный закон распределения не является исчерпывающей характеристикой случайного процесса. Он, например, не характеризует корреляцию (связь) между отдельными сечениями случайного процесса. Если взять два разных момента времени и , можно ввести двумерный закон распределения и т.д. В пределах нашего дальнейшего рассмотрения будем ограничиваться в основном одномерным и двумерным законами.
Рассмотрим простейшие характеристики случайного процесса, аналогичные числовым характеристикам случайной величины. Математическое ожидание или среднее по множеству
и дисперсию
Математическое ожидание – это некоторая средняя кривая, вокруг которой группируются отдельные реализации случайного процесса, а дисперсия характеризует в каждый момент времени разброс возможных реализаций. Иногда, используется среднеквадратичное отклонение .
Для характеристики внутренней структуры случайного процесса вводится понятие корреляционной (автокорреляционной ) функции
Наряду с математическим ожиданием (среднее по множеству) (3.1) вводится ещё одна характеристика случайного процесса – среднее значение случайного процесса для отдельной реализации (среднее по времени)
Для двух случайных процессов можно также ввести понятие взаимной корреляционной функции по аналогии с (3.3).
Одним из частных случаев случайного процесса, находящих широкое применение на практике, является стационарный случайный процесс – это случайный процесс, вероятностные характеристики, которого не зависят от времени. Итак, для стационарного случайного процесса , , а корреляционная функция зависит от разности , т.е. является функцией одного аргумента .
Стационарный случайный процесс в какой-то мере аналогичен обычным или установившимся процессам в системах управления.
Стационарные случайные процессы обладают интересным свойством, которое называется эргодической гипотезой . Для стационарного случайного процесса всякое среднее по множеству равно среднему по времени. В частности, например, Это свойство позволяет часто упростить физическое и математическое моделирование систем при случайных воздействиях.
Как известно, при анализе детерминированных сигналов широкое применение находят их спектральные характеристики на базе ряда или интеграла Фурье. Аналогичное понятие можно ввести и для случайных стационарных процессов. Отличие будет заключаться в том, что для случайного процесса амплитуды гармонических составляющих будут случайными, а спектр статического случайного процесса будет описывать распределение дисперсий по различным частотам.
Спектральная плотность стационарного случайного процесса связана с его корреляционной функцией преобразованиями Фурье :
где корреляционную функцию будем трактовать как оригинал, а - как изображение.
Существуют таблицы, связывающие оригиналы и изображения . Например, если , то .
Отметим связь спектральной плотности и корреляционной функции с дисперсией D
