Стохастические дифференциальные уравнения и их приложения. Стохастические дифференциальные уравнения

Функция может описывать количество кроликов, скорость размножения которых тем больше, чем больше их уже родилось. Более экономический пример -- динамика роста средств производства, увеличение которых тем больше, чем больше их накоплено к данному моменту времени, или рост численности человечества по Мальтусу. Если , то это уравнение называют уравнением роста , в противном случае -- уравнением распада . В решении присутствует произвольная константа , для определения которой необходимо задать, например, начальное количество кроликов в момент времени .

Экспоненциальная функция растёт очень быстро. Если бы кролики размножались всё время только в соответствии с этим уравнением, Земля быстро стала бы белой и пушистой. На практике они не только размножаются, но и умирают. Относительное изменение численности популяции в общем случае может быть функцией . Разложим её в ряд , ограничившись линейной зависимостью. Второе слагаемое имеет смысл уменьшения относительного прироста в результате уничтожения природных ресурсов (из-за нехватки травы). Это происходит тем интенсивнее, чем больше численность популяции. В результате более реалистичное уравнение приводит к логистической функции , которая со временем выходит на стационарное значение (при ):

Решение уравнения (1.2) получается после замены . Асимптотически () равновесное значение легко найти из уравнения, в котором . Стоит напомнить, что (1.2) применимо и к приматам, считающим себя разумными и живущим на планете с ограниченными ресурсами, хотя само по себе логистическое уравнение носит оттенок каннибализма.

Дифференциальные уравнения впервые появились в классической механике. Действующая сила изменяет импульс частицы:

где точка сверху означает производную по времени , а -- массу частицы. К примеру, если сила линейна , то координата частицы совершает колебания с частотой . Так как уравнений два, возникают две константы. Поэтому необходимо задать два начальных условия для координаты и импульса .

Большинство экономических, биологических и физических систем может быть описано при помощи системы дифференциальных уравнений:

где -- вектор переменных, описывающих состояние системы. Векторная функция определяет её динамику. Любые дифференциальные уравнения, содержащие производные второго и более высоких порядков, можно свести к системе (1.4) введением новых динамических переменных. Примером этого служат уравнения механики в форме Гамильтона (1.3).

Мы записали (1.4) в виде изменения вектора за бесконечно малый интервал времени . Такое представление даёт простой алгоритм численного интегрирования уравнений (1.4) в ситуации, когда аналитическое решение получить не удаётся. Для этого бесконечно малые изменения заменяют на малые, но конечные , . В результате (1.4) соответствует дискретной итерационной схеме :

Задав начальный вектор , мы получаем его новое значение через интервал . Затем подставляем вместо и находим . Повторяя эту процедуру, мы приходим к последовательности значений вектора в дискретные моменты времени , , , и т.д. Чем меньше интервал времени , тем ближе численные значения схемы (1.5) будут приближаться к истинному решению уравнения (1.4).

Успехи естественных наук, использующих дифференциальные уравнения, за последние 300 лет впечатляют. Однако более аккуратное сравнение теоретических результатов с экспериментальными данными показывает, что обыкновенные дифференциальные уравнения -- только часть правды.

В большинстве ситуаций изучаемая система подвержена непредсказуемым внешним воздействиям, которые делают динамику не такой гладкой. Летящий по параболе камень лишь в первом приближении следует математической кривой. Его неизбежный контакт с воздухом приводит к некоторым флуктуациям возле этой траектории. Ещё большая нерегулярность обнаруживается при переходе к небольшим объектам, которые, подобно броуновской пыльце, испытывают нерегулярные удары молекул и имеют совсем изломанную траекторию. Степень изломанности координат пыльцы в этом случае настолько велика, что её производную по времени уже нельзя определить.

По мере структурного усложнения природных систем роль стохастических (случайных) процессов возрастает. Кролики размножаются в соответствии с логистическим уравнением только в очень грубом приближении. Флуктуации численности популяции за счёт случайных внутренних и внешних факторов, не учитываемых простой моделью (1.2), на самом деле очень велики. Аналогично и рост экономики имеет экспоненциальный характер только в первом приближении. Функция в реальности сильно искажается экономическими подъёмами и спадами, имеющими стохастический, сложно предсказуемый характер. Наконец, в финансовом мире случайность является доминантой, которая определяет саму сущность рынков. Стохастика в этом случае, как и в броуновском движении, является не малой поправкой, а главным приближением к реальности.

Таким образом, наш мир не является детерминированным. Его истинное лицо -- вероятностное:

Обыкновенные дифференциальные уравнения -- это лишь первое приближение к реальности. Более адекватным инструментом исследования являются стохастические уравнения.

В наших лекциях будет обсуждаться математический аппарат, позволяющий совместить в одной упряжке две столь не похожие друг на друга сущности: детерминированную, гладкую динамику и скачкообразные, изломанные случайные процессы.

Говоря о внешнем шуме, нарушающем гладкую динамику, мы подразумеваем, что справедливо стохастическое уравнение следующего вида:

Оно описывает детерминированное (первое слагаемое) и случайное (второе) изменение переменных состояния системы . Так как предполагается малым, соответственно, определённым образом при уменьшении интервала времени должен уменьшаться и шум. Наши рассуждения будут посвящены корректному введению в дифференциальные уравнения шума , обладающего теми или иными свойствами.

Решением стохастического уравнения является случайная функция , которая зачастую существенно отличается от добропорядочной функции математического анализа. Если под увеличением рассмотреть сильно изгибающуюся обычную функцию, мы увидим, что она гладкая в малых масштабах. Стохастическая, случайная функция при любом увеличении может оставаться изломанной:

Несмотря на то, что случайная функция предполагается непрерывной, обычно это недифференцируемая функция. Действительно, производная представляет собой отношение при . Сколь малый интервал времени мы ни взяли бы, за счёт случайных факторов направление изменения функции может иметь непредсказуемо различный знак . В результате мы не получаем сходимости к определённому пределу. Понятно, что для такого многие факты математического анализа должны быть существенным образом пересмотрены.

Нас будут интересовать методы решения уравнений, подобных (1.6). В тех случаях, когда точное решение получить не удастся, мы будем использовать численное моделирование или приближенные аналитические соотношения. Излишне напоминать, что любой математический аппарат в конечном счёте разрабатывается для того, чтобы получить более мощные средства исследования окружающего мира. Поэтому за каждым уравнением или его решением необходимо видеть реальный случайный процесс в финансах, физике или биологии.

Стохастический мир - простое введение в стохастические дифференциальные уравнения

Программа

курса "Стохастические дифференциальные уравнения"

лектор А.В.Булинский

(кафедра высшей математики МФТИ)

Некоторые задачи , приводящие к стохастическим аналогам обыкновенных дифференциальных уравнений (стохастические модели, возникающие в физике, технике, биологии и финансовой математике).

Вспомогательный математический аппарат. Условное математическое ожидание и его свойства (линейность, "телескопичность", неравенство Иенсена и др.). Фильтрованные вероятностные пространства. Моменты остановки, их свойства, примеры. Мартингалы, субмартингалы, супермартингалы с дискретным и непрерывным временем. Фундаментальные неравенства. Теоремы о сходимости. Локальные мартингалы и семимартингалы. Разложение Дуба-Мейера. Непрерывные и квадратично интегрируемые мартингалы.

Броуновское движение (винеровский процесс), его различные конструкции. Поведение траекторий: недифференцируемость с вероятностью единица, локальные максимумы, точки роста. Броуновское семейство. Варианты марковского и строго марковского свойства броуновского движения (семейства). Применения к решению граничных задач (проблема Дирихле). Формула Фейнмана-Каца. Локальное время броуновского движения, аддитивные функционалы. Векторное броуновское движение. Процессы Бесселя. Фрактальное броуновское движение.

Стохастическое исчисление. Построение интеграла Ито, свойства интеграла (в том числе мартингальность интеграла Ито с переменным верхним пределом). Интеграл Стратоновича. Связь между двумя видами стохастического интеграла. Интегрирование по семимартингалу. Формула Ито замены переменных и ее дальнейшие обобщения. Примеры.

Стохастические дифференциальные уравнения. Сильные и слабые решения. Проблемы существования и единственности решений (в сильном и слабом виде). Результаты Скорохода, Ятамада и Ватанабе. Решение уравнения Ланжевена. Процесс Орнштейна-Уленбека. Марковское свойство сильного решения стохастического дифференциального уравнения. Теорема Энгельберта- Шмидта. Преобразование Камерона-Мартина-Гирсанова как метод построения слабых решений. Мартингальная проблема Струка-Варадана, связь со стохастическими дифференциальными уравнениями. Различные подходы к изучению диффузионных процессов.

Применения стохастических дифференциальных уравнений. Проблемы фильтрации (фильтр Калмана-Бьюси). Задача об оптимальной остановке. Стохастическое управление. Диффузионная модель цены акций: от модели Башелье к модели Самюэлсона. Опционы, справедливая цена. Формула Блэка-Шоулса. Оптимальные инвестиции и потребление.

Дальнейшие исследования. Понятие о квантовых стохастических дифференциальных уравнениях и марковской эволюции открытых квантовых систем. Проблематика стохастических дифференциальных уравнений в частных производных. Некоторые методы численного решения стохастических дифференциальных уравнений.

Литература

1. Оксендал Б. Стохастические дифференциальные уравнения. МЦМИО, 2002.

2. Ширяев А.Н. Основы стохастической финансовой математики, т.1,2. М:Фазис, 1998.

3. Жакод Ж., Ширяев А.Н. Предельные теоремы для случайных процессов, т.1,2. М:Физматгиз, 1994.

4. Булинский А.В., Ширяев А.Н. Теория случайных процессов. М:Физматлит, 2003.

5. Kallenberg O. Foundations of Modern Probability. Springer, New York, 1997.

6. Karatzas I., Shreve S.E. Brownian Motion and Stochastic Calculus. Springer, New York, 1997.

7. Parthasarathy K.R. An Introduction to Quantum Stochastic Calculus. Birkhauser, Basel, 1992.

Поведение многих реальных систем подвержено флуктуациям и в этом смысле не описывается строгими детерминированными законами. В качестве примеров можно указать броуновское движение, колебания стрелки гальванометра, флуктуации в электрических цепях и т. д. В таких случаях говорят о стохастических процессах, в которых рассматриваются вероятности реализации тех или иных конкретных условий. При этом уравнения, определяющие свойства системы, становятся уравнениями для случайных переменных, т.с. стохастическими уравнениями.

Различают три основных типа стохастических дифференциальных уравнений в соответствии с формами, в которых случайные элементы входят в уравнение:

1) случайные начальные условия;
2) случайные действующие силы;
3) случайные изменения коэффициентов уравнения, зависящих от параметров системы.

Типичный пример уравнения первого типа - это уравнение движения частицы, определяемое законами, когда случайный элемент обусловлен только неопределенностью начальных условий.

Во втором случае задается стохастический процесс, определяющий случайную действующую на систему силу. Типичный пример - броуновское движение частицы под действием случайных сил.

В третьем случае параметры системы представляют собой случайные переменные. Например, электрическая цепь, в которой случайным образом меняется емкость конденсатора.

Разумеется, возможны ситуации, когда случайные элементы возникают в результате комбинации различных действующих причин. В качестве примера, позволяющего проиллюстрировать описываемую проблему без детального анализа различных вероятностных моментов, рассмотрим стохастическое уравнение первого порядка:

которое описывает одномерное движение классической частицы под действием силы трения, пропорциональной скорости v(t)> и некоторой «случайной» силы, описываемой функцией u(t).

Отметим, что несмотря на то, что уравнение (1) формально выглядит как второй закон Ньютона и в этом смысле является «точным» для механического поведения классической частицы, в действительности оно является модельным, так как в нем использовано модельное выражение для силы сопротивления движению в сплошной среде.

Формальное решение уравнения (1) записывается в виде

однако случайный, непредсказуемый характер поведения функции u(t) делает невозможным обычный путь решения этого уравнения, связанный с вычислением входящего в выражение (2) интеграла.

Для дальнейшего решения задачи следует задать ансамбль реализаций случайной силы u(t) и провести усреднение всех фигу- рируемых в (2) величин по этому ансамблю. Обозначая средние значения угловыми скобками, получим

Простейший ансамбль реализаций случайной величины - это так называемый «белый шум», при котором справедливы соотношения

где 6(т) - 6-функция Дирака. Соотношения (4) соответствуют независимым случайным значениям величины u(t) в разные моменты времени. В случае «белого шума» (4) уравнение (3) дает т.е. средняя скорость частицы убывает со временем по экспоненциальному закону. Рассмотрим теперь (v 2 (f)). Учитывая равенство

с помощью (2) и (4) получим

При стремлении / ->

к величине, равной кТ/т , где к - постоянная Больцмана; Т - абсолютная температура. Поэтому С/2а = кТ/т, и соотношение (7) переписывается в виде

Равновесие практически устанавливается при значениях времени / » 1 / а. Приближение (4) используется при описании процессов типа броуновского движения, когда зависящая от скорости сила вязкого трения существует и в отсутствие флуктуаций воздействия среды на частицу, a u(t) описывает чисто случайную силу.

Теперь рассмотрим зависимость от времени координаты х броуновской частицы. Считая х(0) = 0, имеем

Для при этом получаем следующее выражение:

С помощью соотношений (2) и (4) для (v(s)v(p )) имеем:

Учитывая соотношения (4) и (8), корреляционной функции (v(s)v(p)) можно придать вид

после чего для (х 2 (/)) имеем

Выражение для среднего значения квадрата смещения частицы оказывается разным в двух предельных случаях больших (/ » 1 /а) и малых (/ / а) времен. С помощью (13) находим

Из (14) следует, что на больших временах броуновская частица движется стохастически. Наоборот, при малых временах, как следует из (15), система обнаруживает «динамическое поведение», хотя это поведение соответствует не отдельной частице, а некоторому усредненному образу, так как речь идет не о х 2 (/), а о среднем значении этой величины.

Отметим, что два последовательных характерных этапа эволюции системы, соответствующие формулам (14) и (15), возникают при использовании в уравнении (1) силы сопротивления, пропорциональной скорости. Сама такая сила устанавливается спустя некоторый промежуток времени / с, по истечении которого можно представить результат взаимодействия выделенной частицы с окружающими частицами как некоторую усредненную постоянно действующую силу. Поэтому в соотношении (15) более правильным будет записать t c На временах, меньших t c , поведение выбранной частицы описывается чисто динамически. В принятом подходе t c выступает именно как феноменологический параметр, оценить или вычислить который можно только в рамках более детальной модели.

При более общем подходе к описанию стохастических систем и, в частности, к описанию броуновского движения вводят представление о функциях распределения р(х 0 , / 0 |х, г), определяющих вероятность обнаружить броуновскую частицу в интервале (х, x + dx) в момент /, при условии, что в момент / 0 она была в точке Xq. (Для простоты опять рассматривается одномерное движение.) Функция распределения считается нормированной:

Кроме того, эта функция удовлетворяет начальному условию, поэтому

Вероятности переходов, взятые для последовательных промежутков времени, считаются независимыми, поэтому произведение

соответствует вероятности обнаружить частицу в момент времени t + dt в области (х, x + dx), если в момент / 0 она находилась в точке х 0 , а в момент/ - в области (х", х" + dx"). Проинтегрировав по всем промежуточным состояниям х" в момент /, получаем вероятность р(дсо, / 0 |х, t + dt). Поэтому

Это - уравнение Смолуховского (нелинейное интегральное уравнение). Оно служит основой для вывода линейного дифференциального уравнения Фоккера-Планка, широко используемого при рассмотрении свойств стохастических систем - динамических систем с флуктуирующими параметрами. Обобщение рассмотрения на трехмерный случай не представляет особого труда и приводит к дифференциальным уравнениям в частных производных.

Широкое распространение при изучении стохастических явлений самой различной природы получило так называемое master equation - управляющее уравнение

В этом соотношении w, - вероятность нахождения системы в состоянии, характеризуемом набором характеристик / (квантовых чисел, если речь идет о физической системе), Ру - вероятность перехода в единицу времени из состояния j в состояние /: Ру > 0. В теоретической физике уравнение (19) называется уравнением кинетического баланса Паули, а вероятности w, трактуются как диагональные элементы статистического оператора в собственном представлении.

Почти «очевидное» из интуитивных соображений, это уравнение может быть обосновано с помощью достаточно строгих соображений или выведено на основе других уравнений, например с помощью уравнения С мол ухо вс кого. Действительно, представим вероятность р(х", /| х, t + dt) в виде

где первое слагаемое в правой части характеризует вероятность частице остаться через dt в точке х", а второе - вероятность перейти за то же время dt в точку х. Учитывая условие нормировки (16), легко с помощью (20) получить соотношение

Подставляя (20) в уравнение Смолуховского (18), с учетом (21) приходим к соотношению

Из соотношения (22) непосредственно следует дифференциальное уравнение

которое в точности соответствует уравнению (19).

Управляющее уравнение (19) сохраняет нормировку распределения вероятностей и является уравнением релаксационного типа: описываемая этим уравнением система с течением времени необратимо рслаксирует к некоторому не зависящему от времени стационарному состоянию. Выбор того или иного модельного представления для вероятностей переходов /* позволяет использовать это уравнение для описания самых различных стохастических процессов. В частности, уравнение Паули содержит в себе в качестве частного случая кинетическое уравнение Больцмана и некоторые его квантовые обобщения.

Для удобства математического исследования этого уравнения оно переписывается в матричном виде для вектора состояния W с компонентами ш,:

где А - матрица перехода с элементами

При вещественных вероятностях переходов /* матрица Л эрмитова, т.е. ее собственные значения вещественны, а собственные векторы ортогональны. Формальное решение уравнения (24) записывается в виде

где W(0) - вектор состояния в начальный момент времени. Свойство эрмитовости матрицы Л позволяет легко доказать релаксационный характер уравнения (19).

Задачи и упражнения

1. Покажите, что v(t), определяемое формулой (2), является решение уравнения (1).
2. Докажите справедливость соотношений (6) и (7).
3. Получите соотношение (12).
4. Получите формулу (13) для (х 2 (/)}.
5. Используя (13), докажите соотношения (14) и (15).
6. Используя соотношения (5) и (9), найдите величину (*(/)) и проанализируйте результат в двух предельных случаях: at и я/»1. Сравните с соотношениями (14) и (15).
7. Получите соотношение (22).

В этом параграфе исследуются многие фундаментальные вопросы, касающиеся случайных процессов, в частности преобразования процессов в нелинейных системах Вновь обсуждено понтие белого шума и выявлена связь этого шума с вьнеровским процессом Обсуждаются трудности, возникающее при отыскании уравнения для дисперсии в случае непрерывной системы, возбуждаемой белым шумом Здесь эти трудности преодолеваются путем введения стохастического исчисления и стохастических дифференциальных уравнений.

Белый шум. Многие реальные случайные процессы являются приближенно нормальными и приближенно стационарными. Часто они имеют энергетический спектр, мало отличающийся от равномерного в полосе частот, намного большей, чем полоса пропускания исследуемой системы. Вместо таких процессов с математической точки зрения удобно использовать белый шум, даже несмотря на то, что такой процесс лишен физического смысла, поскольку для его генерирования требуется бесконечно большая мощность. Понятие белого шума можно отнести к той же совокупности категорий, которой принадлежит и понятие импульсного отклика линейной системы. Важную роль играют импульсные функции - дельта-функции Дирака, которые часто определяются как пределы некоторых последовательностей функций. Аналогичным образом можно рассматривать и белый шум.

Будем говорить, что непрерывный нормальный процесс является белым шумом с нулевым средним значением, если

Это определение не является строгим, так как дельта-функция Дирака может быть строго определена только в терминах интегральных выражений, таких, как

(4.63)

Дельта-функцию Дирака можно рассматривать как предел обычных функций времени, которые являются, например, симметричными при сколь угодно малом положительном значении :

(4.64)

При малых значениях можно также ввести процесc с дискретным временем, обладающий основными свойствами белого шума:

При или при в пределе получаем импульсную функцию и непрерывный белый шум соответственно.

В предыдущей главе для системы, описываемой уравнением

и возбуждаемой некоррелированным с белым нормальным шумом с нулевым средним значением, путем дифференцирования выражения

(4.67)

было получено следующее уравнение для ковариационной матрицы:

Воспользовавшись теперь обозначением ковариационной матрицы, запишем

Так как для , то слагаемые, характеризующие взаимную корреляцию, могут быть записаны в следующей форме:

Так как -функция здесь располагается на конце интервала интегрирования, то значение этого интеграла зависит от используемого типа дельта-функции. В данной главе используется симметричная дельта-функция, интеграл от которой по области, лежащей справа от точки , равен 1/2 и равен интегралу по области слева от этой точки. В этом случае равенство (4.69) принимает вид

. (4.70)

Аналогичные рассуждения приводят также к равенству

. (4.71)

Таким образом, получаем уже известный результат:

с начальным условием .

Если дельта-функцию определить как несимметричную функцию, для которой

(4.73)

(4.75)

Следовательно, снова получаем уравнение

Правильный ответ для ковариационной матрицы получается даже при различных представлениях матриц: и .

Можно было бы привести разумные соображения в пользу использования симметричной дельта-функции. Например, дельта-функция часто используется в качестве ковариационной функции, которая обязательно должна быть симметричной. Такой подход при аккуратном обращении может быть использован без особых затруднений при исследовании линейных систем Однако в случае нелинейных систем необходимо развить новый способ решения этой проблемы.

Полезно также повторить приведенный выше вывод, начав с дискретного времени, и перейти затем к пределу, увеличивая число отсчетов на интервале наблюдения с тем, чтобы проверить возникает ли при этом уже отмеченная трудность неоднозначности. Рассмотрим дискретный аналог уравнения системы (4.66) в форме (см. § 3.5):

Так как , то уравнение для ковариационной матрицы, соответствующей ур-нию (4.77), на основании результатов § 3.5 примет вид

Теперь при увеличении числа отсчетов получаем уравнение

которое является уравнением для ковариационной матрицы при непрерывном времени. При выводе этого уравнения трудность, имевшая место при выводе аналогичного соотношения сразу для непрерывного времени, не возникла благодаря тому, что Если положить и

то уравнение (4.66) можно записать следующим образом:

Хотя ф-лу (4.82) можно получить формальным умножением ур-ния (4.66) на , в дальнейшем будет показано, что это слабое различие оказывается чрезвычайно важным. Стохастический процесс , определяемый соотношением

, (4.84)

называется винерйвским процессом, свойства которого достаточно подробно обсуждаются в дальнейшем.

Винеровский процесс. В дальнейшем изложении винеровский процесс играет очень важную роль. Этот процесс был введен Н. Винером в качестве простой модели броуновского движения. Пусть обозначает положение некоторой частицы в момент времени , которая при находилась в начале координат. Броуновская частица передвигается под воздействием соударений с аналогичными частицами. Смещение некоторой частицы в течение интервала времени , намного превышающего среднее время между двумя следующими друг за другом столкновениями, можно рассматривать как сумму большого числа малых смещений. Следовательно, здесь имеется возможность применить центральную предельную теорему, что позволит функцию распределения приращения аппроксимировать нормальным распределением.

Винеровский процесс определяется как интеграл от стационарного нормального белого шума , имеющего нулевое среднее значение, т. е.

, (4.85)

Легко показать, что

; (4.87)

Кроме того, для приращения можно записать

. (4.89)

Отсюда следует, что приращение винеровского процесса имеет среднее значение, равное нулю, и дисперсию

Винеровский процесс часто называют также процессом броуновского движения или процессом Винера-Леви . Этот процесс имеет много интересных свойств, из которых здесь отметим лишь следующие:

1. Винеровский процесс является процессом с независимыми приращениями, т. е. если принять , то случайные величины независимы для . Так как случайно величина имеет ту же функцию распределения, что и приращение , то винеровский процесс можно назвать процессом со стационарными независимыми приращениями.

2. Винеровский процесс является марковским процессом, так как

(4.91)

Это соотношение легко доказывается, если записать

Отсюда получаем

Точно такие же значения имеют и .

3. Винеровский процесс является мартингальным процессом, т. е. его условное математическое ожидание в момент времени при фиксированных значениях равно последнему наблюдаемому значению Таким образом,

Отметим здесь, что марковский процесс не обязательно является мартингальным процессом.

4. Винеровский процесс обладает свойством осцилляции Леви, т. е. если - разбиение интервала такое, что , то

, (4.93)

где сходимость суммы понимается в среднеквадратическом смысле.

Приведенные соотношения будут использоваться в дальнейшем при обсуждении преобразований случайных процессов в нелинейных системах.

Стохастический интеграл и стохастические дифференциальные уравнения.

Винеровский процесс был определен выше как интеграл от белого шума а именно, . Дж. Дуб показал , что реализации винеровского процесса являются непрерывными функциями, но не имеют ограниченной вариации и почти нигде не дифференцируемы. Причину недифференцируемости реализаций частично поясняет соотношение (4.90), из которого следует, что , так что среднеквадратическое значение приращения имеет порядок .Тогда производная приращения имеет в среднем порядок отношения , которое стремится к бесконечности, если стремится к нулю.

Таким образом, если - винеровский процесс, то производной трудно придать какой-либо разумный смысл. Можно попытаться также ответить на вопрос, определен ли для произвольной непрерывной функции следующий интеграл Римана:

. (4.94)

Интегралы такого типа уже встречались ранее, когда исследовался отклик линейной системы на воздействие в виде белого шума. Если система описывается уравнением , то

, (4.95)

Смысл последнего интеграла неясен, так как пока что отсутствовало строгое определение для производной .

Один из возможных способов преодоления этой трудности состоит в том, чтобы попытаться использовать понятие интеграла Лебега-Стилтьеса, записав

. (4.96)

Однако этот способ не устраняет трудности, так как не является функцией с ограниченной вариацией, и следовательно, интеграл Лебега-Стилтьеса оказывается неопределенным.

Естественным статистическим обобщением интеграла Лебега-Стилтьеса является стохастический интеграл, при определении которого последовательность интегральных сумм сходится к значению интеграла по вероятности. Именно замена сходимости в обычном нестатистическом смысле сходимостью по вероятности позволяет преодолеть отмеченную выше трудность.

Пусть - векторный случайный процесс с компонентами, а - произвольная матричная функция, кусочно-непрерывная при всех и зависящая, самое большее, от настоящего и прошлых значения процесса , т.е. от . Это ограничение можно записать следующим образом:

Обозначим через множество функций , на котором может быть определена вероятностная мера. В множестве выделим следующие три подмножества:

1. - множество функций из , кусочно-постоянных по на интервале .

2. - множество функций из , интегрируемых в квадрате по на интервале ,

3. - множество функций из , интегрируемых в квадрате по на интервале с вероятностью 1.

Для любой функции из существуют точки такие, что при ; множество является множеством точек, в которых функция имеет скачки. Стохастический интеграл или интеграл Ито для таких функций можно определить следующим образом:

. (4.97)

Если , но не принадлежит подмножеству , для обобщения определения (4.97) используется традиционный предельный переход

, (4.98)

где обозначает предел в среднем (при ), и ;

, для всех .

Следует отметить, что стохастический интеграл может быть определен и несколько иными способами. Например,

, (4.99)

где , или при произвольно малом положительном

. (4.100)

В общем случае определения (4.99) и (4.100) не эквивалентны определению (4.98). Если принадлежит множеству , то нетрудно видеть, что три указанных определения приводят к одному и тому же результату, это же можно сказать и относительно других возможных определений. Однако, если не является элементом подмножества , то эти определения не являются, вообще говоря, эквивалентными из-за свойства осцилляции Леви. Хотя определения (4.99) и (4.100) и имеют некоторые преимущества, далее будет показано, что определение (4.98) обычно является более подходящим. Связь между различными определениями стохастического интеграла и обычным нестатистическим определением более подробно будет обсуждаться позднее.

Интеграл, определенный с помощью соотношения (4.98), будем называть интегралом Ито . Его можно рассматривать как линейное преобразование , т. е.

для каждой пары допустимых функций и и для любых действительных матриц и.

Если принадлежит подмножеству , a является винеровским процессом , то интеграл обладает следующими двумя свойствами, полезными для последующего изложения:

; (4.101)

. (4.102)

Доказательства этих свойств основываются на том факте, что приращение статистически не зависит от для по условию и от , согласно свойству винеровского процесса о независимости приращений на непересекающихся интервалах. Для простоты здесь приведем доказательство лишь для случая, когда доказательства для более общих случаев проводятся аналогично.

Рассмотрим сначала равенство (4.101). Используя (4.97), запишем

Так как и статистически независимы, то среднее значение произведения можно записать как произведение средних значений. Тогда

Так как среднее значение приращений винеровского процесса равно нулю, то правая часть последнего равенства также оказывается равной нулю, что доказывает справедливость равенства (4.101).

Аналогичным образом проводится доказательство справедливости соотношения (4.102). Воспользовавшись сначала определением (4.97), запишем

В силу независимости приращений имеем

Вновь, используя независимость приращений и равенство (4.90), можно записать

Таким образом, для получаем

Так как является элементом подмножества , то правая часть последнего равенства может быть записана как обычный интеграл , что завершает доказательство.

Если не принадлежит подмножеству и используется отличное от (4.98) правило интегрирования, то равенства (4.101) и (4.102) могут оказаться несправедливыми. Это одна из главных причин, из-за которых в данной книге выбирается определение (4.98), поскольку соотношения (4.101) и (4.102) будут довольно часто использоваться в дальнейшем. Необходимо также, чтобы функция принадлежала подмножествам или , так как в противном случае интегральные суммы не будут, вообще говоря, сходиться по вероятности или с вероятностью 1 соответственно.

В дальнейшем потребуется выражение для дисперсии дифференциального приращения . На основании (4.90) можно записать . Если теперь положить , то приращение можно записать как . Тогда при получаем представление

, (4.103)

Этот результат еще раз подтверждает, что приращение имеет порядок , вследствие чего производная не существует.

Нетрудно показать, что для величины все моменты, начиная со второго, имеют больший порядок малости по сравнению с . Следовательно, при достаточно малых значениях получаем, что и для . Отсюда следует, что величина фактически является детерминированной и равной для бесконечно малых значений . Тем самым установлено следующее важное соотношение:

из которого следует

Таким образом, винеровский процесс действительно является необычным процессом. Будучи всюду непрерывным, он почти нигде не дифференцируем; дисперсия приращения значений этого процесса на бесконечно малом интервале совпадает с квадратом приращения. Аналогичным образом можно показать также, что

Интересно также следующее свойство винеровского процесса. Если функция не зависит от , то интеграл Ито, определенный соотношением (4.98), является мартингалом, т. е.

Это свойство становится очевидным, если рассмотреть равенство (4.101). Действительно, так как

то условное среднее величины , стоящее в левой части равенства (4.106), можно записать в виде

В первом интеграле функция и полностью известна на всем интервале интегрирования, так как она входит в условие. Поэтому этот интеграл не является стохастическим. В то же время во втором интеграле условие не играет уже подобной роли в силу независимости приращений процесса и на непересекающихся интервалах. Поэтому на основании ф-лы (4.101) второе слагаемое в правой части последнего равенства равно нулю. В результате получаем

Еще одно полезное свойство интеграла Ито состоит в том, что его конструкция допускает определение интеграла

где - произвольная непрерывная функция, a - -мерный непрерывный случайный процесс. Из этого определения следует, в частности, что если - -мерный нестационарный винеровский процесс , для которого , то справедливо (в среднеквадратическом смысле, с вероятностью 1) равенство

(4.108)

Обратимся теперь к изучению процесса на выходе нелинейной системы, описываемой уравнением

, (4.109)

если на ее входе действует -мерный векторный нормальный белый шум , для которого

Здесь - -мерный случайный вектор состояния; - -мерная нелинейная векторная функция от и ; - матричная функция размерности .

Формальным интегрированием ур-ния (4.109) можно найти следующее неявное выражение для отклика или вектора состояния системы

, (4.110)

где - винеровский процесс; , для которого ; . Заметим, что первый интеграл в ф-ле (4.110) является обычным, в то время как второй - стохастическим. Если случайный векторный процесс с вероятностью 1 удовлетворяет полученному стохастическому интегральному уравнению, то ур-ние (4.110) можно записать в следующей символической форме:

Это уравнение в дальнейшем будем называть стохастическим дифференциальным уравнением. Это равенство можно рассматривать как удобный способ записи ур-ния (4.110) в случае, когда функции и , определённые при всех допустимых значениях , принадлежат подмножеству .

В дальнейшем будет показано, что при преобразованиях интеграла Ито необходимо использовать правила, отличающиеся от правил преобразований обычных интегралов. Будем считать, что является процессом Ито; предположим далее, что - функция от и , имеющая, непрерывные частные производные второго порядка по и . Используя правило дифференцирования Ито, получаем, что также является процессом Ито и удовлетворяет уравнению

в котором ради простоты записи использованы следующие сокращенные обозначения

Это уравнение играет очень важную роль при получении многих результатов теории случайных процессов; оно, например, используется при отыскании характеристических функций случайных процессов

Стохастическое дифференциальное ур-ние (4.111) можно переписать в несколько ином виде, если воспользоваться введенными выше обозначениями и :

Здесь винеровский процесс имеет среднее значение, равное нулю, и ковариационную матрицу

. (4.114)

Подробное и удобное по форме доказательство правила дифференцирования Ито для скалярного случая дано в работе . Обобщение этого доказательства на векторный случай не встречает принципиальных трудностей. Здесь приведем лишь упрощенные нестрогие рассуждения. Интегрирование (4.112) приводит к уравнению (для )

которое также является полезным.

Разложим функцию в ряд Тейлора относительно точки и :

где слагаемое содержит члены порядка или и более высокого порядка. Используя теперь ф-лу (4.110) для и учитывая, что - бесконечно малая величина, вследствие чего в разложении из-за свойства осцилляции Леви появляются слагаемые типа

получаем ур-ние (4.115), которое эквивалентно ур-нию (4.112). Иногда удобнее правило дифференцирования Ито записывать в виде

где обычно называется обратным дифференциальным оператором:

Таким образом, является дифференциальным генератором процесса .

Пример 4.3 . Исследуем процесс на выходе нелинейной системы, описываемой уравнениями

на вход которой воздействует нормальный белый шум с ковариационной матрицей .

Используя обычное правило интегрирования, получаем

т е процесс является винеровским процессом, что и следовало ожидать Для вычисления необходимо использовать интеграл Ито, так как

Использование обычного правила интегрирования привело бы к результату

. (4.119)

Однако рассматриваемый интеграл является стохастическим, и здесь необходимо воспользоваться определением (4.98) Поэтому следует писать

Последнее равенство с помощью простых алгебраических преобразований приводится к виду

Первая сумма легко вычисляется, давая в результате . Так как , то

Второе слагаемое можно легко вычислить, если воспользоваться свойством осцилляции Леви [см. равенство (4.93)] Так как , то для получаем

Используя (4 104), это выражение можно переписать в виде

Обычный интеграл в правой части этого равенства легко вычисляется, так что для окончательно получаем .

Чтобы показать, что определение (4.99) в общем случае неэквивалентно определению (4.98), вычислим теперь , воспользовавшись правилом (4.98) Для этого положим . Тогда значение можно приближенно положить равным и записать

Дальнейшие вычисления, проводимые так же, как выше, приводят к следующему результату

Этот результат совпадает с решением, получаемым при обычном исчислении при , и совпадает с решением, основанном на использовании интеграла Ито, при .

Другой способ получения корректного выражения для основывается на использовании правила дифференцирования Ито Так как уже известно, что решение содержит слагаемое вида , где - винеровский процесс, то появляется возможность рассмотреть линейную систему

, (4.119а)

где - белый нормальный шум с нулевым средним значением Соответствующий процесс Ито удовлетворяет стохастическому уравнению .

Положим . Так как правило дифференцирования Ито [см. (4.112)] записывается в виде

где для рассматриваемой задачи , так что , а , то в данном случае

(поскольку ). Интегрированием получаем

Если теперь учесть, что - винеровский процесс , то последнее уравнение можно переписать следующим образом:

Отсюда , так что корректное решение имеет вид

Здесь снова результаты, полученные с помощью обычного исчисления и стохастического исчисления, не совпадают. Причиной этого несовпадения, конечно, является то, что для вычисления стохастического интеграла обычные методы, вообще говоря, применять нельзя.

Для того чтобы получить алгоритмы оценивания в любой физической задаче оценивания, приходится выполнять два наиболее важных этапа исследований. На первом из них решается задача моделирования или выбора стохастического дифференциального уравнения, которое описывало бы рассматриваемый физический процесс. Эта модель, которая в конечном счете представляет некоторый процесс, является в общем случае компромиссом между математической точностью и простотой вычислений.

Цель второго этапа - найти алгоритмы оценивания. Этот этап выполняется лишь после того, как выбрана математическая модель процесса. Ниже рассматриваются некоторые аспекты второго этапа.

Ранее уже было отмечено, что стохастический интеграл (интеграл, содержащий произведение двух случайных процессов), нельзя во всех случаях рассматривать как обычный интеграл. Приведенные выше два примера достаточно ясно иллюстрируют различия между этими интегралами. Если для моделирования алгоритмов оценивания используются цифровые вычислительные машины, то подходящая интерпретация стохастического интеграла не является тривиальной. Здесь возможны два подхода. Один из них основывается на обычном исчислении, другой - на стохастическом исчислении. Специальное рассмотрение этих двух подходов будет проведено в гл. 9. Здесь же приведем только некоторые рекомендации для выбора одного из них :

1. Если функция не зависит от , то обычное и стохастическое исчисления приводят к одним и тем же результатами необходимость специального исследования стохастических интегралов просто отпадает. Подобный факт уже упоминался ранее. Этот же случай встретится при исследовании проблемы построения линейных оценок, для которой окажутся возможными существенные упрощения.

2. Если проблема оценивания должна быть сформулирована строго в математическом отношении, то следует использовать стохастическое исчисление.

3. Если ур-ние (4.111) рассматривается как аппроксимация соответствующего дискретного уравнения или как предел уравнения

при неограниченном увеличении числа отсчетов на любом конечном интервале, то необходимо использовать стохастическое исчисление.

4. Если в равенстве (4.109) входной белый шум используется вместо шума с малым интервалом корреляции, то следует применять методы обычного исчисления.

Различие между этими двумя подходами с вычислительной точки зрения также нетрудно выявить (см. ). Если использовать понятия обычного исчисления при отыскании решения ур-ния (4.111), то фактически будет получено решение уравнения

В большом числе случаев решение ур-ния (4.121), полученное методами обычного исчисления, с достаточно высокой точностью будет совпадать с решением дифференциального стохастического ур-ния (4.111) (заметим, что если не зависит от , то, как уже отмечалось выше, методы обычного исчисления приводят к точному решению).

При заданном значении. Дифференцируя равенство (4.126) по

Таким образом, вновь получено уравнение в частных производных Фоккера-Планка. Это уравнение может быть использовано для отыскания плотности вероятности переменной состояния нелинейной системы, описываемой ур-нием (4.111) и возбуждаемой нормальным белым шумом. Вектор переменных состояния такой системы является марковским процессом. В основе этого вывода лежит правило дифференцирования Ито. К сожалению, не существует прямого способа выбора функции . Во многих случаях полезной оказывается такая функция , которая получается при использовании обычного интеграла Римана.

Одно из неудобств, связанных со стохастическими интегралами и стохастическими дифференциальными уравнениями, состоит в том, что для последних могут оказаться несправедливыми правила преобразований обычного исчисления. Конечно, стохастический интеграл можно было бы определить и таким образом, чтобы обычные правила вычислений, как, например, интегрирование по частям, остались справедливыми. На первый взгляд такой подход может показаться привлекательным и более естественным, чем определение Ито. Однако, как будет здесь показано, на самом деле это не так. Ради простоты ограничимся рассмотрением лишь скалярного случая Исследование многомерного случая проводится аналогично и не встречает принципиально новых трудностей.

Обычное правило интегрирования вообще приводит к другому значению этого интеграла. Точно такое же значение можно получить только в том случае, если в разложении в ряд Тейлора подынтегральной функции ограничиться членами второго порядка и использовать запись [см. (4.104)]. То есть для скалярной функции , зависящей только от , должно быть справедливо равенство

Аналогично должно выполняться соотношение

(4.134)

для обычного исчисления, чтобы правила вычисления обычного и стохастического исчислений приводили к одним и тем же результатам.

Если стохастический интеграл определить так, чтобы получающиеся при этом результаты оказались совместимыми с результатами обычного исчисления, то равенства (4.101) и (4.102) нарушатся, что очень нежелательно. Действительно, эти два равенства чрезвычайно полезны в том отношении, что они позволяют существенно упростить вычисления математических ожиданий.

Стратонович в работе ввел «симметризованный» стохастический интеграл, в котором

Подобное определение стохастического интеграла дано также в работе , где было принято

В работе предложена аппроксимирующая формула

, (4.137)

в которой - выделенная совокупность точек на интервале интегрирования. Можно было бы также рассмотреть аппроксимацию вида

Хотя каждое из перечисленных четырех определений приводит к некоторым полезным свойствам стохастического интеграла, все они имеют серьезный недостаток: равенства (4.101) и (4.102) оказываются несправедливыми. Следовательно, многие последующие соотношения должны быть модифицированы. Например, если в определении стохастического интеграла используется равенство (4.136), то уравнение Фоккера-Планка (4.128) оказывается несправедливым, а среднее значение последнего интеграла в правой части равенства (4.124) не равно нулю, поскольку при новом определении величины равенство (4 101) нарушается. Можно показать, что «новое» уравнение Фоккера - Планка, которое соответствует соотношению (4 136), имеет вид

(4.139)

Изменение уравнения Фоккера-Планка при таком переходе намного существенней, чем это можно было ожидать вначале. Вычислять моменты теперь намного труднее. Стохастические дифференциальные уравнения, которые получаются при использовании любого из соотношений (4.135)-(4.138), приводят к случайным процессам, не являющимся более марковскими. Поэтому в дальнейшем в данной главе и в гл. 9 без особых оговорок будем использовать исчисление Ито, основанное на определении (4.98).

Специальность: Прикладная математика и информатика и Прикладная математика и информатика

Целью дисциплины «Стохастические дифференциальные уравнения и их применение» является получение знаний в области теории случайных процессов, знакомство студентов с численными методами решения стохастических дифференциальных уравнений, получение представления о генераторах случайных чисел, и изучение возможности распараллеливания программ, используя среду OpenMP.

Курс предполагает, что полученные теоретические знания в области теории случайных процессов и навыки параллельного программирования слушатели могут в дальнейшем использовать при решении прикладных задач нелинейной динамики сосредоточенных и распределенных систем при учете шумов и флуктуаций.

В результате освоения дисциплины обучающийся должен:

Знать:

– базовые алгоритмы вычислительной математики для решения задач стохастической динамики, условия их применимости.

Уметь :

– определять и профессионально реализовывать необходимые для решения прикладных задач стохастической динамики вычислительные алгоритмы, анализировать полученные результаты;

– профессионально разрабатывать и использовать программное обеспечение для решения прикладных задач;

Проводить процедуры корректности работы реализуемых численных методов.

Владеть :

– вычислительными методами нелинейной динамики;

– современными инструментальными вычислительными средствами.

Тема 1. Вычислительные методы для сосредоточенных динамических систем с шумовыми источниками.

Тема 2. Численное исследование неавтономных динамических систем с шумовыми источниками.

Тема 3. Численное исследование распределенных систем с шумовыми источниками.

Выполнение практических заданий на следующие темы

«Исследование характеристик генераторов случайных чисел»
«Распараллеливание в среде OpenMP»
«Численное моделирование вероятностных и временных характеристик джозефсоновского контакта»
«Индуцированные шумом эффекты изменения характеристик генерации нелинейных систем (резонансная активация, когерентный и стохастический резонанс, шумо-индуцированное увеличение времени возникновения отклика)»

Литература

а) основная литература:

А.Н. Малахов, Кумулянтный анализ случайных негауссовских процессов и их преобразований, Москва, Советское радио, 1978).
К.В. Гардинер, Стохастические методы в естественных науках, Москва, "Мир", 1986.
В.И. Тихонов, М.А. Миронов, Марковские процессы, Москва, Советское радио, 1977.
Л.А. Понтрягин, А.А. Андронов, А.А. Витт, О статистическом рассмотрении динамических систем, Журнал экспериментальной и теоретической физики. - 1933. - Т. 3, № 3. - С. 165-180.
А.Н. Малахов, Флуктуации в автоколебательных системах, M.: Наука, 1968, с. 660.

б) дополнительная литература:

A.N. Malakhov, A.L. Pankratov, Evolution times of probability distributions and averages - Exact solutions of the Kramers" problem, Adv. Chem. Phys., 121, 357-438 (2002).

в) программное обеспечение и Интернет-ресурсы

http://www.df.unipi.it/~mannella/papers/algorithms/SDE_on_a_computer.pdf

Описание стандарта OpenMP. http://parallel.ru/tech/tech_dev/openmp.html