Плотность вероятности

Пло́тность вероя́тности — один из способов задания распределения случайной величины. Во многих практических приложениях понятия «плотность вероятности» и «плотность [распределения] случайной величины» или «функция распределения вероятностей» фактически синонимизируются и под ними подразумевается вещественная функция, характеризующая сравнительную вероятность реализации тех или иных значений случайной переменной (переменных).

Простое «прикладное» описание понятия

Плотность распределения одной случайной величины   — это числовая функция  , отношение   значений которой в точках   и   задаёт отношение вероятностей попаданий величины   в узкие интервалы равной ширины   и   вблизи данных точек.

Плотность распределения неотрицательна при любом   и нормирована на единицу, то есть

 

При стремлении   к   функция   стремится к нулю. Размерность плотности распределения всегда обратная к размерности случайной величины; скажем, если   исчисляется в метрах, то размерностью   будет м-1.

 
Вероятность   попадания величины   в интервал между   и   равна площади   под графиком функции плотности вероятности  .

Если в конкретной ситуации известно выражение для  , с его помощью можно вычислить вероятность попадания величины   в интервал   как

 .

Зная плотность вероятности можно также определить наиболее вероятное значение (моду) случайной величины как максимум  . Также с помощью плотности вероятности находится среднее значение любой функции   случайной величины:

 .

Чтобы перейти к плотности распределения   другой случайной величины   нужно взять

 ,

где   — обратная функция по отношению к   (предполагается, что   и   связаны взаимно однозначно).

Значение плотности распределения   не является вероятностью принять случайной величиной значение  . Так, вероятность принятия непрерывной случайной величиной   значения   равна нулю. При непрерывном распределении случайной величины   вопрос может ставиться о вероятности её попадания в некий диапазон, а не о вероятности реализации её конкретного значения.

Интеграл

 

называют функцией распределения (соответственно, плотность распределения вероятности — это производная функции распределения). Функция   является неубывающей и изменяется от 0 при   до 1 при  . На практике часто допускается неточность терминологии, то есть плотность распределения  , как и  , именуется функцией распределения (иногда законом распределения), но обычно из контекста очевидно, о чём идёт речь.

 
Функции плотности вероятности для равномерного распределения

Самым простым распределением является равномерное распределение на отрезке  . Для него плотность вероятности равна:

 
 
Функции плотности вероятности для нормального распределения

Широко известным распределением является «нормальное», оно же гауссово, плотность которого записывается как

 ,

где   и   — параметры: математическое ожидание и среднеквадратичное отклонение. Другие примеры плотностей распределения — одностороннее лапласовское ( ):

  и  ,

и максвелловское ( ):

  и  .

В двух последних примерах множитель   подбирается в зависимости от параметра   или   так, чтобы обеспечить упоминавшуюся нормировку. Скажем, в случае распределения Лапласа оказывается  . Как вышеназванные, так и другие распределения широко применяются в задачах физики. Например, в случае распределения Максвелла роль   обычно играет абсолютная величина скорости молекулы в идеальном газе.

Выше была изложена суть понятия «плотность вероятности». Однако, такое изложение не является строгим — хотя бы потому, что случайная величина вполне может принимать дискретные значения, плотность   нередко является функцией нескольких величин, в рассуждениях неявно предполагались (не всегда гарантируемые) непрерывность и дифференцируемость функций и так далее. Более пунктуальное представление даётся ниже.

Формальное определение плотности вероятности в теории меры

Плотность вероятности можно рассматривать как один из способов задания вероятностной меры на евклидовом пространстве  . Пусть   является вероятностной мерой на  , то есть определено вероятностное пространство  , где   обозначает борелевскую σ-алгебру на  . Пусть   обозначает меру Лебега на  .

Определение 1. Вероятность   называется абсолютно непрерывной (относительно меры Лебега) ( ), если любое борелевское множество нулевой меры Лебега также имеет вероятность ноль:

 

Если вероятность   абсолютно непрерывна, то согласно теореме Радона-Никодима существует неотрицательная борелевская функция   такая, что

 ,

где использовано общепринятое сокращение  , и интеграл понимается в смысле Лебега.

Определение 2. В более общем виде, пусть   — произвольное измеримое пространство, а   и   — две меры на этом пространстве. Если найдется неотрицательная  , позволяющая выразить меру   через меру   в виде

 

то такую функцию называют плотностью меры   по мере  , или производной Радона-Никодима меры   относительно меры  , и обозначают

 .

Свойства плотности вероятности

  • Плотность вероятности определена почти всюду. Если   является плотностью вероятности   и   почти всюду относительно меры Лебега, то и функция   также является плотностью вероятности  .
  • Интеграл от плотности по всему пространству равен единице:
 .

Обратно, если   — неотрицательная п.в. функция, такая что  , то существует абсолютно непрерывная вероятностная мера   на   такая, что   является её плотностью.

  • Замена меры в интеграле Лебега:
 ,

где   любая борелевская функция, интегрируемая относительно вероятностной меры  .

Плотность случайной величины

Пусть определено произвольное вероятностное пространство  , и   случайная величина (или случайный вектор).   индуцирует вероятностную меру   на  , называемую распределением случайной величины  .

Определение 3. Если распределение   абсолютно непрерывно относительно меры Лебега, то его плотность   называется плотностью случайной величины  . Сама случайная величина   называется абсолютно непрерывной.

Таким образом для абсолютно непрерывной случайной величины имеем:

 .

Замечания

  • Не всякая случайная величина абсолютно непрерывна. Любое дискретное распределение, например, не является абсолютно непрерывным относительно меры Лебега, а потому дискретные случайные величины не имеют плотности.
  • Функция распределения абсолютно непрерывной случайной величины   непрерывна и может быть выражена через плотность следующим образом:
 .

В одномерном случае:

 .

Если  , то  , и

 .

В одномерном случае:

 .
 ,

где   — борелевская функция, так что   определено и конечно.

Плотность преобразования случайной величины

Пусть   — абсолютно непрерывная случайная величина, и   — инъективная непрерывно дифференцируемая функция такая, что  , где   — якобиан функции   в точке  . Тогда случайная величина   также абсолютно непрерывна, и её плотность имеет вид:

 .

В одномерном случае:

 .

Примеры абсолютно непрерывных распределений

См. также

Литература