Имя материала: Эконометрика

Автор: А.И.Орлов

П1-1. определения терминов теории вероятностей и прикладной статистики

 

Определения практически всех используемых в литературе понятий теории вероятностей и математической статистики и основные сведения о соответствующих математических объектах собраны в Энциклопедии [2]. Ниже приведены определения и обозначения (в стиле [2]) лишь для основных понятий теории вероятностей и прикладной статистики, используемых в настоящем учебном пособии. Как показали предыдущие публикации (см., например, [3]), эта сводка позволяет осознанно изучать и применять эконометрические методы для анализа конкретных экономических данных. Однако она, очевидно, не заменяет систематических курсов теории вероятностей и прикладной математической статистики, знакомство с которыми -необходимая предпосылка для изучения эконометрики.

Споры по поводу терминов весьма распространены. Весьма популярно желание добиться единства терминологии. Однако практика терминологических дискуссий показывает, что придти к единому мнению обычно не удается. Не помогают достижению единства и административные меры, например, принятие государственных стандартов, "несоблюдение которых карается по закону". Зачастую такие стандарты содержат в себе много спорного, а то и ошибочного (подробнее об этом см. [3]).

Почти в каждой области знания параллельно существуют различные терминологические системы. Большого вреда это обычно не приносит. Так, операция умножения двух чисел а и Ь может быть обозначена четырьмя способами - крестиком (т.е. а х Ь), точкой (а Ъ), отсутствием знака между сомножителями (ab) или звездочкой, как при программировании (а*Ь). Случайные величины обозначают либо латинскими буквами, либо греческими. Для математического ожидания используют либо символ М, либо символ Е, и т.п.. Обычно можно без труда понять, о чем идет речь.

Однако при изучении настоящего курса эконометрики необходимо пользоваться вполне определенной терминологической системой. Она и приводится ниже. При этом мы отнюдь не отрицаем пригодности других систем терминов и определений в тех или иных случаях.

№№ пп.

Термины

Определения

Примечания

 

 

1. Теория вероятностей

 

 

 

1.1. Общие понятия

 

1.1.1.

Пространство элементарных событий

Множество, элементы которого, называемые элементарными событиями, соответствуют возможным результатам наблюдения, измерения, анализа, проверки, исходам опыта, эксперимента, испытания.

Пространство элементарных событий Q = {со} лежит в основе вероятностных моделей явлений (процессов). Вместо явного описания пространства элементарных событий часто используют косвенное или частичное описание, например, с помощью распределений случайных величин.

1.1.2.

Случайное событие

Измеримое подмножество пространства элементарных событий.

Термин "измеримое" понимают в смысле теории измеримых множеств. Случайные события образуют а-алгебру G.

1.1.3.

Вероятностная мера

Сигма-аддитивная мера Р, определенная на всех случайных событиях и такая, что Р(О) = 1, где Q - пространство элементарных событий

Вероятностная мера Р - функция, ставящая в соответствие каждому случайному событию А его вероятность Р(А). Термин "мера" понимают в смысле математической теории меры. Синонимы: вероятностное распределение, распределение вероятностей, распределение, вероятность на пространстве элементарных событий.

1.1.4.

Вероятностное

Совокупность {Q, G, Р} пространства элемен-

Вероятностное пространство (синоним: поле вероят-

 

пространство

тарных событий Q, класса случайных событий G и вероятностной меры Р.

ностей) - основной исходный объект теории вероятностей и вероятностных моделей реальных явлений (процессов).

1.1.5.

Вероятность события А

Значение Р(А) вероятностной меры Р на случайном событии А.

В силу закона больших чисел частота реализации события А при неограниченном увеличении числа независимых повторений одного и того же комплекса условий, описываемого вероятностным пространством {Q, G, Р}, стремится к вероятности этого события Р(А), т.е. для любого є > 0

limn^oo   Р { m/n - р | < є } =1, где m/n - частота, р - вероятность события А, п - число повторений. Это свойство нельзя принимать за определение вероятности события в математической теории вероятностей. Оно указывает способ оценивания вероятности по опытным данным.

1.1.6.

Независимость случайных событий

Случайные события А и В являются независимыми, если Р(АВ) = Р(А)Р(В), где АВ - пересечение множеств А и В (произведение событий А и В). Случайные события Ai, А2,..., Ап называются независимыми (в совокупности), если P(AiA2...An) = P(Ai)P(A2)...P(An) и аналогичные равенства справедливы для всех

Общематематическое понятие пересечения множеств АпВ в теории вероятностей по традиции эквивалентно понятию произведения событий АВ.

 

 

поднаборов этих событий А(1), А(2),..., А(к), 2<k<n-l.

 

1.1.7.

Случайный элемент

Измеримая функция, определенная на вероятностном пространстве.

Случайный элемент X принимает значения в измеримом пространстве (Z,J), где Z - пространство значений X, a J - класс измеримых подмножеств Z; при этом для любого QCJ множество X_1(Q) является случайным событием.

Если Z - множество действительных чисел R1, то случайный элемент X называют случайной величиной. Если Z = Rk - конечномерное векторное пространство размерности к=2,3,...., то случайный элемент X называют случайным вектором.

1.1.8.

Распределение

случайного

элемента

Функция множества, задающая вероятность принадлежности случайного элемента измеримому подмножеству его области значений.

Для случайного элемента X, определенного на вероятностном пространстве {Q, G, Р} со значениями в измеримом пространстве (Z,J), его распределение Pi:J --> [0,1] задается формулой Pi (Q) = Р (X-!(Q)), QCJ.

1.1.9.

Дискретный случайный элемент

Случайный элемент, область значений которого состоит из конечного или счетного множества точек.

Распределение случайного элемента X, принимающего только значения xi, Х2,..., полностью описывается числами рі = Р(Х=хі), і = 1,2,..., причем pi + р2 +... = 1.

1.1.10.

Параметрическое семейство

Функция, определенная на параметрическом пространстве (подмножестве конечномерного

Параметр может быть одномерным или конечномерным. Вместо "зависимость от k-мерного параметра"

 

распределений

векторного пространства), которая каждому значению параметра (числу или вектору, входящему в параметрическое пространство) ставит в соответствие распределение случайного элемента.

часто говорят "зависимость от к параметров".

1.1.11.

Независимость случайных элементов

Определенные на одном и том же вероятностном пространстве случайные элементы Xi, X2,...,Xk со значениями в измеримых пространствах (Zi, Ji), (Z2, J2)v? (Zk, Jk) соответственно называются независимыми, если для любых    QiGJi,    Q2GJ2,...,    QkCJk имеем P(XiGQi,       X2GQ2,..., XkGQk) P(XieQi)P(X2eQ2)... P(XkGQk).

Для случайных величин и векторов, имеющих плотности вероятности, независимость эквивалентна тому, что плотность вероятности вектора (Xi, Х2,..., Xk) равна произведению плотностей вероятностей случайных величин Xj т.е.

f (xi, х2,..., Xk) = f(xi)f(x2)...f(xk).

Результаты экспериментов, которые проведены независимо друг от друга, как правило, моделируются с помощью независимых случайных величин.

1.1.12

Вероятностная модель явления (процесса)

Математическая модель явления (процесса), в которой использованы понятия теории вероятностей и математической статистики.

Установление (формулировка) исходной вероятностной модели - необходимый первый этап для применения методов прикладной статистики.

 

 

1.2. Случайная величина

 

1.2.1.

Случайная величина

Однозначная     действительная измеримая функция на вероятностном пространстве.

Однозначная действительная функция X:Q—»Rl является случайной величиной, если для любого xCR1 множество (со:Х(со) < х} является случайным событием. Случайная величина - это случайный элемент со значениями в R1. (Здесь R1 - множество действительных чисел.)

1.2.2.

Функция распределения

Функция, определяющая для всех действительных чисел х вероятность того, что случайная   величина  X  принимает значения, меньшие X.

Функция распределения F(x) = Р(Х < х) = Р{со:Х(со) < х}. Функция распределения непрерывна слева. Примечание. Иногда функцию распределения определяют как F(x) = Р(Х < х) = Р{со:Х(со) < х}. Тогда она непрерывна справа.

1.2.3.

Плотность вероятности

Функция p(t) такая, что

F(x)= fp(t)dt

-00

при всех х, где F(x) - функция распределения рассматриваемой случайной величины.

Сокращенная форма: плотность.

1.2.4.

Непрерывная случайная величина

Случайная величина, функция распределения которой при всех действительных х непрерывна.

 

1.2.5.

Квантиль порядка р

Значение случайной величины, для которого функция распределения принимает значение р или имеет место "скачок" со значения меньше р до значения больше р.

Число Хр - квантиль порядка р для случайной величины с функцией распределения F(x) тогда и только тогда, когда

Игл х^Хр+0 F(x)>p, F(xp)<p.

Может случиться, что вышеуказанное условие выполняется для всех значений х, принадлежащих некоторому интервалу. Тогда каждое такое значение называется квантилью порядка р.

Примечание. Одни авторы употребляют термин "квантиль" в мужском роде, другие - в женском.

1.2.6.

Медиана

Квантиль порядка р = 1/2.

 

1.2.7.

Мода непрерывной случайной величины

Значение случайной величины, соответствующее локальному максимуму ее плотности вероятности.

Мод у непрерывной случайной величины может быть несколько (конечное число или бесконечно много). Краткая форма термина: мода.

1.2.8.

Математическое ожидание

Среднее взвешенное по вероятностям значение случайной величины Х(со), т.е.

j" X(fi?)P(dfi?)

Математическое ожидание обозначают М(Х), Е(Х), MX, EX и др. Рекомендуемое обозначение: М(Х). При этом

М(Х) = j Х(со) Р (dco) =

п

+ оо +оо JxdF(x) = |tp(t)dt

-т —no

 

 

 

где F(x) - функция распределения, a p(t) - плотность вероятности случайной величины X = Х(со). Математическое ожидание существует не для всех случайных величин X. Для существования математического ожидания необходимо и достаточно абсолютной сходимости соответствующего интеграла.

1.2.9.

Дисперсия (случайной величины X)

Математическое ожидание квадрата разности между случайной величиной и ее математическим ожиданием.

Для случайной величины X дисперсия D(X) = а2=а2(Х)=М(Х-М(Х))2. Дисперсия равна 0 тогда и только тогда когда Р(Х=а)=1 для некоторого а.

1.2.10.

Среднее квад-ратическое отклонение

Неотрицательный квадратный корень из дисперсии.

 

1.2.11.

Коэффициент вариации

Отношение среднего квадратического отклонения к математическому ожиданию.

Применяется для положительных случайных величин как показатель разброса.

1.2.12.

Момент порядка q (случайной величины X)

Математическое ожидание случайной величины ХЯ.

 

1.2.13.

Центральный момент порядка q (случайной величины X)

Математическое ожидание случайной величины (Х-М(Х))С1, где М(Х) - математическое ожидание X.

Дисперсия - центральный момент порядка 2.

1.2.14.

Характеристи-

Функция от tCR1 , при каждом t равная мате-

M(eitx) = M(cos(tX) + isin(tX)) = M(cos(tX)) +

 

ческая функция (случайной величины X)

матическому ожиданию случайной величины eitX, где [ _ мнимая единица, е - основание натуральных логарифмов.

iM(sin(tX)).

 

 

1.3. Случайный вектор

 

1.3.1.

Случайный вектор

Однозначная измеримая функция на вероятностном пространстве со значениями в конечномерном евклидовом пространстве RX

Случайный вектор X - это случайный элемент со значениями в Rk' т.е. X = Х(со) = (Xi(co), Х2(со),...., Хк(со)), где Х|(со), і = 1,2,...,к, - случайные величины, заданные на одном и том же вероятностном пространстве.

1.3.2.

Функция распределения (случайного вектора)

Функция распределения F(xi, Х2,...., хк) случайного вектора   Х(со) = (Xi(co), Х2(со),...., Хк(со)) удовлетворяет равенству F(xb х2,....,хк) =

Р (Хкхі, Х2<х2,..., Xk<x0 = Р{ co:Xi(co)< х1? Х2(со)< x2,...,Xk(co)<xk).

 

1.3.3.

Плотность вероятности (случайного вектора)

Функция р(х) такая, что

Р(ХєА) = Jp(x)dx А

для случайного вектора X = Х(со) и любого борелевского подмножества А конечномерного евклидова пространства RX

 

1.3.4.

Математическое ожидание случайного вектора

Вектор, компоненты которого - математические ожидания компонент случайного вектора.

Математическое ожидание случайного вектора X =

(ХЬ Х2,...., Хк) есть (M(Xi), М(Х2),...., М(Хк)), где

М(Хі) - математическое ожидание случайной величи-

ны Хі5 являющейся   і - ой компонентой случайного

вектораХ, і = 1,2        к.

1.3.5.

Ковариация (для двумерного вектора)

Ковариацией вектора (X,Y) называется математическое ожидание случайной величины (X - MX))(Y - M(Y)), где М(Х) и M(Y) - математические ожидания случайных величин X и Y.

cov(X,Y) = М (X - M(X))(Y - M(Y)) ;

если X = Y, то cov(X,Y) = D(X) - дисперсия X.

1.3.6.

Ковариационная матрица случайного вектора

Квадратная матрица cjj порядка к, в которой Су - ковариация двумерного вектора (Xi, Xj), где Xj и Xj - компоненты случайного вектора X = (XbX2,....,Xk), i,j = l,2,...,k.

Ковариационная матрица симметрична, на главной диагонали стоят дисперсии Xi - компонент X, і =

1,2       к.

1.3.7.

Коэффициент корреляции (для двумерного вектора)

Отношение ковариации вектора (X,Y) к произведению средних квадратических отклонений а(Х) и а(У) случайных величин X и У.

KX.Y) = C°V(X'Y) (j(X)(j(Y)

Если Y = aX+b, то r(X,Y) = 1. Верно и обратное: если |r(X,Y)| = l,ToY = aX+b..

1.3.8.

Корреляционная матрица

Квадратная матрица rjj порядка к, в которой rjj - коэффициент корреляции двумерного

Корреляционная матрица симметрична, на главной диагонали стоят единицы.

 

случайного вектора

вектора (Xi, Xj), где Х| и Xj - компоненты случайного вектора X = (Xi, Х2,...., Xt), i,j = l,2,...,k.

 

 

 

2. Прикладная статистика

 

 

 

2.1. Общие понятия

 

2.1.1.

Признак

Свойство (характеристика) объекта наблюдения.

Частными видами наблюдения являются измерение, испытание, анализ, опыт, проверка и т.д.

2.1.2.

Результат наблюдения

Значение признака объекта наблюдения.

Результат наблюдения может быть числом, вектором, элементом конечного множества или математическим объектом иной природы.

2.1.3.

Выборка

Совокупность значений одного и того же признака у подвергнутых наблюдению объектов.

Выборка - совокупность чисел или векторов, или математических объектов иной природы, соответствующих изучаемым реальным объектам наблюдения.

2.1.4.

Объем выборки

Число результатов наблюдений, включенных в выборку.

Объем выборки обычно обозначают п.

2.1.5.

Вероятностная модель выборки

Вероятностная модель получения результатов наблюдений, включаемых в выборку.

Примерами вероятностных моделей выборок являются простая случайная выборка и случайная выборка из конечной совокупности.

2.1.6.

Простая случайная выборка

Выборка, в которой результаты наблюдений моделируются как совокупность независимых одинаково распределенных случайных эле-

Если результаты наблюдений имеют распределение F, то говорят, что "выборка извлечена из распределения F".