Имя материала: Эконометрика

Автор: А.И.Орлов

8.4. законы больших чисел и состоятельность статистических оценок в пространствах произвольной природы

 

Законы больших чисел состоят в том, что эмпирические средние сходятся к теоретическим. В классическом варианте: выборочное среднее арифметическое при определенных условиях сходится по вероятности при росте числа слагаемых к математическому ожиданию. На основе законов больших чисел обычно доказывают состоятельность различных статистических оценок. В целом эта тематика занимает заметное место в теории вероятностей и математической статистике.

Однако математический аппарат при этом основан на свойствах сумм случайных величин (векторов, элементов линейных пространств). Следовательно, он не пригоден для изучения вероятностных и статистических проблем, связанных со случайными объектами нечисловой природы. Это такие объекты, как бинарные отношения, нечеткие множества, вообще элементы пространств без векторной структуры. Объекты нечисловой природы все чаще встречаются в прикладных исследованиях. Много конкретных примеров приведено выше в настоящей главе. Поэтому представляется полезным получение законов больших чисел в пространствах нечисловой природы. Необходимо решить следующие задачи.

А) Определить понятие эмпирического среднего. Б) Определить понятие теоретического среднего.

В) Ввести понятие сходимости эмпирических средних к теоретическому.

Г) Доказать при тех или иных комплексах условий сходимость эмпирических средних к теоретическому.

Д) Обобщив это доказательство, получить метод обоснования состоятельности различных статистических оценок.

Е) Дать применения полученных результатов при решении конкретных

задач.

Ввиду принципиальной важности рассматриваемых результатов приводим доказательство закона больших чисел, а также результаты компьютерного анализа множества эмпирических средних.

Определения средних величин. Пусть X - пространство произвольной природы, xi, Х2, хз,...,хп - его элементы. Чтобы ввести эмпирическое среднее для xi, \%2, хз,...,хп будем использовать действительнозначную (т.е. с числовыми значениями) функцию f(x,y) двух переменных со значениями в X. В стандартных математических обозначениях, /: X2 —> R1. Величина f(x,y) интерпретируется как показатель различия между х и у: чем f(x,y) больше, тем х и у сильнее различаются. В качестве / можно использовать расстояние в X, квадрат расстояния и т.п.

Определение  1.   Средней   ВеЛИЧИНОЙ  для   СОВОКУПНОСТИ  x],   Х2, хз,...,хп

(относительно меры различия f) обозначаемой любым из трех способов:

хер = En(f) = En(xj, х2, х3,...,хп ;f) , называем решение оптимизационной задачи

п

Z/(*,-,jO->niin, уєХ.

Это определение согласуется с классическим: если X = R^, f(x,y) = (х - у)2, то хер - выборочное среднее арифметическое. Если же X = R^, f(x,y) = х - у, то при п = 2к+1 имеем хер = х(к+1), при п= 2к эмпирическое среднее является отрезком [х(к), x(k+l)J. Здесь через x(i) обозначен г'-ый член вариационного ряда, построенного по xi, Х2, X3,...jc  т.е. і-я порядковая статистика. Таким образом, при

X = R-l, f(x,y) = х - у решение задачи (1) дает естественное определение выборочной медианы, правда, несколько отличающееся от предлагаемого в курсах "Общей теории статистики", в котором при п= 2к медианой называют полусумму двух центральных членов вариационного ряда (х(к) + х(к+1))/2. Иногдах(к) называют левой медианой , ах(к+1) - правой медианой [3].

Решением задачи (1) является множество Епф, которое может быть пустым, состоять из одного или многих элементов. Выше приведен пример, когда решением является отрезок. Если X = Rl {xq} , f(x,y) = (х - у)2 , а среднее арифметическое выборки равно х0, то Епф пусто.

При моделировании реальных ситуаций часто можно принять, что X состоит из конечного числа элементов, а тогда Епф непусто - минимум на конечном множестве всегда достигается.

Понятия случайного элемента х = х{оо) со значениями в X, его распределения, независимости случайных элементов используем согласно пункту 2 настоящей главы, т.е. справочнику Ю.В. Прохорова и Ю.А. Розанова [25]. Будем считать, что функция/измерима относительно сг -алгебры, участвующей в определении    случайного    элемента    х = х(оо).    Тогда    /(х(оо), у) при фиксированном у является действительнозначной случайной величиной. Предположим, что она имеет математическое ожидание.

Определение 2. Теоретическим средним (математическим ожиданием) для случайного элемента х = х{со)  относительно меры различия f, обозначаемом

E(x,j), называется решение оптимизационной задачи

Ef(x(a)), у) -> min, уєХ.

Это определение также согласуется с классическим. Если X =    , f(x,y) =

(х - у)2, то E(x,f) = Е(х) - обычное математическое ожидание, при этом

Е f (х(а>), у) - дисперсия случайной величины х = х(а>). Если же X = R^ , f(x,y) =

х - у , то E(xJ) = [a,b], где а = sup{t: F(t)<0,5}, b = inf{t: F(t)>0,5}, причем F(t) -функция распределения случайной величины х = х(а>). Если график F(t) имеет

плоский участок на уровне F(t) = 0,5, то медиана - теоретическое среднее в смысле определения 2 - является отрезком. В классическом случае обычно говорят, что каждый элемент отрезка [а; Ъ] является одним из возможных значений медианы. Поскольку наличие указанного плоского участка -исключительный случай, то обычно решением задачи (2) является множество из одного элемента а = Ъ - классическая медиана распределения случайной величины х = х(а>).

Теоретическое среднее E(x,f) можно определить лишь тогда, когда Ef(x(a>), у) существует при всех у є X. Оно может быть пустым множеством,

например, если X = R^ {xg} , f(x,y) = (х - у)2 , х0= Е(х). И то, и другое

исключается, если X конечно. Однако и для конечных X теоретическое среднее может состоять не из одного, а из многих элементов. Отметим, однако, что в множестве всех распределений вероятностей на X подмножество тех распределений, для которых E(x,f) состоит более чем из одного элемента, имеет коразмерность 1, поэтому основной является ситуация, когда множество E(x,f) содержит единственный элемент [3].

Существование средних величин. Под существованием средних величин будем понимать непустоту множеств решений соответствующих оптимизационных задач.

Если X состоит из конечного числа элементов, то минимум в задачах (1) и (2) берется по конечному множеству, а потому, как уже отмечалось, эмпирические и теоретические средние существуют.

Ввиду важности обсуждаемой темы приведем доказательства. Для строгого математического изложения нам понадобятся термины из раздела математики под названием "общая топология". Топологические термины и результаты будем использовать в соответствии с классической монографией [29]. Так, топологическое пространство называется бикомпактным в том и только в том случае, когда из каждого его открытого покрытия можно выбрать конечное подпокрытие [29, с.183]..

Теорема 1. Пусть X - бикомпактное пространство, функция/непрерывна

на X2 (в топологии произведения). Тогда эмпирическое и теоретическое средние существуют.

Доказательство. Функция f(xi,y) от у непрерывна, сумма непрерывных функций непрерывна, непрерывная функция на бикомпакте достигает своего минимума, откуда и следует заключение теоремы относительно эмпирического среднего.

Перейдем к теоретическому среднему. По теореме Тихонова [29, с. 194] из бикомпактности X вытекает бикомпактность X2. Для каждой точки (х, у) из X2 рассмотрим є 12 - окрестность в X2 в смысле показателя различия f т.е. множество

Щх, у) = {(*',/) :| f(x, у) - f(x' ,У)\< є 12}. Поскольку / непрерывна, то множества U(x,y) открыты в рассматриваемой

топологии в Х2. По теореме Уоллеса [29, с. 193] существуют открытые (в X) множества V(x) и W(y), содержащие х и у соответственно и такие, что их декартово произведение V(x) х W(y) целиком содержится внутри U(x, у).

Рассмотрим покрытие Х2 открытыми множествами V(x) х W(y). Из бикомпактное™ X2 вытекает существование конечного подпокрытия (V(x{) х W(yi), і = 1,2,...,т}. Для каждого х из X рассмотрим все декартовы произведения V(xi) х W(yi), куда входит точка (х, у) при каком-либо у. Таких декартовых произведений и их первых множителей V(xi) конечное число. Возьмем пересечение таких первых множителей V(xi) и обозначим его Z(x). Это пересечение открыто, как пересечение конечного числа открытых множеств, и содержит точку х. Из покрытия бикомпактного пространства X открытыми множествами Z(x) выберем открытое подпокрытие Z}, Z2, Zfc.

Покажем, что если хх и х2 принадлежат одному и тому же Zj при некотором j, то

sup{| f(x, у) - f(x2 ,у),уєХ}<є. (3) Пусть Zj = Z(xq) при некотором Xq. Пусть V(xj) х W(yj), і є I, - совокупность всех тех исходных декартовых произведений из системы {V(xj) х W(yi), і = 1,2,...,т}, куда входят точки (х0, у) при различных у. Покажем, что их объединение

содержит также точки (х{, у) и (х2, у) при всех у. Действительно, если (хо, у) входит в V(xj) х W(yi), то у входит в W(yi), a Xj и х2 вместе с х0 входят в V(xj), поскольку хх, х2 и х0 входят в Z(xg). Таким образом, (х{,у) и (х2,у) принадлежат V(xj) х W(yj), а потому согласно определению V(xi) х W(yj)

I f(x[, у) - fix,, yt) |< є 12,    I fix2, y) - fix, ,Уі)\<єі 2, откуда и следует неравенство (3).

Поскольку Х-2 - бикомпактное пространство, то функция / ограничена на Х2 , а потому существует математическое ожидание Е f(xi<x>),y) для любого случайного элемента хіоо), удовлетворяющего приведенным в предыдущем разделе условиям согласования топологии, связанной с f и измеримости, связанной с хіоо). Если х и Х2 принадлежат одному открытому множеству Zj , то

Efix,,y)-Efix2,y) \< є,

а потому функция

g(y)=Ef(xiao),y) (4) непрерывна на X. Поскольку непрерывная функция на бикомпактном множестве достигает своего минимума, т.е. существуют такие точки z, на которых g(z) = inf{g(y), уєХ}, то теорема 1 доказана.

В ряде интересных для приложений ситуаций Хне является бикомпактным

пространством. Например, если х = r1. В этих случаях приходится наложить на показатель различия / некоторые ограничения, например, так, как это сделано в теореме 2.

Теорема 2. Пусть X - топологическое пространство, непрерывная (в топологии произведения) функция f: х2 ^>r1 неотрицательна, симметрична (т.е.

f(x,y) = f (y,x) для любых x и у из x), существует число D>0 такое, что при всех x,y,z из x

f(x,y)<D{f(x,z)+f(z,y)}. (5) Пусть в x существует точка х0    такая, что при любом положительном r множество{х: f(x, Xq) <r} является бикомпактным. Пусть для случайного элемента х(а>), согласованного с топологией в рассмотренном выше смысле, существует g(x0) = Ef(x(o)),x0).

Тогда существуют (т.е. непусты) математическое ожидание E(x,f) и эмпирические средние Епф.

Замечание. Условие (5) - некоторое обобщение неравенства треугольника.

Например, если g - метрика в x, а/ = gP при некотором натуральном р, то для/

выполнено соотношение (5) с D = 2Р.

Доказательство. Рассмотрим функцию g(y), определенную формулой (4). Имеем

f(x(a>) ,у) < D {f(x(a>), V +f(x№,y)f (6) Поскольку по условию теоремы g(xg) существует, а потому конечно, то из оценки (6) следует существование и конечность g(y) при всех у из x. Докажем непрерывность этой функции.

Рассмотрим шар (в смысле меры различия/) радиуса r с центром в xQ:

k(r) = {х :f(x, Xq) <r}, r> 0. В соответствии с условием теоремы k(r) как подпространство топологического пространства x является бикомпактным. Рассмотрим произвольную точку х из x. Справедливо разложение

Дх(й>), У) = Д*(й>), уМх(а>) є k(r)) + f(x(co), у)х(х(о)) і k(r)), где \% (С) - индикатор множества С. Следовательно,

g(y) = Ef(x(co), y)Z(x(co) є k(r)) + Ef(x(co), y)Z(x(co) і k(r)). (7) Рассмотрим второе слагаемое в (7). В силу (5)

f(x(a>), у)х(х(а>) і k(r)) < D{f(x(a>), x0 )x(x(a>) і k(r)) + fix,, y)x(x(a>) і k(r))}.

(8)

Возьмем математическое ожидание от обеих частей (8):

+00

Ef(x(cv),y)z(x(cv) і k(r)) <D dP{f(x(cv),x0) < t} + Df(x0,y)P(x(cv) і k(r)). (9)

R

В правой части (9) оба слагаемых стремятся к 0 при безграничном возрастании r: первое - в силу того, что

g(x0) - Efixia),х0)= dP(f(x(o)),x0)<t)<co,

о

второе - в силу того, что распределение случайного элемента х(а>) сосредоточено на Хи

x\Jk(r) = 0.

Пусть U(x) - такая окрестность х (т.е. открытое множество, содержащее х), для которой

sup {f(y, х), у є U(x)} <+ CO.

Имеем

f(y,x0)<D(f(x0,x) + f(x,y)). (10)

В силу (9) и (10) при безграничном возрастании r

Ef(x(co), у)х(х(со) і k(r)) ^0 (11)

равномерно по ye U(x). Пусть R(0) таково, что левая часть (11) меньше є> О при R>R(0) и, кроме того, у є U(x) с K(R(0)). Тогда при R>R(0)

| g(y) - g(x) |<| Ef(x(co),y)X(x(co) є ВД) - Ef(x(co),x)X(x(co) є       | +2г. (12)

Нас интересует поведение выражения в правой части формулы (12) при ує U(x). Рассмотрим fi - сужение функции / на замыкание декартова произведения

множеств U(x) х K(R), и случайный элемент хх (со) = х(со)\%(х(со) є K(R)). Тогда

Ef(x(co), y)z(x(co) є K(R)) = Efx (xx (со), у) при yeU(x), а непрерывность функции g1 (у) = Efx (хх (со), у) была доказана в теореме 1. Последнее означает, что существует окрестность Uj(x) точки х такая, что

I Efi (*i О), У) ~ Efi (*і О), х)\<є (13) при у е Uj(x). Из (12) и (13) вытекает, что при у є U(x) П t/j (х)

I g(^) - g(Jc) |< Ъе, что и доказывает непрерывность функции g(x).

Докажем существование математического ожидания E(x,f). Пусть R(0) таково, что

P(x(co)eK(R(0)))>l/2. (14) Пусть Н - некоторая константа, значение которой будет выбрано позже. Рассмотрим точку х   из множества K(HR(0))   - дополнения K(HR(0)), т.е. из внешности шара радиуса HR(0) с центром в х$. Пусть х(со) є K(R(0)). Тогда имеем

f(x0, х) < D{f(x0, х(со)) + f(x(co), х)},

откуда

f(x(co),x) >^f(x0,х) - f(x0,х(со)) >- R(0). (15)

Выбирая Н достаточно большим, получим с учетом условия (14), что при xgK(HR(0)) справедливо неравенство

1

HR(0)

Ef(x(co),x)>- —^-R(0) . (16) 1   D J

Можно выбрать Н так, чтобы правая часть (16) превосходила g(x0) = Ef(x(co),x0).

Сказанное означает, что Argmin g(x) достаточно искать внутри бикомпактного множества K(HR(0)). Из непрерывности функции g вытекает, что ее минимум достигается на указанном бикомпактном множестве, а потому - и на всем X. Существование (непустота) теоретического среднего E(x,f) доказана.

Докажем существование эмпирического среднего Епф. Есть искушение проводить его дословно так же, как и доказательство существования математического ожидания E(x,f), лишь с заменой 1/2 в формуле (16) на частоту попадания элементов выборки х/ в шар K(R(0)), каковая, очевидно, стремится к вероятности попадания случайного элемента ч = х(со) в K(R(0)), большей 1/2 в соответствии с (14). Однако это рассуждение показывает лишь, что вероятность непустоты En(f) стремится к 1 при безграничном росте объема выборки. Точнее, оно показывает, что

lim Р{Еп (f) ф 0 л Еп (f) <= K(HR(0))} = 1.

Поэтому пойдем другим путем, не опирающимся к тому же на вероятностную модель выборки. Положим

R (1) = max {/{х., х0), і = 1,2,..., п}. (17)

Еслих входит в дополнение шара K(HR(1)), то аналогично (15) имеем

Дхг,х0)>-^-Д(1). (18) При достаточно большом Н из (17) и (18) следует, что

X /(*,., х0) < nR() < X Дхг, х),   х є ЩЯД(1))}с.

Следовательно, Argmin достаточно искать на K(HR(1)). Заключение теоремы 2 следует из того, что на бикомпактном пространстве K(HR(1)) минимизируется непрерывная функция.

Теорема 2 полностью доказана.

О формулировках законов больших чисел. Пусть х,х1х2,хъ,...,хп -

независимые одинаково распределенные случайные элементы со значениями в X. Закон больших чисел - это утверждение о сходимости эмпирических средних к теоретическому среднему (математическому ожиданию) при росте объема выборки п, т.е. утверждение о том, что

Еп СО = Еп (*i > *2 > *з V, хп; /) -> Е(х, Л (19) при п—>оо. Однако и слева, и справа в формуле (19) стоят, вообще говоря, множества.   Поэтому  понятие  сходимости  в  (19)  требует  обсуждения и определения.

В силу классического закона больших чисел при п —> оо -YJfixl,y)^Efix,y) (20)

п ,-=1

в смысле сходимости по вероятности, если правая часть существует (теорема А.Я. Хинчина, 1923 г.).

Если пространство X состоит из конечного числа элементов, то из соотношения (20) легко вытекает (см., например, [3, с. 192-193]), что

Ит?{£„(/)с£(х,/)} = 1. (21)

Другими словами, Еп if) является состоятельной оценкой Е(х, f).

Если Е(х, f) состоит из одного элемента, Е(х, f) - {х0}, то соотношение

переходит в следующее:

КтР{Ея(Л = {х0}} = 1. (22)

Однако с прикладной точки зрения доказательство соотношений (21)-(22) не дает достаточно уверенности в возможности использования Еп if) в качестве

оценки E(x,f), поскольку в процессе доказательства объем выборки предполагается настолько большим, что при всех уєХ одновременно левые части соотношений (20) сосредотачиваются в непересекающихся окрестностях правых частей.

Замечание. Если в соотношении (20) рассмотреть сходимость с вероятностью 1, то аналогично (21) получим т.н. усиленный закон больших чисел [3, с.193-194], согласно которому с вероятностью 1 эмпирическое среднее En(f)

входит в теоретическое среднее E(x,f), начиная с некоторого объема выборки п, вообще говоря, случайного, п = nioo). Мы не будем останавливаться на этом виде

сходимости, поскольку в соответствующих постановках, подробно разобранных в монографии [3], нет принципиальных отличий от случая сходимости по вероятности.

Если Хне является конечным, например, X =      , то соотношения (21) и

неверны. Поэтому необходимо искать иные формулировки закона больших чисел.    В    классическом    случае    сходимости    выборочного среднего арифметического к математическому ожиданию, т.е. х —» Е(х) можно записать закон больших чисел так: для любого є > О справедливо предельное соотношение

ітР{хє(Е(х)-є;Е(х) + є)} = 1. (23)

В этом соотношении в отличие от (21) речь идет о попадании эмпирического среднего Еп (/) = х не непосредственно внутрь теоретического среднего E(xJ), а в

некоторую окрестность теоретического среднего.

Обобщим эту формулировку. Как задать окрестность теоретического среднего в пространстве произвольной природы? Естественно взять его окрестность, определенную с помощью какой-либо метрики. Однако полезно обеспечить на ее дополнении до X отделенность множества значений Ef(x(со),у) как функции у от минимума этой функции на всем X.

Поэтому мы сочли целесообразным определить такую окрестность с помощью самой функции Ef(x(со),у).

Определение 3. Для любого є> О назовем є -пяткой функции g(x) множество

КЕ (g) = {x:g(x)< M{d(y), у є X}, х є X}. Таким образом, в є -пятку входят все те х, для которых значение g(x) либо минимально, либо отличается от минимального (или от инфимума) не более чем на є. Так, для X = и функции g(x) = х2 минимум равен 0, а є -пятка имеет вид интервала (—J~s;-Js). В формулировке (23) классического закона больших чисел утверждается, что при любом є>0 вероятность попадания среднего арифметического  в   4~£ -пятку  математического  ожидания  стремится  к   1.

Поскольку є> О произвольно, то вместо 4~£ -пятки можно говорить о є -пятке, т.е. перейти от (23) к эквивалентной записи

МтР{х\&К£(Е(х(со)-х)2} = . (24)

Соотношение (24) допускает непосредственное обобщение на общий случай пространств произвольной природы.

СХЕМА   ЗАКОНА   БОЛЬШИХ   ЧИСЕЛ.   Пусть   х,хх>х2,хъ,...,хп -

независимые одинаково распределенные случайные элементы со значениями в пространстве произвольной природы X с показателем различия f: X2 ^>r1 . Пусть выполнены некоторые математические условия регулярности. Тогда для любого є > 0 справедливо предельное соотношение

lmP{En(f)^Ks(E(x,f))} = l. (25)

Аналогичным образом может быть сформулирована и общая идея усиленного закона больших чисел. Ниже приведены две конкретные формулировки "условий регулярности".

Законы больших чисел. Начнем с рассмотрения естественного обобщения конечного множества - бикомпактного пространства X.

Теорема 3. В условиях теоремы 1 справедливо соотношение (25).

Доказательство. Воспользуемся построенным при доказательстве теоремы 1 конечным открытым покрытием {Zi, Z2, Z]^} пространства Xтаким, что для него выполнено соотношение (3). Построим на его основе разбиение Хна непересекающиеся множества Wj, W2, Wyn (объединение элементов разбиения Wj, W2, Wm составляет X). Это можно сделать итеративно. На первом шаге из Zi следует вычесть Z2,      Zfc - это и будет Wj . Затем в качестве нового пространства надо рассмотреть разность X и Wj , а покрытием его будет {Z2, Zk} . И так до А>го шага, когда последнее из рассмотренных покрытий будет состоять из единственного открытого множества Z£ . Остается из построенной последовательности Wj, W2, Wk вычеркнуть пустые множества, которые могли быть получены при осуществлении описанной процедуры (поэтому, вообще говоря, т может быть меньше к).

В каждом из элементов разбиения W], W2, Wm выберем по одной точке, которые назовем центрами разбиения и соответственно обозначим wj, w2, Wyn. Это и есть то конечное множество, которым можно аппроксимировать бикомпактное пространство X. Пусть у входит в Wj . Тогда из соотношения (3) вытекает, что

П i=i    п i=l

< Є• (26)

Перейдем к доказательству соотношения (25). Возьмем произвольное 8 >0. Рассмотрим некоторую точку Ъ из E(x,j). Доказательство будет основано на том, что с вероятностью, стремящейся к 1, для любого у вне Ks(E(x, /)) выполнено неравенство

-fJf{x1,y)>-fjf{x1,b). (27)

П ,-=1  п ,-=1

mm

j

Для обоснования этого неравенства рассмотрим все элементы разбиения Wj, W2, Wm, имеющие непустое пересечение с внешностью 5-пятки Ks(E(x,/)). Из неравенства (26) следует, что для любого у вне  Ks(E(x,/))  левая часть неравенства (27) не меньше

(28)

где минимум берется по центрам всех элементов разбиения, имеющим непустое пересечение с внешностью 8 -пятки. Возьмем теперь в каждом таком разбиении точку v/ , лежащую вне -пятки Ks(E(x,/)). Тогда из неравенств (3) и (28) следует, что левая часть неравенства (27) не меньше

mm

j

( 1     и Л

- 2є. (29)

-X/(*i>v,)

n ,-=i

В силу закона больших чисел для действительнозначных случайных величин каждая из участвующих в соотношениях (27) и (29) средних арифметических имеет своими пределами соответствующие математические ожидания, причем в соотношении (29) эти пределы не менее

Ef(x(co),b) + 8-2s,

поскольку точки у і лежат вне 8 -пятки к5 (Е(х, /)) . Следовательно, при

8 - 2е > О

и достаточно большом п, обеспечивающем необходимую близость рассматриваемого конечного числа средних арифметических к их математическим ожиданиям, справедливо неравенство (27).

Из неравенства (27) следует, что пересечение Епф  с внешностью

Ks (Е(х, /)) пусто. При этом точка Ъ может входить в Епф, а может и не входить.

Во втором случае Епф состоит из иных точек, входящих в Ks (Е(х, /)) . Теорема

3 доказана.

Если X не является бикомпактным пространством, то необходимо суметь оценить рассматриваемые суммы "на периферии", вне бикомпактного ядра, которое обычно выделяется естественным путем. Один из возможных комплексов условий сформулирован выше в теореме 2.

Теорема 4. В условиях теоремы 2 справедлив закон больших чисел, т.е. соотношение (25).

Доказательство. Будем использовать обозначения, введенные в теореме 2 и при ее доказательстве. Пусть г и R, г < R, - положительные числа. Рассмотрим точку х в шаре К(г) и точку у вне шара K(R). Поскольку

f(x0, у) < D{f(x0, х) + f{x < у)},

то

f{x, У)-~~ Л *„. У) ~ Д*о ,х) > | - г. (30)

Положим

1 "

g„ (*) = g„ (х, fi>) = - £ /(*,-, х).

П ,-=1

Сравним g„{x0) и g„{y). Выборку    х1х2,х3,...,хп разобьем на две части. В

первую часть включим те элементы выборки, которые входят в К(г), во вторую -все остальные (т.е. лежащие вне К(г) ). Множество индексов элементов первой части обозначим I = 1(п,г). Тогда в силу неотрицательности/имеем

 

а в силу неравенства (30)

(R Л

J]f(Xi,y)^ —-г Cardlin,r),

ієі        D J

где CardI(n,r) - число элементов в множестве индексов I(n,r). Следовательно,

1 (R Л gniy)>-        г J, (31)

nD )

где J = Card I(n,r) - биномиальная случайная величина В(п,р) с вероятностью успеха р = Р{хі{со) є Kir)}. По теореме Хинчина для  gn{x0) справедлив

(классический) закон больших чисел. Пусть є > 0 . Выберем пх = пх іє) так, чтобы при п > щ было выполнено соотношение

P{gn(x0)-g(x0)>e}<e, (32) где g(x0) = Ef(xl, х0). Выберем г так, чтобы вероятность успеха р>0,6. По теореме Бернулли можно выбрать п2 = п2 is) так, чтобы при п> п2

P{J > 0,5л} > 1 - є. (33)

Выберем R так, чтобы

l(R Л

J

г >gix0) + s.

D

Тогда

Ks(g)<zK(R) (34) и согласно (31), (32) и (33) при п>пъ= тах(и[, п2) с вероятностью не менее 1 - є имеем

gn(y)>g„(x0) (35) для любого у вне K(R). Из (34) следует, что минимизировать gn достаточно внутри бикомпактного шара K(R), при этом Епф не пусто и

En (f) с: K(R) (36) с вероятностью не менее 1 -2 є.

Пусть gn и g - сужения gn и g(x) = Ef(x(со), х) соответственно на K(R)

как функций от х. В силу (34) справедливо равенство Ks(g ) = Ks(f). Согласно доказанной выше теореме 3 найдется п4 = п4 (со) такое, что

P(Ku(gn)^K£(g))>l-s. Согласно (36) с вероятностью не менее — 2е

K0(g'n) = En(f) при п>пъ. Следовательно, при п> п5(є) = тах(п3,п4) имеем

P(En(f)^Ks(g))>-3s,

что и завершает доказательство теоремы 4.

Справедливы и иные варианты законов больших чисел, полученные, в частности, в статье [27].

Асимптотическое поведение решений экстремальных статистических задач. Если проанализировать приведенные выше постановки и результаты, особенно теоремы 1 и 3, то становится очевидной возможность их обобщения. Так, доказательства этих теорем практически не меняются, если считать, что функция f(x,y) определена на декартовом произведении бикомпактных пространств X и Y. Тогда можно считать, что элементы выборки лежат в X, a Y -пространство параметров, подлежащих оценке. Пусть, например, выборка взята из распределения с плотностьюр(х,у). Если положить

f(x,y) =-lnp(x,y) ,

то задача нахождения эмпирического среднего переходит в задачу оценивания неизвестного параметра у методом максимального правдоподобия, а законы больших чисел переходят в утверждения о состоятельности этих оценок в случае пространств X и Y общего вида. В случае функции f(x,y) общего вида можно говорить об определении и состоятельности так называемых оценок минимального контраста. Частными случаями этих оценок являются, например, устойчивые (робастные) оценки Тьюки-Хубера (см. главу 10 ниже), оценки параметров в задачах аппроксимации (параметрической регрессии) в пространствах произвольной природы.

Можно пойти и дальше в обобщении законов больших чисел. Пусть известно, что при каждом конкретном у при безграничном росте п имеет быть сходимость по вероятности

fn(x(co),y)^f(y). В каких случаях и в каком смысле

Argmin {fn(x(со), у),уєХ} -^Argmin (f(y), у єХ} ? Причем здесь можно под п понимать натуральное число. А можно рассматривать "сходимость по фильтру" в смысле Картана и Бурбаки [29, с. 118]. В частности, описывать ситуацию вектором, координаты которого - объемы нескольких выборок, и все они безгранично растут. В классической математической статистике такие постановки рассматривать не любят.

Поскольку, как уже отмечалось, основные задачи прикладной статистики можно представить в виде оптимизационных задач, то ответ на поставленный вопрос дает возможность единообразного подхода к изучению асимптотики решений разнообразных экстремальных статистических задач. Одна из возможных формулировок дана и обоснована выше. Другая - в работе [28]. Она основана на использовании понятий асимптотической равномерной разбиваемое™ и координатной асимптотической равномерной разбиваемое™. С помощью указанных подходов удается стандартным образом обосновывать состоятельность оценок характеристик и параметров в основных задачах прикладной статистики. К сожалению, в рамках настоящей главы нет возможности подробнее остановиться на проблеме оценивания.

Рассматриваемую тематику можно развивать дальше, в частности, рассматривать пространства X и 7, не являющиеся бикомпактными, а также изучать скорость сходимости эмпирических средних к теоретическим.

Медиана Кемени и экспертные оценки. Рассмотрим частный случай пространств нечисловой природы - пространство бинарных отношений на конечном множестве Q = {ql,q2,...,qk},n его подпространства. Как известно,

каждое бинарное отношение А можно описать матрицей ||а(7,/)|| из 0 и 1, причем a(i,j) = 1 тогда и только тогда qi и qj находятся в отношении А, и a(i,j) = 0 в противном случае.

Определение 4. Расстоянием Кемени между бинарными отношениями А и

В, описываемыми матрицами ||а(г/)|| и      соответственно, называется

к

d(A,B)=Y4a(i,j)-b(i,j).

ij=i

Замечание. Иногда в определение расстояния Кемени вводят множитель, зависящий от к.

Как уже отмечалось, указанное расстояние введено американским исследователем Дж. Кемени в 1950-х годах и получило в нашей стране известность благодаря монографии [24], в которой оно получено для упорядочений (т.е. ранжировок, в которых допускаются связи, или кластеризованных ранжировок - см. главу 12) исходя из некоторой системы аксиом. Некоторое время казалось, что аксиоматический подход избавляет от субъективизма в выборе расстояния, а потому - от субъективизма в выборе способа усреднения бинарных отношений. Монография [24] породила поток работ, в которых с помощью различных систем аксиом вводились те или иные расстояния в пространствах объектов нечисловой природы (в обзоре [23] на эту тему - 161 ссылка на соответствующие публикации). В итоге произвол в выборе метрик отодвинут на уровень произвола в выборе систем аксиом.

Определение 5. Медианой Кемени для выборки, состоящей из бинарных отношений, называется эмпирическое среднее, построенное с помощью расстояния Кемени.

Поскольку число бинарных отношений на конечном множестве конечно, то эмпирические и теоретические средние для произвольных показателей различия существуют и справедливы законы больших чисел, описанные формулами (21) и (22) выше.

Бинарные отношения, в частности, упорядочения, часто используются для описания мнений экспертов. Тогда расстояние Кемени измеряет близость мнений экспертов, а медиана Кемени позволяет находить итоговое усредненное мнение комиссии экспертов. Расчет медианы Кемени обычно включают в информационное обеспечение систем принятия решений с использованием оценок экспертов. Речь идет, например, о математическом обеспечении автоматизированного рабочего места "Математика в экспертизе" (АРМ "МАТЭК"), предназначенного, в частности, для использования при проведении экспертиз в задачах экологического страхования. Поэтому представляет большой практический интерес численное изучение свойств медианы Кемени при конечном  объеме  выборки.   Такое  изучение  дополняет  описанную выше асимптотическую теорию, в которой объем выборки предполагается безгранично возрастающим ( п —> со ).

Компьютерное изучение свойств медианы Кемени при конечных объемах выборок. С помощью специально разработанной программной системы В.Н. Жихаревым был проведен ряд серий численных экспериментов по изучению свойств выборочных медиан Кемени. Представление о полученных результатах дается приводимой ниже табл.1, взятой из статьи [30]. В каждой серии методом статистических испытаний определенное число раз моделировался случайный и независимый выбор экспертных ранжировок, а затем находились все медианы Кемени для смоделированного набора мнений экспертов. При этом в сериях 1-5 распределение ответа эксперта предполагалось равномерным на множестве всех ранжировок, а в серии 6 это распределение являлось монотонным относительно расстояния Кемени с некоторым центром (о понятии монотонности см. выше), т.е. вероятность выбора определенной ранжировки убывала с увеличением расстояния Кемени этой ранжировки от центра. Таким образом, серии 1-5 соответствуют ситуации, когда у экспертов нет почвы для согласия, нет группировки их мнений относительно некоторого единого среднего группового мнения, в то время как в серии 6 есть единое мнение - описанный выше центр, к которому тяготеют ответы экспертов.

Результаты, приведенные в табл.1, можно комментировать разными способами. Неожиданным явилось большое число элементов в выборочной медиане Кемени - как среднее, так и особенно максимальное. Одновременно обращает на себя внимание убывание этих чисел при росте числа экспертов и особенно при переходе к ситуации реального существования группового мнения (серия 6). Достаточно часто один из ответов экспертов входит в медиану Кемени (т.е. пересечение множества ответов экспертов и медианы Кемени непусто), а диаметр медианы как множества в пространстве ранжировок заметно меньше диаметра множества ответов экспертов. По этим показателям - наилучшее положение в серии 6. Грубо говоря, всяческие "патологии" в поведении медианы Кемени наиболее резко проявляются в ситуации, когда ее применение не имеет содержательного обоснования, т.е. когда у экспертов нет основы для согласия, их ответы равномерно распределены на множестве ранжировок.

Увеличение числа испытаний в 10 раз при переходе от серии 1 к серии 5 не очень сильно повлияло на приведенные в таблице характеристики, поэтому представляется, что суть дела выявляется при числе испытаний (в методе Монте-Карло), равном 100 или даже 50. Увеличение числа объектов или экспертов увеличивает число элементов в рассматриваемом пространстве ранжировок, а потому уменьшается частота попадания какого-либо из мнений экспертов внутрь медианы Кемени, а также отношение диаметра медианы к диаметру множества экспертов, число элементов медианы Кемени (среднее и максимальное). Можно сказать, что увеличение числа объектов или экспертов уменьшает степень дискретности задачи, приближает ее к непрерывному случаю, а потому уменьшает выраженность различных "патологий".

Есть много интересных результатов, которые мы здесь не рассматриваем. Они связанны, в частности, со сравнением медианы Кемени с другими методами усреднения мнений экспертов, например, с нахождением итогового упорядочения по методу средних рангов, а также с использованием малых окрестностей ответов экспертов для поиска входящих в медиану ранжировок, с теоретической и численной оценкой скорости сходимости в законах больших чисел.

 

Табл.1. Вычислительный эксперимент по изучению свойств медианы Кемени

Номер серии

1

2

3

4

5

6

Число испытаний

100

1000

50

50

1000

1000

Количество

5

5

7

7

5

5

объектов

 

 

 

 

 

 

Количество

10

30

10

30

10

10

экспертов

 

 

 

 

 

 

Частота непустого

0,85

0,58

0,52

0,2

0,786

0,911

пересечения

 

 

 

 

 

 

Среднее

0.283

0,124

0,191

0,0892

0,202

0.0437

отношение

 

 

 

 

 

 

диаметров

 

 

 

 

 

 

Средняя мощность

5,04

2,41

6,4

2,88

3,51

1,35

медианы

 

 

 

 

 

 

Максимальная.

30

14

19

11

40

12

мощность медианы

 

 

 

 

 

 

 

8.5. Непараметрические оценки плотности в пространствах произвольной

Страница: | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | 10 | 11 | 12 | 13 | 14 | 15 | 16 | 17 | 18 | 19 | 20 | 21 | 22 | 23 | 24 | 25 | 26 | 27 | 28 | 29 | 30 | 31 | 32 | 33 | 34 | 35 | 36 | 37 | 38 | 39 | 40 | 41 | 42 | 43 | 44 | 45 | 46 | 47 | 48 | 49 | 50 | 51 | 52 | 53 | 54 | 55 | 56 | 57 | 58 | 59 | 60 | 61 | 62 | 63 | 64 | 65 | 66 | 67 | 68 | 69 | 70 | 71 | 72 | 73 | 74 | 75 | 76 | 77 | 78 | 79 | 80 |