Оценка минимального расстояния - Minimum-distance estimation

Оценка минимального расстояния ( MDE ) - это концептуальный метод подгонки статистической модели к данным, обычно это эмпирическое распределение . Часто используемые оценки, такие как обычные методы наименьших квадратов, можно рассматривать как частные случаи оценки минимального расстояния.

Хотя оценки минимального расстояния являются согласованными и асимптотически нормальными , они обычно не являются статистически эффективными по сравнению с оценками максимального правдоподобия , поскольку они опускают якобиан, обычно присутствующий в функции правдоподобия . Однако это существенно снижает вычислительную сложность задачи оптимизации.

Определение

Позвольте быть независимой и одинаково распределенной (iid) случайной выборкой из совокупности с распределением и . ${\ Displaystyle \ Displaystyle X_ {1}, \ ldots, X_ {n}}$ ${\ Displaystyle F (х; \ тета) \ двоеточие \ тета \ в \ тета}$${\ Displaystyle \ Theta \ substeq \ mathbb {R} ^ {k} (к \ geq 1)}$

Позвольте быть эмпирической функцией распределения на основе выборки. ${\ Displaystyle \ Displaystyle F_ {п} (х)}$

Позвольте быть оценкой для . Тогда это оценщик для . ${\ displaystyle {\ hat {\ theta}}}$${\ displaystyle \ displaystyle \ theta}$${\ Displaystyle F (х; {\ шляпа {\ theta}})}$${\ Displaystyle \ Displaystyle F (х; \ тета)}$

Пусть будет функционалом, возвращающим некоторую меру «расстояния» между двумя аргументами . Функционал еще называют целевой функцией. ${\ Displaystyle д [\ cdot, \ cdot]}$${\ displaystyle \ displaystyle d}$

Если существует такое , что , то называется оценку минимального расстояния от . ${\ displaystyle {\ hat {\ theta}} \ in \ Theta}$${\ displaystyle d [F (x; {\ hat {\ theta}}), F_ {n} (x)] = \ inf \ {d [F (x; \ theta), F_ {n} (x)] ; \ тета \ в \ тета \}}$${\ displaystyle {\ hat {\ theta}}}$${\ displaystyle \ displaystyle \ theta}$

( Дроссос и Филиппу 1980 , стр.121 )

Статистика, используемая в оценке

Большинство теоретических исследований оценки минимального расстояния, и большинство приложений, использовать меры «расстояния» , которые лежат в основе уже установленное СОГЛАСИЕ тестов: тест статистика используется в одном из этих испытаний используются в качестве меры расстояния , чтобы быть сведен к минимуму. Ниже приведены некоторые примеры статистических тестов, которые использовались для оценки минимального расстояния.

Критерий хи-квадрат

В хи-квадрате тест использует в качестве критерия суммы, более чем предварительно определенных групп, от квадрата разности между увеличением эмпирического распределения и предполагаемым распределением, взвешенным с увеличением оценки для этой группы.

Критерий Крамера – фон Мизеса

Критерий Крамер-Мизес используется интеграл от квадрата разности между эмпирическим и расчетными функциями распределения ( Parr & Schucany 1980 , стр. 616).

Критерий Колмогорова – Смирнова.

Тест Колмогорова-Смирнова использует супремум от абсолютной разности между эмпирическим и расчетными функциями распределения ( Parr & Schucany 1980 , стр. 616).

Критерий Андерсона – Дарлинга

Тест Андерсона – Дарлинга похож на критерий Крамера – фон Мизеса, за исключением того, что интеграл представляет собой взвешенную версию квадрата разности, где взвешивание связывает дисперсию эмпирической функции распределения ( Parr & Schucany 1980 , p. 616).

Теоретические результаты

Теория оценки минимального расстояния связана , что для асимптотического распределения соответствующей статистической СОГЛАСИИ испытаний. Часто случаи критерия Крамера-Мизеса , то тест Колмогорова-Смирнова и тест Андерсона-Дарлинга обрабатываются одновременно путем обработки их как частные случаи более общей формулировке меры расстояния. Примеры имеющихся теоретических результатов: согласованность оценок параметров; асимптотические ковариационные матрицы оценок параметров.

Смотрите также

• Оценка максимального правдоподобия
• Оценка максимального интервала

использованная литература