Единообразно самый мощный тест - Uniformly most powerful test

В статистической проверке гипотез , равномерно наиболее мощный ( UMP ) тест является критерием проверкой гипотезы , которая имеет наибольшую мощность ${\ displaystyle 1- \ beta}$ среди всех возможных испытаний данного размера альфа . Например, согласно лемме Неймана – Пирсона , критерий отношения правдоподобия - это UMP для проверки простых (точечных) гипотез.

Параметр

Пусть обозначает случайный вектор (соответствующие измерения), взятый из параметризованного семейства из функций плотности вероятности или массовые функций вероятности , которая зависит от неизвестного детерминированного параметра . Пространство параметров разделено на два непересекающихся множества и . Позвольте обозначить гипотезу, что , и пусть обозначить гипотезу, что . Бинарная проверка гипотез выполняется с помощью тестовой функции . ${\ displaystyle X}$ ${\ displaystyle f _ {\ theta} (х)}$${\ displaystyle \ theta \ in \ Theta}$${\ displaystyle \ Theta}$${\ displaystyle \ Theta _ {0}}$${\ displaystyle \ Theta _ {1}}$${\ displaystyle H_ {0}}$${\ displaystyle \ theta \ in \ Theta _ {0}}$${\ displaystyle H_ {1}}$${\ displaystyle \ theta \ in \ Theta _ {1}}$${\ Displaystyle \ varphi (х)}$

${\ displaystyle \ varphi (x) = {\ begin {case} 1 & {\ text {if}} \ theta \ in \ Theta _ {1} \\ 0 & {\ text {if}} \ theta \ in \ Theta _ {0} \ end {case}}}$

Это означает, что действует, если измерение, и что действует, если измерение . Обратите внимание, что это непересекающееся покрытие измерительного пространства. ${\ displaystyle H_ {1}}$${\ displaystyle X \ in \ Theta _ {1}}$${\ displaystyle H_ {0}}$${\ displaystyle X \ in \ Theta _ {0}}$${\ displaystyle \ Theta _ {0} \ cup \ Theta _ {1}}$

Формальное определение

Тестовая функция - это UMP размера, если для любой другой тестовой функции удовлетворяет ${\ Displaystyle \ varphi (х)}$${\ displaystyle \ alpha}$${\ Displaystyle \ varphi '(х)}$

${\ Displaystyle \ sup _ {\ theta \ in \ Theta _ {0}} \; \ operatorname {E} _ {\ theta} \ varphi '(X) = \ alpha' \ leq \ alpha = \ sup _ {\ theta \ in \ Theta _ {0}} \; \ operatorname {E} _ {\ theta} \ varphi (X) \,}$

у нас есть

${\ Displaystyle \ forall \ theta \ in \ Theta _ {1}, \ quad \ operatorname {E} _ {\ theta} \ varphi '(X) = 1- \ beta' (\ theta) \ leq 1- \ beta (\ theta) = \ operatorname {E} _ {\ theta} \ varphi (X).}$

Теорема Карлина – Рубина.

Теорема Карлина – Рубина может рассматриваться как расширение леммы Неймана – Пирсона для сложных гипотез. Рассмотрим скалярное измерение, имеющее функцию плотности вероятности, параметризованную скалярным параметром θ , и определим отношение правдоподобия . Если является монотонно неубывающим для любой пары (что означает, что чем больше , тем больше вероятность ), то пороговый тест: ${\ displaystyle l (x) = f _ {\ theta _ {1}} (x) / f _ {\ theta _ {0}} (x)}$${\ Displaystyle l (х)}$${\ displaystyle x}$${\ displaystyle \ theta _ {1} \ geq \ theta _ {0}}$${\ displaystyle x}$${\ displaystyle H_ {1}}$

${\ displaystyle \ varphi (x) = {\ begin {cases} 1 & {\ text {if}} x> x_ {0} \\ 0 & {\ text {if}} x <x_ {0} \ end {cases} }}$

где выбрано такое, что ${\ displaystyle x_ {0}}$${\ displaystyle \ operatorname {E} _ {\ theta _ {0}} \ varphi (X) = \ alpha}$

UMP-тест размера α для тестирования ${\ displaystyle H_ {0}: \ theta \ leq \ theta _ {0} {\ text {vs.}} H_ {1}: \ theta> \ theta _ {0}.}$

Обратите внимание, что точно такой же тест также является UMP для тестирования. ${\ displaystyle H_ {0}: \ theta = \ theta _ {0} {\ text {vs.}} H_ {1}: \ theta> \ theta _ {0}.}$

Важный случай: экспоненциальная семья

Хотя теорема Карлина-Рубина может показаться слабой из-за ее ограничения скалярным параметром и скалярным измерением, оказывается, что существует множество проблем, для которых теорема верна. В частности, одномерное экспоненциальное семейство из функций плотности вероятности или вероятность массовых функций с

${\ Displaystyle е _ {\ тета} (х) = г (\ тета) час (х) \ ехр (\ эта (\ тета) Т (х))}$

имеет монотонное неубывающее отношение правдоподобия в достаточной статистике , при условии, что оно не убывает. ${\ Displaystyle Т (х)}$${\ displaystyle \ eta (\ theta)}$

Пример

Пусть обозначает н.о.р. нормально распределенные мерные случайные векторы со средним и ковариационной матрицей . Тогда у нас есть ${\ Displaystyle X = (X_ {0}, \ ldots, X_ {M-1})}$${\ displaystyle N}$${\ displaystyle \ theta m}$${\ displaystyle R}$

${\ displaystyle {\ begin {align} f _ {\ theta} (X) = {} & (2 \ pi) ^ {- MN / 2} | R | ^ {- M / 2} \ exp \ left \ {- {\ frac {1} {2}} \ sum _ {n = 0} ^ {M-1} (X_ {n} - \ theta m) ^ {T} R ^ {- 1} (X_ {n} - \ theta m) \ right \} \\ [4pt] = {} & (2 \ pi) ^ {- MN / 2} | R | ^ {- M / 2} \ exp \ left \ {- {\ frac { 1} {2}} \ sum _ {n = 0} ^ {M-1} \ left (\ theta ^ {2} m ^ {T} R ^ {- 1} m \ right) \ right \} \\ [4pt] & \ exp \ left \ {- {\ frac {1} {2}} \ sum _ {n = 0} ^ {M-1} X_ {n} ^ {T} R ^ {- 1} X_ {n} \ right \} \ exp \ left \ {\ theta m ^ {T} R ^ {- 1} \ sum _ {n = 0} ^ {M-1} X_ {n} \ right \} \ end {выровнено}}}$

которое в точности имеет форму экспоненциального семейства, показанного в предыдущем разделе, с достаточной статистикой

${\ Displaystyle T (X) = m ^ {T} R ^ {- 1} \ sum _ {n = 0} ^ {M-1} X_ {n}.}$

Таким образом, делаем вывод, что тест

${\ displaystyle \ varphi (T) = {\ begin {cases} 1 & T> t_ {0} \\ 0 & T <t_ {0} \ end {cases}} \ qquad \ operatorname {E} _ {\ theta _ {0} } \ varphi (T) = \ alpha}$

это тест размера UMP для тестирования vs. ${\ displaystyle \ alpha}$${\ displaystyle H_ {0}: \ theta \ leqslant \ theta _ {0}}$${\ displaystyle H_ {1}: \ theta> \ theta _ {0}}$

Дальнейшее обсуждение

Наконец, отметим, что, как правило, UMP-тесты не существуют для векторных параметров или двусторонних тестов (тест, в котором одна гипотеза находится по обе стороны от альтернативы). Причина заключается в том, что в этих ситуациях, самый мощный тест заданного размера для одного возможного значения параметра (например , для которых ) отличается от наиболее мощного критерия того же размера для другого значения параметра (например , для которой ). В результате, ни один тест не является равномерно наиболее мощным в этих ситуациях. ${\ displaystyle \ theta _ {1}}$${\ displaystyle \ theta _ {1}> \ theta _ {0}}$${\ displaystyle \ theta _ {2}}$${\ displaystyle \ theta _ {2} <\ theta _ {0}}$

Рекомендации

дальнейшее чтение

• Фергюсон, Т.С. (1967). «Раздел 5.2: Наиболее мощные тесты ». Математическая статистика: теоретико-решающий подход . Нью-Йорк: Academic Press.
• Настроение, AM; Graybill, FA; Бос, округ Колумбия (1974). «Раздел IX.3.2: Наиболее мощные тесты ». Введение в теорию статистики (3-е изд.). Нью-Йорк: Макгроу-Хилл.
• Л.Л. Шарф, Статистическая обработка сигналов , Аддисон-Уэсли, 1991, раздел 4.7.