Граница Крамера – Рао - Cramér–Rao bound

В теории оценивания и статистических данных , то Крамера-Рао ( ЦРБ ) выражает нижнюю границу на дисперсии несмещенных оценок детерминированной (фиксированной, хотя и неизвестного) параметра, о том , что дисперсия любой такой оценки, по меньшей мере столь же высоко как инверсия информации Фишера . Результат назван в честь Харальда Крамера и Ч.Р. Рао , но был получен независимо от Мориса Фреше , Жоржа Дармуа , а также Александра Эйткена и Гарольда Сильверстоуна .

Несмещенная оценка, которая достигает этой нижней границы, называется (полностью) эффективной . Такое решение обеспечивает наименьшую возможную среднеквадратичную ошибку среди всех несмещенных методов и, следовательно, является средством оценки с минимальной несмещенной дисперсией (MVU). Однако в некоторых случаях не существует беспристрастной техники, позволяющей достичь границы. Это может произойти либо в том случае, если для любого несмещенного оценщика существует другой со строго меньшей дисперсией, либо если существует оценщик MVU, но его дисперсия строго больше, чем инверсия информации Фишера.

Граница Крамера – Рао также может использоваться для ограничения дисперсии смещенных оценок данного смещения. В некоторых случаях предвзятый подход может привести как к дисперсии, так и к среднеквадратической ошибке , которые ниже несмещенной нижней границы Крамера – Рао; см. смещение оценки .

Заявление

Граница Крамера – Рао формулируется в этом разделе для нескольких все более общих случаев, начиная со случая, когда параметр является скаляром, а его оценка несмещена . Все варианты оценки требуют определенных условий регулярности, которые выполняются для большинства распределений с хорошим поведением. Эти условия перечислены далее в этом разделе .

Скалярный несмещенный случай

Предположим, что это неизвестный детерминированный параметр, который должен быть оценен на основе независимых наблюдений (измерений) , каждый из которых определяется распределением в соответствии с некоторой функцией плотности вероятности . Дисперсия любой несмещенной оценки из затем ограничен обратной части информации Фишера : ${\ displaystyle \ theta}$${\ displaystyle n}$${\ displaystyle x}$ ${\ Displaystyle е (х; \ тета)}$${\ displaystyle {\ hat {\ theta}}}$${\ displaystyle \ theta}$ ${\ Displaystyle I (\ theta)}$

${\ displaystyle \ operatorname {var} ({\ hat {\ theta}}) \ geq {\ frac {1} {I (\ theta)}}}$

где информация Фишера определяется как ${\ Displaystyle I (\ theta)}$

${\ Displaystyle I (\ theta) = п \ OperatorName {E} _ {\ theta} \ left [\ left ({\ frac {\ partial \ ell (X; \ theta)} {\ partial \ theta}} \ right ) ^ {2} \ right]}$

и является натуральный логарифм от функции правдоподобия для одного образца и обозначает ожидаемую величину по отношению к плотности в . Если дважды дифференцируема и выполняются определенные условия регулярности, то информацию Фишера также можно определить следующим образом: ${\ Displaystyle \ ell (х; \ тета) = \ журнал (е (х; \ тета))}$${\ displaystyle x}$${\ displaystyle \ operatorname {E} _ {\ theta}}$${\ Displaystyle е (х; \ тета)}$${\ displaystyle X}$${\ Displaystyle \ ell (х; \ тета)}$

${\ Displaystyle I (\ theta) = - п \ OperatorName {E} _ {\ theta} \ left [{\ frac {\ partial ^ {2} \ ell (X; \ theta)} {\ partial \ theta ^ { 2}}} \ right]}$

Эффективность в несмещенной оценке мер , как близко дисперсия этой оценки приходит к этой нижней границе; эффективность оценщика определяется как ${\ displaystyle {\ hat {\ theta}}}$

${\ displaystyle е ({\ hat {\ theta}}) = {\ frac {I (\ theta) ^ {- 1}} {\ operatorname {var} ({\ hat {\ theta}})}}}$

или минимально возможная дисперсия для несмещенной оценки, деленная на ее фактическую дисперсию. Таким образом, оценка снизу Крамера – Рао дает

${\ Displaystyle е ({\ шляпа {\ theta}}) \ leq 1}$.

Общий скалярный случай

Более общая форма связанного может быть получена путем рассмотрения смещенной оценки , чьи ожидания не но функция этого параметра, скажем, . Следовательно, обычно не равно 0. В этом случае оценка определяется выражением ${\ Displaystyle T (X)}$${\ displaystyle \ theta}$${\ displaystyle \ psi (\ theta)}$${\ Displaystyle E \ {T (X) \} - \ theta = \ psi (\ theta) - \ theta}$

${\ displaystyle \ operatorname {var} (T) \ geq {\ frac {[\ psi '(\ theta)] ^ {2}} {I (\ theta)}}}$

где - производная от (по ), а - информация Фишера, определенная выше. ${\ displaystyle \ psi '(\ theta)}$${\ displaystyle \ psi (\ theta)}$${\ displaystyle \ theta}$${\ Displaystyle I (\ theta)}$

Связано с дисперсией предвзятых оценок

Помимо ограничения оценок функций параметра, этот подход можно использовать для получения границы дисперсии смещенных оценок с заданным смещением следующим образом. Рассмотрим оценщик со смещением , и пусть . Согласно приведенному выше результату, любой непредвзятый оценщик, математическое ожидание которого равно, имеет дисперсию, большую или равную . Таким образом, любая оценка , смещение которой задается функцией, удовлетворяет ${\ displaystyle {\ hat {\ theta}}}$${\ displaystyle b (\ theta) = E \ {{\ hat {\ theta}} \} - \ theta}$${\ Displaystyle \ пси (\ тета) = б (\ тета) + \ тета}$${\ displaystyle \ psi (\ theta)}$${\ Displaystyle (\ psi '(\ theta)) ^ {2} / я (\ theta)}$${\ displaystyle {\ hat {\ theta}}}$${\ Displaystyle б (\ тета)}$

${\ displaystyle \ operatorname {var} \ left ({\ hat {\ theta}} \ right) \ geq {\ frac {[1 + b '(\ theta)] ^ {2}} {I (\ theta)} }.}$

Несмещенная версия оценки является частным случаем этого результата с . ${\ Displaystyle б (\ тета) = 0}$

Иметь небольшую дисперсию тривиально - постоянная «оценка» имеет нулевую дисперсию. Но из приведенного выше уравнения мы находим, что среднеквадратичная ошибка смещенной оценки ограничена

${\ displaystyle \ operatorname {E} \ left (({\ hat {\ theta}} - \ theta) ^ {2} \ right) \ geq {\ frac {[1 + b '(\ theta)] ^ {2 }} {I (\ theta)}} + b (\ theta) ^ {2},}$

используя стандартную декомпозицию MSE. Заметим, однако, что если эта граница может быть меньше несмещенной границы Крамера – Рао . Например, в примере оценки дисперсии ниже , . ${\ displaystyle 1 + b '(\ theta) <1}$${\ Displaystyle 1 / я (\ тета)}$${\ displaystyle 1 + b '(\ theta) = {\ frac {n} {n + 2}} <1}$

Многомерный случай

Расширение границы Крамера – Рао до нескольких параметров, определение вектора- столбца параметра

${\ displaystyle {\ boldsymbol {\ theta}} = \ left [\ theta _ {1}, \ theta _ {2}, \ dots, \ theta _ {d} \ right] ^ {T} \ in \ mathbb { R} ^ {d}}$

с функцией плотности вероятности, которая удовлетворяет двум нижеприведенным условиям регулярности . ${\ Displaystyle е (х; {\ boldsymbol {\ theta}})}$

Информационная матрица Фишера является матрица с элементом определяется как ${\ displaystyle d \ times d}$${\ displaystyle I_ {m, k}}$

${\ displaystyle I_ {m, k} = \ operatorname {E} \ left [{\ frac {\ partial} {\ partial \ theta _ {m}}} \ log f \ left (x; {\ boldsymbol {\ theta }} \ right) {\ frac {\ partial} {\ partial \ theta _ {k}}} \ log f \ left (x; {\ boldsymbol {\ theta}} \ right) \ right] = - \ operatorname { E} \ left [{\ frac {\ partial ^ {2}} {\ partial \ theta _ {m} \, \ partial \ theta _ {k}}} \ log f \ left (x; {\ boldsymbol {\ theta}} \ right) \ right].}$

Пусть - оценка любой векторной функции параметров ,, и обозначим ее вектор математического ожидания через . Крамера-Рао затем утверждает , что ковариационная матрица из удовлетворяет ${\ displaystyle {\ boldsymbol {T}} (X)}$${\ Displaystyle {\ boldsymbol {T}} (X) = (T_ {1} (X), \ ldots, T_ {d} (X)) ^ {T}}$${\ displaystyle \ operatorname {E} [{\ boldsymbol {T}} (X)]}$${\ displaystyle {\ boldsymbol {\ psi}} ({\ boldsymbol {\ theta}})}$${\ displaystyle {\ boldsymbol {T}} (X)}$

${\ displaystyle \ operatorname {cov} _ {\ boldsymbol {\ theta}} \ left ({\ boldsymbol {T}} (X) \ right) \ geq {\ frac {\ partial {\ boldsymbol {\ psi}} \ left ({\ boldsymbol {\ theta}} \ right)} {\ partial {\ boldsymbol {\ theta}}}} [I \ left ({\ boldsymbol {\ theta}} \ right)] ^ {- 1} \ left ({\ frac {\ partial {\ boldsymbol {\ psi}} \ left ({\ boldsymbol {\ theta}} \ right)} {\ partial {\ boldsymbol {\ theta}}}} \ right) ^ {T }}$

куда

• Матричное неравенство понимается , что матрица является неотрицательно , и${\ displaystyle A \ geq B}$${\ displaystyle AB}$
• ${\ displaystyle \ partial {\ boldsymbol {\ psi}} ({\ boldsymbol {\ theta}}) / \ partial {\ boldsymbol {\ theta}}}$является матрица Якоби которой элемент задается .${\ displaystyle ij}$${\ displaystyle \ partial \ psi _ {i} ({\ boldsymbol {\ theta}}) / \ partial \ theta _ {j}}$

Если - несмещенная оценка (т. Е.), То граница Крамера – Рао сводится к ${\ displaystyle {\ boldsymbol {T}} (X)}$${\ displaystyle {\ boldsymbol {\ theta}}}$${\ displaystyle {\ boldsymbol {\ psi}} \ left ({\ boldsymbol {\ theta}} \ right) = {\ boldsymbol {\ theta}}}$

${\ displaystyle \ operatorname {cov} _ {\ boldsymbol {\ theta}} \ left ({\ boldsymbol {T}} (X) \ right) \ geq I \ left ({\ boldsymbol {\ theta}} \ right) ^ {- 1}.}$

Если неудобно вычислять инверсию информационной матрицы Фишера , то можно просто взять обратную величину соответствующего диагонального элемента, чтобы найти (возможно, нечеткую) нижнюю границу.

${\ displaystyle \ operatorname {var} _ {\ boldsymbol {\ theta}} (T_ {m} (X)) = \ left [\ operatorname {cov} _ {\ boldsymbol {\ theta}} \ left ({\ boldsymbol {T}} (X) \ right) \ right] _ {mm} \ geq \ left [I \ left ({\ boldsymbol {\ theta}} \ right) ^ {- 1} \ right] _ {мм} \ geq \ left (\ left [I \ left ({\ boldsymbol {\ theta}} \ right) \ right] _ {mm} \ right) ^ {- 1}.}$

Условия регулярности

Оценка основывается на два слабых условиях регулярности на функции плотности вероятности , и в оценках : ${\ Displaystyle е (х; \ тета)}$${\ Displaystyle T (X)}$

• Информация Фишера всегда определена; эквивалентно, для всех таких, что ,${\ displaystyle x}$${\ Displaystyle е (х; \ тета)> 0}$

${\ Displaystyle {\ гидроразрыва {\ partial} {\ partial \ theta}} \ log f (x; \ theta)}$

существует и конечно.

• Операции интегрирования относительно и дифференцирования относительно могут быть заменены в ожидании ; то есть,${\ displaystyle x}$${\ displaystyle \ theta}$${\ displaystyle T}$

${\ Displaystyle {\ гидроразрыва {\ partial} {\ partial \ theta}} \ left [\ int T (x) f (x; \ theta) \, dx \ right] = \ int T (x) \ left [{ \ frac {\ partial} {\ partial \ theta}} f (x; \ theta) \ right] \, dx}$

всякий раз, когда правая часть конечна.

Это условие часто можно подтвердить, используя тот факт, что интегрирование и дифференцирование можно поменять местами в любом из следующих случаев:

1. Функция имеет ограниченный носитель в , и границы не зависят от ;${\ Displaystyle е (х; \ тета)}$${\ displaystyle x}$${\ displaystyle \ theta}$
2. Функция имеет бесконечный носитель, непрерывно дифференцируема , а интеграл сходится равномерно для всех .${\ Displaystyle е (х; \ тета)}$${\ displaystyle \ theta}$

Однопараметрическое доказательство

Ниже приводится доказательство общего скалярного случая оценки Крамера – Рао, описанного выше . Предположим, что это оценка с математическим ожиданием (на основе наблюдений ), т . Е. Что . Цель состоит в том, чтобы доказать , что для всех , ${\ Displaystyle Т = т (Х)}$${\ displaystyle \ psi (\ theta)}$${\ displaystyle X}$${\ Displaystyle \ OperatorName {E} (T) = \ psi (\ theta)}$${\ displaystyle \ theta}$

${\ displaystyle \ operatorname {var} (t (X)) \ geq {\ frac {[\ psi ^ {\ prime} (\ theta)] ^ {2}} {I (\ theta)}}.}$

Позвольте быть случайной величиной с функцией плотности вероятности . Вот это статистика , которая используется в качестве оценки для . Определите как оценку : ${\ displaystyle X}$${\ Displaystyle е (х; \ тета)}$${\ Displaystyle Т = т (Х)}$${\ displaystyle \ psi (\ theta)}$${\ displaystyle V}$

${\ displaystyle V = {\ frac {\ partial} {\ partial \ theta}} \ ln f (X; \ theta) = {\ frac {1} {f (X; \ theta)}} {\ frac {\ частичное} {\ partial \ theta}} f (X; \ theta)}$

где цепное правило используется в окончательном равенстве, приведенном выше. Тогда математическое ожидание от , написанном , равна нулю. Это потому что: ${\ displaystyle V}$${\ Displaystyle \ OperatorName {E} (V)}$

${\ displaystyle \ operatorname {E} (V) = \ int f (x; \ theta) \ left [{\ frac {1} {f (x; \ theta)}} {\ frac {\ partial} {\ partial \ theta}} f (x; \ theta) \ right] \, dx = {\ frac {\ partial} {\ partial \ theta}} \ int f (x; \ theta) \, dx = 0}$

где интегральная и частная производная поменяли местами (оправдано вторым условием регулярности).

Если рассматривать ковариации из и , у нас есть , потому что . Расширяя это выражение, мы имеем ${\ displaystyle \ operatorname {cov} (V, T)}$${\ displaystyle V}$${\ displaystyle T}$${\ Displaystyle \ OperatorName {cov} (V, T) = \ OperatorName {E} (VT)}$${\ displaystyle \ operatorname {E} (V) = 0}$

${\ displaystyle {\ begin {align} \ operatorname {cov} (V, T) & = \ operatorname {E} \ left (T \ cdot \ left [{\ frac {1} {f (X; \ theta)} } {\ frac {\ partial} {\ partial \ theta}} f (X; \ theta) \ right] \ right) \\ [6pt] & = \ int t (x) \ left [{\ frac {1} {f (x; \ theta)}} {\ frac {\ partial} {\ partial \ theta}} f (x; \ theta) \ right] f (x; \ theta) \, dx \\ [6pt] & = {\ frac {\ partial} {\ partial \ theta}} \ left [\ int t (x) f (x; \ theta) \, dx \ right] = {\ frac {\ partial} {\ partial \ theta }} E (T) = \ psi ^ {\ prime} (\ theta) \ end {align}}}$

опять же, потому что операции интегрирования и дифференцирования коммутируют (второе условие).

В силу неравенства Коши-Шварца показывает , что

${\ displaystyle {\ sqrt {\ operatorname {var} (T) \ operatorname {var} (V)}} \ geq \ left | \ operatorname {cov} (V, T) \ right | = \ left | \ psi ^ {\ prime} (\ theta) \ right |}$

следовательно

${\ displaystyle \ operatorname {var} (T) \ geq {\ frac {[\ psi ^ {\ prime} (\ theta)] ^ {2}} {\ operatorname {var} (V)}} = {\ frac {[\ psi ^ {\ prime} (\ theta)] ^ {2}} {I (\ theta)}}}$

что доказывает предложение.

Примеры

Многомерное нормальное распределение

Для случая нормального распределения d- переменной

${\ displaystyle {\ boldsymbol {x}} \ sim N_ {d} \ left ({\ boldsymbol {\ mu}} ({\ boldsymbol {\ theta}}), {\ boldsymbol {C}} ({\ boldsymbol { \ theta}}) \ right)}$

информационная матрица Фишера имеет элементы

${\ displaystyle I_ {m, k} = {\ frac {\ partial {\ boldsymbol {\ mu}} ^ {T}} {\ partial \ theta _ {m}}} {\ boldsymbol {C}} ^ {- 1} {\ frac {\ partial {\ boldsymbol {\ mu}}} {\ partial \ theta _ {k}}} + {\ frac {1} {2}} \ operatorname {tr} \ left ({\ boldsymbol {C}} ^ {- 1} {\ frac {\ partial {\ boldsymbol {C}}} {\ partial \ theta _ {m}}} {\ boldsymbol {C}} ^ {- 1} {\ frac { \ partial {\ boldsymbol {C}}} {\ partial \ theta _ {k}}} \ right)}$

где «tr» - это след .

Например, пусть это будет выборка независимых наблюдений с неизвестным средним и известной дисперсией . ${\ Displaystyle ш [п]}$${\ displaystyle N}$${\ displaystyle \ theta}$${\ displaystyle \ sigma ^ {2}}$

${\ displaystyle w [n] \ sim \ mathbb {N} _ {N} \ left (\ theta {\ boldsymbol {1}}, \ sigma ^ {2} {\ boldsymbol {I}} \ right).}$

Тогда информация Фишера представляет собой скаляр, задаваемый формулой

${\ displaystyle I (\ theta) = \ left ({\ frac {\ partial {\ boldsymbol {\ mu}} (\ theta)} {\ partial \ theta}} \ right) ^ {T} {\ boldsymbol {C }} ^ {- 1} \ left ({\ frac {\ partial {\ boldsymbol {\ mu}} (\ theta)} {\ partial \ theta}} \ right) = \ sum _ {i = 1} ^ { N} {\ frac {1} {\ sigma ^ {2}}} = {\ frac {N} {\ sigma ^ {2}}},}$

и поэтому граница Крамера – Рао имеет вид

${\ displaystyle \ operatorname {var} \ left ({\ hat {\ theta}} \ right) \ geq {\ frac {\ sigma ^ {2}} {N}}.}$

Нормальное отклонение от известного среднего

Предположим, X - нормально распределенная случайная величина с известным средним и неизвестной дисперсией . Рассмотрим следующую статистику: ${\ displaystyle \ mu}$${\ displaystyle \ sigma ^ {2}}$

${\ displaystyle T = {\ frac {\ sum _ {i = 1} ^ {n} (X_ {i} - \ mu) ^ {2}} {n}}.}$

Тогда T несмещен , так как . Какая дисперсия T ? ${\ displaystyle \ sigma ^ {2}}$${\ Displaystyle E (T) = \ sigma ^ {2}}$

${\ displaystyle \ operatorname {var} (T) = \ operatorname {var} \ left ({\ frac {(X- \ mu) ^ {2}} {n}} \ right) = {\ frac {\ operatorname { var} (X- \ mu) ^ {2}} {n ^ {2}}} = {\ frac {1} {n ^ {2}}} \ left [\ operatorname {E} \ left \ {(X - \ mu) ^ {4} \ right \} - \ left (\ operatorname {E} \ {(X- \ mu) ^ {2} \} \ right) ^ {2} \ right]}$

(второе равенство следует непосредственно из определения дисперсии). Первый член - это четвертый момент о среднем значении ; второй - квадрат дисперсии, или . Таким образом ${\ Displaystyle 3 (\ sigma ^ {2}) ^ {2}}$${\ Displaystyle (\ sigma ^ {2}) ^ {2}}$

${\ displaystyle \ operatorname {var} (T) = {\ frac {2 (\ sigma ^ {2}) ^ {2}} {n}}.}$

Итак, какова информация Фишера в выборке? Напомним, что оценка определяется как ${\ displaystyle V}$

${\ Displaystyle V = {\ гидроразрыва {\ partial} {\ partial \ sigma ^ {2}}} \ log L (\ sigma ^ {2}, X)}$

где - функция правдоподобия . Таким образом, в этом случае ${\ displaystyle L}$

${\ displaystyle L = \ log \ left [{\ frac {1} {\ sqrt {2 \ pi \ sigma ^ {2}}}} e ^ {- (X- \ mu) ^ {2} / {2 \ sigma ^ {2}}} \ right] = - \ log ({\ sqrt {2 \ pi \ sigma ^ {2}}}) - {\ frac {(X- \ mu) ^ {2}} {2 \ сигма ^ {2}}}}$

${\ Displaystyle V = {\ frac {\ partial} {\ partial \ sigma ^ {2}}} \ log L (\ sigma ^ {2}, X) = {\ frac {\ partial} {\ partial \ sigma ^ {2}}} \ left [- \ log ({\ sqrt {2 \ pi \ sigma ^ {2}}}) - {\ frac {(X- \ mu) ^ {2}} {2 \ sigma ^ { 2}}} \ right] = - {\ frac {1} {2 \ sigma ^ {2}}} + {\ frac {(X- \ mu) ^ {2}} {2 (\ sigma ^ {2} ) ^ {2}}}}$

где второе равенство взято из элементарного исчисления. Таким образом, информация в одном наблюдении - это просто минус математическое ожидание производной от , или ${\ displaystyle V}$

${\ displaystyle I = - \ operatorname {E} \ left ({\ frac {\ partial V} {\ partial \ sigma ^ {2}}} \ right) = - \ operatorname {E} \ left (- {\ frac {(X- \ mu) ^ {2}} {(\ sigma ^ {2}) ^ {3}}} + {\ frac {1} {2 (\ sigma ^ {2}) ^ {2}}} \ right) = {\ frac {\ sigma ^ {2}} {(\ sigma ^ {2}) ^ {3}}} - {\ frac {1} {2 (\ sigma ^ {2}) ^ {2 }}} = {\ frac {1} {2 (\ sigma ^ {2}) ^ {2}}}.}$

Таким образом, информация в выборке независимых наблюдений в разы больше, или${\ displaystyle n}$${\ displaystyle n}$${\ displaystyle {\ frac {n} {2 (\ sigma ^ {2}) ^ {2}}}.}$

Граница Крамера – Рао утверждает, что

${\ displaystyle \ operatorname {var} (T) \ geq {\ frac {1} {I}}.}$

В этом случае выполняется неравенство насыщенно (равенство достигается), показывая , что оценка является эффективной .

Однако мы можем добиться более низкой среднеквадратичной ошибки, используя смещенную оценку. Оценщик

${\ displaystyle T = {\ frac {\ sum _ {i = 1} ^ {n} (X_ {i} - \ mu) ^ {2}} {n + 2}}.}$

очевидно, имеет меньшую дисперсию, что на самом деле

${\ displaystyle \ operatorname {var} (T) = {\ frac {2n (\ sigma ^ {2}) ^ {2}} {(n + 2) ^ {2}}}.}$

Его предвзятость

${\ displaystyle \ left (1 - {\ frac {n} {n + 2}} \ right) \ sigma ^ {2} = {\ frac {2 \ sigma ^ {2}} {n + 2}}}$

поэтому его среднеквадратичная ошибка

${\ displaystyle \ operatorname {MSE} (T) = \ left ({\ frac {2n} {(n + 2) ^ {2}}} + {\ frac {4} {(n + 2) ^ {2} }} \ right) (\ sigma ^ {2}) ^ {2} = {\ frac {2 (\ sigma ^ {2}) ^ {2}} {n + 2}}}$

что явно меньше найденной выше границы Крамера – Рао.

Когда среднее значение неизвестно, оценка минимальной среднеквадратичной ошибки отклонения выборки от гауссовского распределения достигается путем деления на , а не на или . ${\ displaystyle n + 1}$${\ displaystyle n-1}$${\ displaystyle n + 2}$

Смотрите также

• Граница Чепмена – Роббинса
• Неравенство Кульбака
• Неравенство Браскампа – Либа

Ссылки и примечания

дальнейшее чтение

• Амемия, Такеши (1985). Продвинутая эконометрика . Кембридж: Издательство Гарвардского университета. стр.  14 -17. ISBN 0-674-00560-0.
• Бос, Адриан ван ден (2007). Оценка параметров для ученых и инженеров . Хобокен: Джон Уайли и сыновья. С. 45–98. ISBN 0-470-14781-4.
• Кей, Стивен М. (1993). Основы статистической обработки сигналов, Том I: Теория оценивания . Прентис Холл. ISBN 0-13-345711-7.. Глава 3.
• Шао, Цзюнь (1998). Математическая статистика . Нью-Йорк: Спрингер. ISBN 0-387-98674-X.. Раздел 3.1.3.

внешние ссылки

• FandPLimitTool - программное обеспечение на основе графического интерфейса пользователя для расчета информации Фишера и нижней границы Крамера-Рао с приложением к микроскопии одиночных молекул.