Метод наибольшего правдоподобия.

Метод наибольшего правдоподобия точечной оценки неизвестных параметров заданного распределения сводится к отысканию максимума функции одного или нескольких оцениваемых параметров. Если функция распределения вероятности F(x) имеет плотность p(x, ), то функция L=L(x₁,...,x_n,, ) = p(x₁, )p(x₂, )...p(x_n, ) называется функцией правдоподобия, а функция ln L=ln L(x₁,...,x_n, ) называется логарифмической функцией правдоподобия.

Для выборки, состоящей из дискретных величин x_k, k=1,2,...,n, с распределением P(x_k = x)=p_x( ) функция правдоподобия определяется равенством

L=L(x₁,...,x_n,, ) = .

При фиксированных x₁,...,x_n функцию L рассматривают как функцию параметра . По методу наибольшего правдоподобия в качестве оценки параметра принимают значение аргумента x₁,...,x_n , при котором L принимает максимальное значение. Поскольку функция ln L при фиксированных x₁,...,x_n достигает максимума при том же значении , что и L, то для нахождения оценки можно решать уравнение правдоподобия . Каждое решение уравнение правдоподобия называется оценкой наибольшего правдоподобия для .

Если распределение имеет несколько неизвестных параметров , то оценками наибольшего правдоподобия являются решения системы уравнений

.