25.1. Метод максимального правдоподобия нахождения параметров распределения.
Метод предложен Р. Фишером в 1912 г. Метод основан на исследовании вероятности получения выборки наблюдений (x1, x2, …, xn). Эта вероятность равна f(х1, T) f(х2, T) … f(хп, T) dx1 dx2 … dxn.
Совместная плотность вероятности
L(х1, х2 …, хn ; T) = f(х1, T) f(х2, T) … f(хn, T),
рассматриваемая как функция параметра T, называется функцией правдоподобия.
В качестве оценки q параметра T следует взять то значение, которое обращает функцию правдоподобия в максимум. Для нахождения оценки необходимо заменить в функции правдоподобия Т на q и решить уравнение δ L/δ q = 0. В целях упрощения вычислений переходят от функции правдоподобия к ее логарифму ln L. Такое преобразование допустимо, так как функция правдоподобия – положительная функция, и она достигает максимума в той же точке, что и ее логарифм. Если параметр распределения векторная величина q =(q 1, q 2, …, q n), то оценки максимального правдоподобия находят из системы уравнений
δ ln L(q 1, q 2, …, q n) / δ q 1 = 0;
δ ln L(q 1, q 2, …, q n) / δ q 2 = 0;
. . . . . . . . .
δ ln L(q 1, q 2, …, q n) / δ q n = 0.
Для проверки того, что точка оптимума соответствует максимуму функции правдоподобия, необходимо найти вторую производную от этой функции. И если вторая производная в точке оптимума отрицательна, то найденные значения параметров максимизируют функцию.
Итак, нахождение оценок максимального правдоподобия включает следующие этапы: построение функции правдоподобия (ее натурального логарифма); дифференцирование функции по искомым параметрам и составление системы уравнений; решение системы уравнений для нахождения оценок; определение второй производной функции, проверку ее знака в точке оптимума первой производной и формирование выводов.
26.
- 1. Дискретное пространство элементарных событий. Операции над событиями.
- 2.1. Классическое определение вероятности.
- 2.2. Свойства вероятности.
- 3.1. Произвольное пространство элементарных событий.
- 3.2. Алгебра и σ - алгебра множеств.
- 3.3. Борелевские множества.
- 3.4. Вероятность.
- 4.1. Геометрическая вероятность.
- 5.1. Условные вероятности.
- 5.2. Независимые события и их свойства.
- 6.1. Формула полной вероятности.
- 6.2. Формула Бейеса.
- 7.1. Повторяющиеся испытания.
- 7.2. Формула Бернулли.
- 8.1. Случайные величины и функции распределения.
- 8.2. Свойства функции распределения.
- 9.1. Дискретные случайные величины.
- 9.2. Биномиальное, геометрическое, гипергеометрическое распределения, распределения Пуассона.
- 10.1. Абсолютно-непрерывные случайные величины.
- 10.2. Равномерное распределение, нормальное распределение, показательное распределение.
- 11.1. Математическое ожидание случайной величины и его свойства.
- 12.1. Дисперсия случайной величины и ее свойства.
- 13.1. Нормированные случайные величины.
- 13.2. Коэффициент корреляции.
- 14.1. Неравенства Чебышева.
- 15.1. Закон больших чисел.
- 16.1. Локальная и интегральная теоремы Муавра-Лапласа.
- 17.1. Теорема Пуассона.
- 18.1. Характеристические функции и их свойства.
- 19.1. Сходимость случайных величин и функций распределения.
- 20.1. Центральная предельная теорема.
- 21.1. Основные задачи математической статистики.
- 21.2. Выборка и вариационный ряд, полигон и гистограмма частот.
- 22.1. Эмпирическая функция распределения.
- 22.2. Эмпирические моменты.
- 22.3. Метод условных вариант.
- 23.1. Точечные оценки параметров распределения.
- 24.1. Метод моментов определения параметров распределения.
- 25.1. Метод максимального правдоподобия нахождения параметров распределения.
- 26.1. Некоторые распределения связанные с нормальным распределением: Пирсона, Стьюдента.
- 27.1. Интервальные оценки параметров распределения.
- 27.2. Нахождение доверительных интервалов для распределений Пуассона, биномиального, нормального.
- 28.1. Статистическая проверка статистических гипотез.
- 28.2. Ошибки первого и второго рода.
- 29.1. Оптимальный критерий.
- 29.2. Теорема Неймана-Пирсона.
- 30.1. Непараметрические критерии.
- 30.2. Критерий Колмогорова.
- 31.1. Критерий Пирсона.
- 31.2. Вычисление теоретических частот для различных видов распределений.
- 32.1. Элементы теории корреляции.
- 32.2. Понятие корреляционной зависимости.
- 32.3. Точечные оценки для условных математических ожиданий и коэффициента корреляции.
- 33.1. Цепи Маркова.
- 33.2. Матрица перехода.
- 34.1. Классификация состояний цепи Маркова.
- 34.2. Теорема солидарности.
- 35.1. Теорема о предельных вероятностях.
- 36.1. Случайные процессы.
- 36.2. Марковские процессы со счетным множеством состояний.
- 37.1. Локально-регулярные марковские процессы.
- 37.2. Система уравнений Колмогорова.
- 38.1. Применение теории марковских процессов к задачам теории массового обслуживания.
- 39.1. Процесс Пуассона.