2.1. Виключення грубих похибок

Перш за все із сукупності експериментальних даних слід виключити результати спостережень, які містять явно виражені грубі похибки і тому помітно відмінні від інших. Якщо повної впевненості в наявності грубої похибки немає, такий результат слід залишити у вибірці, а потім перевірити правомірність цього віднесення до неї за допомогою відповідних статистичних критеріїв. Їх є декілька [5]. Ми запропонуємо вам лише один, згідно з ГОСТ 11.002–73 [2, 3]. Вказаний статистичний критерій виявлення аномальних результатів спостереження базується на припущенні про те, що вибірка даних належить нормальному розподілу (як виключати грубі похибки при довільному законі розподілу див. зокрема 2.4.5).

Для того, щоб перевірити, чи містить різко відмінний експериментальний показ грубу похибку, вираховуютьпоказник аномальності

(2.1)

де  середньоарифметичне вибірки згідно з (1.30); S – середнє квадратичне відхилення окремого показу згідно з (1.36).

Потім, задавшись довірчою імовірністю  (як правило  = 0,95), для даного об’єму вибірки n з відповідних таблиць (див. додаток 6) знаходять параметр . Якщо результат x_k належить до даної нормальної сукупності, то з імовірністю  можна стверджувати, що абсолютне значення показника аномальності не перевершить . Тобто критерій аномальності  умова . Якщо ця умова виконується, то ймовірність даного результату спостереженняx_k менше . Отже, таке спостереження аномальне і повинно бути виключене з даної вибірки.   це рівень значимості даного критерію, під яким розуміють найбільшу ймовірність , з якою даний критерій (гіпотеза) може дати помилковий результат. Деякі таблиці для  складені в залежності від .

Якщо після виключення одного різко відмінного показу викликає сумнів ще якийсь показ, то вказаний порядок дій повторюють, але вже при обчислені не враховується раніше виключений показ.