logo
Лабы

Точность

Отметим, что по умолчанию на экран результаты вычислений выводятся с точностью три знака после десятичной точки. При необходимости увеличить или уменьшить число знаков после точки нужно в меню Fomat выбрать пункт Result, в открывшемся окне выбрать подменю Number Format и установить нужное число знаков. Если эти действия проделаны внутри активного блока, то число знаков после точки изменится только внутри этого блока, если эти действия проделаны вне блока в каком-то месте страницы, то результаты изменятся во всех блоках. Попробуйте сами изменять точность результата.

Сказанное выше относится только к изображению результата на экране, компьютер выполняет действия и хранит в своей памяти числа с 15 значащими цифрами. Точность реализации численных методов (приближенное вычисление интегралов, решение дифференциальных уравнений, нахождение корней уравнений) определяется другими параметрами, т.е. на экран результат может быть выведен с пятью цифрами после запятой, но верными из них будут только 3 (по умолчанию).