Arnold (arno1251) wrote,
Arnold
arno1251

о методической погрешности вычислений

Я, конечно, ни разу не математик, но вот этот результат Гугля мне непонятен:
1211358848-clip-3kb.png
в то время как
1211359112-clip-3kb.png
попробовать самостоятельно
(спасибо a_konst за наводку)
UPD1: Гугль реабилитирован, относительная погрешность 10-13 вполне нормальна для операций с плавающей точкой.
UPD2: относительная погрешность для этого примера, как выяснилось, даже ещё меньше; 5*10-15 - это как раз точность мантиссы.
Спасибо всем участникам за обсуждение!
Tags: техническое
Subscribe
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

  • 30 comments