НЕКОТОРЫЕ РЕЗУЛЬТАТЫ ОЦЕНКИ ПОГРЕШНОСТИ ВЫЧИСЛЕНИЙ С ОКРУГЛЕНИЯМИ НА ЭВМ НА ПРИМЕРЕ РЕШЕНИЯ ОДНОЙ ЗАДАЧИ ЛИНЕЙНОЙ АЛГЕБРЫ
А. С. Сухих, В. И. Федянин, В. Ф. Юдинцев Вопросы атомной науки и техники. Сер. Математическое моделирование физических процессов 2004. Вып.1. С. 63-69.
На примерах расчетов двумерной задачи теплопроводности с известным точным решением сделан подбор двух параметров формулы, предложенной для оценки относительной погрешности вычислений с округлениями на ЭВМ (табл. 5, список лит. - 6 назв.).
|