Я пытался высчитать именно погрешность, которая возникает при преобразовании ЛЭРСом из V в M. По ссылке приведена формула из книги А.А.Александров, Б.А.Григорьев “Таблицы теплофизических свойств воды и водяного пара”, Москва, издательство МЭИ 2003. Обещана погрешность определения плотности воды < 0.01%. Следовательно, и масса должна рассчитываться с погрешностью < 0.01%. Давайте совместными усилиями разберёмся, почему я получаю другую цифру 0,1% ?
Вернёмся к первой строчке моей таблицы:
V1=299,9082 м.куб.; V2=297,8643 м.куб.;
при погрешности 0,01% погрешность преобразования из M1 в V1 будет равна 0,02999082 м.куб.
при погрешности 0,01% погрешность преобразования из M2 в V2 будет равна 0,02978643 м.куб.
Будем оценивать погрешность по реальности соотношения dM/dV
dM = 1,1420 тонн
при расчете dV используются V1 и V2, поэтому погрешности преобразования складываем: 0,02999082+0,02978643=0,05977725 м.куб.
Рассчитанная ЛЭРСом dV=2,0439 м.куб.
Таким образом, при погрешности 0,01%, реальное значение объема dV должно быть в пределах 2,0439-0,05977725 < dV < 2,0439+0,05977725 м.куб.
или 1,98412275 < dV < 2,10367725 м.куб.
Соотношение dM/dV , в лучшем случае, получается таким: 1,1420/1,98412275 ,
что абсолютно не реально при температуре воды около 60 градусов и давлении около 6 бар. А это значит, что точность 0,01% не реальна.
Итак, где же ошибка?