萬分之一天平讀數(shù)精確到幾位
萬分之一天平可準(zhǔn)確到小數(shù)點后第四位0.0001g。根據(jù)電子天平的技術(shù)參數(shù),zui小稱量量,線性誤差,重復(fù)性,不同天平其實是不一樣的,哪怕都是萬分之一的,0.0002肯定是做不到的。0.025g太小了,滿足不了zui小稱量要求,這個相對誤差相當(dāng)大的。一般小于5g,天平允許誤差+/-0.5e,也就是+/-0.0005g。
因為小數(shù)點后第4位數(shù)字是估讀,有可能四舍五入,所以第4位一般意義上是不準(zhǔn)確的,嚴(yán)格上來說他精確到小數(shù)點后第3位。
在取小數(shù)近似數(shù)的時候,如果尾數(shù)的高位數(shù)字是4或者比4小,就把尾數(shù)去掉。如果尾數(shù)的高位數(shù)是5或者比5大,就把尾數(shù)舍去并且在它的前一位進"1",這種取近似數(shù)的方法叫做四舍五入法。
四舍五入是一種精確度的計數(shù)保留法,與其他方法本質(zhì)相同。但特殊之處在于,采用四舍五入,能使被保留部分的與實際值差值不超過zui后一位數(shù)量級的二分之一:假如0~9等概率出現(xiàn)的話,對大量的被保留數(shù)據(jù),這種保留法的誤差總和是zui小的。這也是我們使用這種方法為基本保留法的原因。