數(shù)據(jù)處理疑問

在校準(zhǔn)扭矩儀時(shí)候得到三次數(shù)據(jù)分別是40.0/39.9/39.9，最後庶算相對(duì)誤差，那麼問題來了，1.手動(dòng)計(jì)算修約得到平均值得39.9，最後相對(duì)誤差=（39.9-40）/40*100%=0.25%，
2.若在EXCEL中直接算相對(duì)誤差因?yàn)樵谒闫骄禃r(shí)沒有修約所以最後=0.16%，
那麼我想問大家在最後數(shù)據(jù)處理中到底按哪種方法計(jì)算，還有就是在數(shù)據(jù)處理中第一次修約就要修約到與最後結(jié)果一致，還是先多保留一位小數(shù)再到最後再修約一次，

平均值計(jì)算要修約

　　無(wú)論手工計(jì)算還是在EXCEL中計(jì)算，中間計(jì)算都應(yīng)該修約至比修約后的結(jié)果規(guī)定保留位數(shù)多保留一位。
　　你的案例原始數(shù)據(jù)三位有效數(shù)字，最后計(jì)算結(jié)果要求二位有效數(shù)字，中間計(jì)算結(jié)果可比二位有效數(shù)字多保留一位，因此(40.0+39.9+39.9)/3＝39.9；(40.0－39.9)/40.0=0.250%，0.250%修約至兩位有效數(shù)字為0.25%。EXCEL應(yīng)設(shè)計(jì)為中間計(jì)算結(jié)果可以保留三位有效數(shù)字，最終計(jì)算結(jié)果設(shè)計(jì)為保留兩位有效數(shù)字，不能連續(xù)計(jì)算。連續(xù)計(jì)算中(40.0+39.9+39.9)/3＝39.9333……，原始數(shù)據(jù)僅為三位有效數(shù)字，多于三位有效數(shù)字的數(shù)字0.0333……為無(wú)效數(shù)據(jù)，無(wú)效數(shù)據(jù)給最終計(jì)算結(jié)果帶來了過大的修約誤差。

規(guī)矩灣錦苑 發(fā)表于 2014-11-27 15:45
　　無(wú)論手工計(jì)算還是在EXCEL中計(jì)算，中間計(jì)算都應(yīng)該修約至比修約后的結(jié)果規(guī)定保留位數(shù)多保留一位。
　　你 ...

謝謝前輩，那這樣看來在數(shù)據(jù)處理中還是以受動(dòng)計(jì)算為準(zhǔn)，不能依賴EXCEL哦

FOXCONN 發(fā)表于 2014-12-2 10:20
謝謝前輩，那這樣看來在數(shù)據(jù)處理中還是以受動(dòng)計(jì)算為準(zhǔn)，不能依賴EXCEL哦

　　不能說不能依賴EXCEL計(jì)算，而應(yīng)該說手動(dòng)計(jì)算和利用EXCEL計(jì)算均可。只不過在設(shè)計(jì)EXCEL時(shí)，每個(gè)空格中的有效數(shù)字個(gè)數(shù)或小數(shù)點(diǎn)后的位數(shù)應(yīng)嚴(yán)格按近似計(jì)算的規(guī)則設(shè)定，而不能使用原始的有效數(shù)字個(gè)數(shù)和小數(shù)點(diǎn)后的位數(shù)，不管不問，隨它的便。