0.2單位修約和0.5單位修約的公式怎么做

一支（0～300）℃的玻璃液體溫度計(jì)，分度值是2℃，按十分之一估讀，已知100℃的標(biāo)準(zhǔn)值為100.007℃，被校溫度計(jì)2次讀數(shù)分別為100.2℃和100.4℃，平均值為100.3℃，修正值為100.007-100.3=-0.293℃，  考慮到最終修正值需要根據(jù)0.2修約，請(qǐng)問老師們-0.293修約后是多少？如何修約？

根據(jù)| GB/T 8170-2008 數(shù)值修約規(guī)則與極限數(shù)值的表示和判定， 中3.3.2應(yīng)該從平均值開始修約，把100.3修約成100.4，再與100.007比較

單純論-0.293如何按修約間隔0.2修約，是將-0.293/0.2=-1.465，然后修約到個(gè)位，為-1，再乘0.2，得修約結(jié)果0.2。
至于需不需要先修約平均值，我覺得按照GB/T 8170 中4.3.1.2的說法
當(dāng)標(biāo)準(zhǔn)或有關(guān)文件中,若對(duì)極限數(shù)值(包括帶有極限偏差值的數(shù)值)無特殊：規(guī)定時(shí),均應(yīng)使用全數(shù)值比較法。如規(guī)定采用修約值比較法,應(yīng)在標(biāo)準(zhǔn)中加以說明。
JJG 130的7.3.3.4已經(jīng)對(duì)數(shù)據(jù)處理做出了要求，僅在修正值后標(biāo)明了需要修約到1/10位，所以樓主的算法應(yīng)該是對(duì)的。
大部分規(guī)程應(yīng)該都要求是先計(jì)算后修約。

彈幕 發(fā)表于 2024-12-13 09:51
單純論-0.293如何按修約間隔0.2修約，是將-0.293/0.2=-1.465，然后修約到個(gè)位，為-1，再乘0.2，得修約結(jié)果0 ...

是的，我現(xiàn)在就是計(jì)算后再修約，僅修約一次。

增增增 發(fā)表于 2024-12-12 20:50
根據(jù)| GB/T 8170-2008 數(shù)值修約規(guī)則與極限數(shù)值的表示和判定， 中3.3.2應(yīng)該從平均值開始修約，把100.3修約成 ...

這是依據(jù)GB/T 8170-2008 哪一條來的？

單純論-0.293如何按修約間隔0.2修約，是將-0.293/0.2=-1.465，然后修約到個(gè)位（題目不是保留十分之一嘛不是小數(shù)后1位數(shù)嘛）

滄海一粒 發(fā)表于 2024-12-30 09:45
單純論-0.293如何按修約間隔0.2修約，是將-0.293/0.2=-1.465，然后修約到個(gè)位（題目不是保留十分之一嘛不是 ...

嗯我已經(jīng)搞定了

滄海一粒 發(fā)表于 2024-12-30 09:45
單純論-0.293如何按修約間隔0.2修約，是將-0.293/0.2=-1.465，然后修約到個(gè)位（題目不是保留十分之一嘛不是 ...

你可以這么想，按0.2修約，修約后一定是0.2的倍數(shù)，我們先除以0.2，在修約到各位，本質(zhì)是是求得這個(gè)倍數(shù)。至于修約到0.2，數(shù)據(jù)得到小數(shù)點(diǎn)后一位，這個(gè)問題在最后乘以0.2的時(shí)候就解決了

買本書吧 書上有講解  
先給0.293 乘以5=1.465 然后進(jìn)行修約    修約到個(gè)位  為   1
然后 用 1除以5=0.2
則修約結(jié)果為   0.2

lilei202 發(fā)表于 2025-2-12 17:24
買本書吧 書上有講解  
先給0.293 乘以5=1.465 然后進(jìn)行修約    修約到個(gè)位  為   1
然后 用 1除以5=0.2

謝謝。問題去年解決了。當(dāng)初查了不少資料，已經(jīng)對(duì)很多不同分度值估讀做了修約公式了。

沒有一個(gè)統(tǒng)一的公式去解釋，書上搞復(fù)雜了，按多少修約，待修約數(shù)除以多少，修約到個(gè)位后，再乘以多少。這個(gè)是通式。100也行50也行，0.2，0.3，0.5也行

有個(gè)取巧的方法，看它更接近誰，就取誰。比如0.293，按0.2單位修約，0.293介于0.2和0.4之間，更接近于0.2（小于0.2和0.4的一半0.3），就取0.2。

長度室 發(fā)表于 2025-2-16 16:02
有個(gè)取巧的方法，看它更接近誰，就取誰。比如0.293，按0.2單位修約，0.293介于0.2和0.4之間，更接近于0.2（ ...

這種方式杜宇個(gè)別數(shù)量少的證書問題不大，批量性的不行。我已經(jīng)處理好了，謝謝。

謝謝各位老師，這個(gè)問題已經(jīng)解決了。