技術者にとって数値の取り扱い方は重要です。
特に数値の丸め方や有効数字の扱い方については、共通の基準が求められます。共通基準といえばJIS（日本産業規格）です。そこで本ページでは、JISに準拠するかたちで数値の取り扱い方について紹介します。
数値の表し方 (JIS Z 8301)
小数点
- 小数点の記号にはピリオド「.」を用います。
不適合例：0,001、0･001 - 1未満の数値を表す場合は、先頭にゼロを置きます。
不適合例：.001
物理量
- 平面角の度「°」、分「′」および秒「″」の単位記号を除き、数値と単位記号の間にスペースを入れます。
これはSI（国際単位系）のルールでもあり、この場合のスペースには乗算記号と同じ意味があります。
数値の掛け算および指数表記
- 数と数の掛け算や指数表記の乗算記号には「×」を使用します。
適合例：1.8×103 ／ 不適合例：1.8･103 - 数値と量記号の掛け算および数値と演算記号（対数記号など）との掛け算を表す場合は、乗算記号の代わりに半角スペースを用いても構いません。
適合例：3 ln 2
寸法
- 寸法の各数値には単位を付けます。
適合例：80 mm×25 mm ／ 不適合例：80×25 mm
規定値の表し方 (JIS Z 8301)
一般
- 規定値は、上限値および／もしくは下限値、または基準値およびその許容差で示します。
範囲による表し方
- 範囲を表す場合には「〇〇～□□」、「〇〇から□□まで」、「〇〇以上□□以下」などを用います。
- いずれの数値にも単位記号を表記します。
適合例：10 kPa～12 kPa ／ 不適合例：10～12 kPa
許容差による表し方
- 基準値の後に、プラス側の許容差には「+」、マイナス側の許容差には「−」、両側に等しい値の許容差には「±」の記号を付けます。
適合例：80 µF±2 µF、(80±2) µF ／ 不適合例：80±2 µF
適合例：$80^{+2}_{-1}$、80 +2/-1 - ただし百分率を表す場合には曖昧さをなくすため「63 %～67 %」または「(65±2) %」のように表記します。
不適合例：65 %±2 % - また許容差がゼロの場合には記号を付けません。
- 適合例：80 +2/0 ／ 不適合例：80 +2/-0
有効数字 (JIS K 0211)
JISでは有効数字について「測定結果などを表す数字のうちで，位取りを示すだけのゼロを除いた意味のある数字」と定義しています。また有効数字の桁数を有効桁数と呼ぶこともあります。
有効数字の例を次に示します。
- 0.0123は有効数字3桁です。
- 0.004は有効数字1桁です。
- 56.7は有効数字3桁です。
- 8.009は有効数字4桁です。
また有効数字が何桁であるかを明示するために、指数表記（科学的表記ともいう）を用いることも有効です。
- 12×103は有効数字2桁です。
- 1.23×10-3は有効数字3桁です。
有効数字を過信しない
ある製品の寸法が(5.0±0.1) mmと定められていたとします。この場合の許容範囲は4.9 mm～5.1 mmです。該当箇所の寸法を測定したところ5.11 mmでした。桁を揃えるために丸めると5.1 mmですが、これは果たして合格となるでしょうか。
答えはNoです。規格値を小数点以下1桁で表していますが、それは決して有効数字を示したものではありません。有効数字とは測定値に対して当てはめるものです。
許容差が±0.1 mmなら、0.01 mmの桁を測定できる計測器が必要です。この場合の有効桁数は0.01の位までとなります。すなわち測定値5.11 mmはすべて有効数字であり、これ以上丸めることはしません。結果、該当の製品は規格値外れで不良品となります。
数値の丸め方 (JIS Z 8401)
丸め処理（端数処理）として、JIS Z 8401には規則Aと規則Bの2つの手法が掲載されています。
規則Bはいわゆる四捨五入です。しかし広く普及しているこの四捨五入に対して、疑問を持ったことはないでしょうか。捨てる（切り捨てる）割り合いより、拾う（切り上げる）割り合いの方が多くてバランスが悪いなと。四捨五入を用いてデータを処理すると、絶対値が大きくなる方にわずかに偏りが生まれます。
規則Aは丸め処理による誤差を最小に抑えるものです。JIS丸めと呼ばれることがある他、銀行丸めや偶数丸めなどと呼ばれることもあります。（本ページ内では偶数丸めと表記します）
次に丸め幅が1の場合の処理例を示します。
- 端数が0.5未満のとき切り捨てます。
- 端数が0.5超えのとき切り上げます。
- 端数がちょうど0.5のとき、結果が偶数になるように丸めます。
| 与えられた数値 | 四捨五入 | 偶数丸め |
|---|---|---|
| 12.249 | 12.2 | 12.2 |
| 12.250 | 12.3 | 12.2 |
| 12.251 | 12.3 | 12.3 |
| 12.349 | 12.3 | 12.3 |
| 12.350 | 12.4 | 12.4 |
| 12.351 | 12.4 | 12.4 |
許容差と測定精度について
「有効数字を過信しない」からさらに一歩踏み込みます。
規格値(5.0±0.1) mmの寸法を、最小読み取り値（分解能）0.01 mmのノギスで測定しました。その結果が5.10 mmであったとき、これは合格となるでしょうか。
今回も答えはNoです。測定には誤差がつきまといます。例えば測定精度±0.03 mmのノギスであったとき、測定結果5.10 mmの真値は5.07 mm～5.13 mmのいずれかにあるとなります。つまり5.10 mmを超えている可能性もあるのです。このように測定を行う際は、計測器の精度を考慮する必要があります。
| 規格値 | 測定精度 | 合格範囲 |
|---|---|---|
| 5.0±0.1 | ±0.03 | 4.93～5.07 |
| ±0.01 | 4.91～5.09 |
コメント