技術者のための数値の取り扱い方

技術者にとって数値の取り扱い方は重要です。
特に数値の丸め方や有効数字の扱い方については、共通の基準が求められます。共通基準といえばJIS(日本産業規格)です。そこで本ページでは、JISに準拠するかたちで数値の取り扱い方について紹介します。
なおJISの詳細を調べたい場合はJISC(日本産業標準調査会)のウェブサイトで確認してください。利用者登録は必用ですが、JISの内容を無料を閲覧できます。

目次

数値の表し方 (JIS Z 8301)

小数点

  1. 小数点の記号にはピリオド「.」を用います。
    不適合例:0,001、0・001
  2. 1未満の数値を表す場合は、先頭にゼロを置きます。
    不適合例:.001

物理量

  1. 平面角の度「°」、分「′」および秒「″」の単位記号を除き、数値と単位記号の間にスペースを入れます。
    これはSI(国際単位系)のルールでもあり、この場合のスペースには乗算記号と同じ意味があります。

SIやJISのルールにしたがうと、百分率の「%」と数値の間にスペースは必用です。しかし英語圏ではスペースを入れないことが慣習化されています。このため英文書作成時は数値と「%」の間にスペースを入れない方が良い、となります。

数値の掛け算および指数表記

  1. 数と数の掛け算や指数表記の乗算記号には「×」を使用します。
    適合例:1.8×103 / 不適合例:1.8・103
  2. 数値と量記号の掛け算および数値と演算記号(対数記号など)との掛け算を表す場合は、乗算記号の代わりに半角スペースを用いても構いません。
    適合例:3 ln 2

寸法

  1. 寸法の各数値には単位を付けます。
    適合例:80 mm×25 mm / 不適合例:80×25 mm

規定値の表し方 (JIS Z 8301)

一般

  1. 規定値とは製品の品質を保証するために、あらかじめ定められた数値や設定です。
    上限値および/もしくは下限値、または基準値およびその許容差で示します。
  2. 「10±0.1」という規定値があったとき、「10」が基準値で、「±0.1」が許容差です。
  3. 許容範囲は具体的な数値の範囲です。「10±0.1」のとき「9.9~10.1」が許容範囲となります。

範囲による表し方

  1. 範囲を表す場合には「〇〇~□□」、「〇〇から□□まで」、「〇〇以上□□以下」などを用います。
  2. いずれの数値にも単位記号を表記します。
    適合例:10 kPa~12 kPa / 不適合例:10~12 kPa

許容差による表し方

  1. 基準値の後に、プラス側の許容差には「+」、マイナス側の許容差には「−」、両側に等しい値の許容差には「±」の記号を付けます。
    適合例:80 µF±2 µF、(80±2) µF / 不適合例:80±2 µF
    適合例:$80^{+2}_{-1}$、80 +2/-1
    ※左側のフォントが異なるのはTeX数式のためで、ミスなどではありません。
  2. ただし百分率を表す場合には曖昧さをなくすため「63 %~67 %」または「(65±2) %」のように表記します。
    不適合例:65 %±2 %
  3. また許容差がゼロの場合には記号を付けません。
    適合例:80 +2/0 / 不適合例:80 +2/-0

有効数字 (JIS K 0211)

JISでは有効数字について「測定結果などを表す数字のうちで,位取りを示すだけのゼロを除いた意味のある数字」と定義しています。また有効数字の桁数を有効桁数と呼ぶこともあります。
有効数字の例を次に示します。

  • 0.0123は有効数字3桁です。
  • 0.004は有効数字1桁です。
  • 56.7は有効数字3桁です。
  • 8.009は有効数字4桁です。

また有効数字が何桁であるかを明示するために、指数表記(科学的表記ともいう)を用いることも有効です。

  • 12×103は有効数字2桁です。
  • 1.23×10-3は有効数字3桁です。

有効数字の意味

100と100.0という数値をみたとき、「どちらも同じ100だ」と思ったり、「100.0はピッタリ100だ」と思ったりするかもしれません。しかし有効数字に照らし合わせると、下記のように2つは異なる値を示します。このように曖昧さをもつのが有効数字です。

  • 100は99.5以上100.5未満のいずれか。
  • 100.0は99.95以上100.05未満のいずれか。

有効数字の計算ルール

  1. 有効数字どうしの足し算、引き算は、小数点以下桁数の少ない方に合わせます。
    例:5.4 + 3.21 = 8.61 ≒ 8.6
  2. 有効数字どうしの掛け算、割り算は、有効桁数の少ない方に合わせます。
    例:1.2 × 3.45 = 4.14 ≒ 4.1
    例:5.6 × 7.89 = 44.184 ≒ 44
    例:901.2 × 3.45 = 3109.14 ≒ 3110 = 3.11×103

数値の丸め方 (JIS Z 8401)

丸め処理(端数処理)として、JIS Z 8401には規則Aと規則Bの2つの手法が掲載されています。

規則Bはいわゆる四捨五入です。しかし広く普及しているこの四捨五入に対して、疑問を持ったことはないでしょうか。捨てる(切り捨てる)割り合いより、拾う(切り上げる)割り合いの方が多くてバランスが悪いなと。四捨五入を用いてデータを処理すると、絶対値が大きくなる方にわずかに偏りが生まれます。

規則Aは丸め処理による誤差を最小に抑えるものです。JIS丸めと呼ばれることがある他、銀行丸めや偶数丸めなどと呼ばれることもあります。(本ページ内では偶数丸めと表記します)
次に丸め幅が1の場合の処理例を示します。

  1. 端数が0.5未満のとき切り捨てます。
  2. 端数が0.5超えのとき切り上げます。
  3. 端数がちょうど0.5のとき、結果が偶数になるように丸めます。
与えられた数値四捨五入偶数丸め
12.24912.212.2
12.25012.312.2
12.25112.312.3
12.34912.312.3
12.35012.412.4
12.35112.412.4
丸め処理の例(丸め幅0.1)

丸め処理を2回以上使うと誤差の要因になります。
偶数丸めの例(丸め幅0.1):12.251を12.25にしたのち、12.2としてはいけません。

許容差と測定精度について

規定値(5±0.1) mmの寸法を、最小読み取り値(分解能)0.01 mmのノギスで測定しました。その結果が5.10 mmであったとき、これは合格となるでしょうか。

答えはNoです。測定には誤差がつきまといます。例えば測定精度±0.01 mmのノギスであったとき、測定結果5.10 mmの真値は5.09 mm~5.11 mmのいずれかにあるとなります。つまり5.10 mmを超えている可能性もあるのです。このように測定を行う際は、計測器の精度を考慮する必要があります。

規定値測定精度合格範囲
5±0.1±0.024.92~5.08
±0.014.91~5.09
測定精度と合格範囲の関係

合格範囲は測定精度分狭まります。このため要求される許容差の、1/3以下の精度をもつ計測器で測定することを推奨します。

コメント

コメントする

CAPTCHA


目次