実験における有効数字の取り扱い方をマスターしよう

実験でデータを整理してするときは有効数字に気を付ける必要があります。有効数字を適当に処理してしまうと，最終的な数値が狂って信頼できない値を獲得してしまいます。

本記事は，有効数字の計算がスラスラと行えることを目的としています。

そもそも有効数字って？

まずは，有効数字とはなんぞや？というところから始めてみましょう。

少し前置きが長くなりますが，有効数字のイメージをつかむためにもお付き合いくださいね。

有効数字とは，文字のごとく，「効き目（意味）の有る数字」です。

では，意味のある数字とはどういう数字のことでしょうか？

Tomosan

ここは，具体例を取り上げて考えてみましょう。

このように言われたら，厳密には，26 km離れているかもしれないし，34 km離れているかもしれないというわけです。一方で，

このように言われたら，31.9 kmかもしれないし，32.3 kmかもしれないということです。

何が言いたいかというと，どの桁まで表示するかによって，その値の正確さが変わってくるということです。

正確さが変わるという意味で，「意味がある」と言いました。

もう少し実験を連想しやすい例を挙げてみます。

と言われたら，4.7 gでもいいし，5.4 gでも良いということですよね。

これを計算に応用してみましょう。

3人の学生の平均身長を求めたいとします。身長計は少数第一位まで測れるものとします。測定した結果は以下の表のようになりました。

この平均を計算すると，174.0666… cmとなります。では結論，平均身長は174 cmなのか，174,1 cmなのか174.07 cmなのか。

答えは，174.1 cmです。

答えの桁数の精度は，測定機器の精度に依存します。この場合は，身長計が少数第一位まで測定できるので，少数第一位までは精度が高いことになります。

そのため，平均身長174 cmとしてしまうと，少数第一位までの精度が無駄になってしまいますし，逆に，平均身長174.07 cm としてしまうと，少数第二位の精度はないので，不適切だというわけです。

Tomosan

有効数字のイメージをつかんでいただいたでしょうか？次は，具体的な計算方法に入っていきます。

有効数字の計算方法

有効数字の計算は，加減（足し算・引き算），乗除（掛け算・割り算）で異なります。

ここで，端数の丸め方にはいろんな流儀がありますが，ここでは四捨五入を使います。

加減計算

まずは，加減計算についてみていきます。

を計算してみます。

step
1まずは普通に計算する

13+56.4+110.34=179.74

step
213，56.4，110.34の最終桁が何位かを確認する

• 13：一位
• 56.4：少数第一位
• 110.34：少数第二位

step
3上記の中で最終桁が最も小さいもの（精度が弱いもの）を確認する。

13：一位

step
4先ほどの計算結果「179.74」を一位に丸める（四捨五入する）

179.74　→　180

よって，180

乗除計算

次に，乗除計算を見ていきましょう。

を計算してみます。

step
1まずは普通に計算する

13×56.4×110.34=80901.288

step
213，56.4，110.34の桁数を確認する

• 13：2桁
• 56.4：3桁
• 110.34：5桁

step
3上記のうち，桁数が最も小さいものを確認する

13：2桁

step
4先ほど計算した結果を2桁に丸める（四捨五入する）

80901.288　→　8.1×10⁴（80000ではないことに注意！80000は1桁です）

よって，8.1×10⁴

有効数字の計算例を見てみよう

加減乗除の混じった計算

を計算してみます。

計算方法は先ほど説明した加減計算と乗除計算を合わせるだけです。

step
1まずは掛け算部分を計算し，四捨五入する

13×56.4=733.2

• 13：2桁
• 56.4：3桁

最も小さい桁は2桁だから，733.2　→　730( or 7.3×10²)

step
2次に，足し算部分を計算し四捨五入する

730+110.34=840.34

• 730：一位
• 110.34：少数第二位

最も桁の精度が弱いのは一位だから，840.34　→　840

よって，840

実践～試験片の長さの測定～

試験片の長さを測定したら，以下のようになった。

ここで，長さの平均値を求めてみると，10.120 cmになりました。さて，有効数字を加味した場合，平均はいくらになるでしょうか。

答えは，10.1になります。この理由について解説します。まず平均値の計算式を思い起こしてみましょう。

勘が良い方はお気づきかもしれませんが，掛け算は桁の低いのに合わせるから，5の1桁に合わせて10 cmと答えるべきではないかと。

しかし，この「5」という数字は，超正確な「5」で，5.1とか4.9とかでもありませんよね。つまり，この「5」には有効数字という概念がないと思ってもらえると捉えるのが普通だと思います。あるいは，有効数字が無限大と便宜的に考えるのもいいと思います。

Tomosan

有効数字の桁数は無限大と便宜的に考えるのがいいかも！

そうすると，50.6（3桁）と5（∞桁）とでは，桁が小さいのが3桁になります。よって，最後の答えを3桁にすればよく，10.1となります。

まとめ

今回は，有効数字の計算方法を紹介しました。

簡単にまとめると，

でした！