Excel(Microsoft Excel)の有効数字に関する考えとアイデア
Steve Aprahamianは、有効数字とExcelでの作業のトピックに関するいくつかの素晴らしい観察と考えを提供しました。スティーブは、彼の職業の大部分として、数値とその統計的変動性を扱っています。 (彼は博士号の化学者です。)彼の考えはこのヒントに示され、多くの読者に役立つはずです。
プログラムは常に15桁の有効数字を計算に使用するため、Excelで値を表示する際に使用する有効数字の数は関係ありません。値を丸めることができます(表示される小数点以下の桁数を変更しても、計算で使用される値は変更されません。ROUND関数は変更されます)が、受け入れられている方法は、すべての計算で使用できるすべての数値を含め、最後に丸めることです。適切な有効桁数に。これにより、実際に計算の精度が向上します。
最も簡単な方法は、有効数字を無視して、すべての最終計算を小数点以下2桁または3桁で表示することです。十分な情報を提供しない人は少なくなりますが、有効数字の意味で肛門性格、衒学者、または無知であるという印象を人々に与えます。 (私はかつて、有効数字を使用しなかった場合にポイントを差し引く大学のインストラクターがいました。前述のように、問題が暗黙の1.23の結果をもたらした場合、1.2345678901(計算機によって表示された結果)の回答は正しくないと見なされ、ポイントが差し引かれました。 )
有効数字を追跡したい場合、最も簡単な方法は、持っている各数値の有効数字の値を保持することです。値と有効桁数を使用して、Excelは小数点以下の桁数を計算し、この情報を使用して最終的な値を表示できます。有効桁数と小数点以下の桁数は独立していません。小数点以下の桁数は有効数字と値に由来します。
値(X)と有効桁数(SD)が与えられると、小数点以下の桁数は次の式で与えられます。
=SD - INT(LOG10(X)) - 1
次に、次を使用して適切な値をテキストに変換できます。
=FIXED(X, SD - INT(LOG10(X)) - 1)
ディスプレイの固定小数点以下の桁数も変更する必要があるため、ROUNDは機能しません。 VALUE関数を「FIXEDtext」とともに使用すると、計算用にテキストを数値に変換できます。
ただし、有効数字を追跡することは、おそらく本当に苦痛になるでしょう。いくつかのことに注意することが重要です。まず、乗算または除算するときは、有効数字に注意する必要があります。結果の有効桁数は、各オペランドの有効桁の最小数と同じです。たとえば、次の方程式について考えてみます。
3.1 * 3.45678
この方程式の答えは有効数字が2桁しかないため、一方のオペランドには2桁、もう一方のオペランドには6桁があり、結果にはこれら2桁の最小値が含まれます。したがって、方程式の答えは11になり、有効数字が2桁になります。また、両方のオペランドに少なくとも1桁の小数点以下が含まれていても、結果に有効桁数が多すぎるため、結果には含まれないことに注意してください。小数点以下の桁数は結果に含まれません。
次に、加算または減算するときは、有効数字ではなく小数点以下の桁数に注意する必要があります。結果の小数点以下の桁数は、各オペランドの最小小数点以下の桁数と同じです。たとえば、次の方程式について考えてみます。
23.1 + 103.789120
この方程式の答えは小数点以下1桁になります。これは、一方のオペランドに小数点以下1桁、もう一方に小数点以下6桁があり、結果にはこれら2つの最小値が含まれるためです。したがって、方程式の答えは126.9になり、小数点以下1桁になります。加算と減算の場合、オペランドの有効桁数は考慮されません。
有意性の制御を達成するためのさらに良い方法は、エラーの伝播手法を使用することであることに注意してください。変動性(分散、標準偏差、またはその他の「エラー」の決定)を追跡し、実際に最終結果の変動性を決定できます。 1.23 +/- 0.05または1,234 +/- 45のような値を報告します。この方法では、実際の有効数字が何であるかをより正確に判断できます。もちろん、このアプローチは別の議論に任せるのが最善です。
明示的な変動がない場合、有効数字は、ほとんどの場合、値の変動を意味するだけです。これは、数値が最後の有効数字の+/-半分であることを意味します。たとえば、1.23の結果は(他の情報なしで)1.225から1.235の間の実際の値を示唆し、12の結果は11.5から12.5の間の実際の値を示唆します。
有効数字に関するいくつかの追加コメント:
-
1〜9の数字はすべて重要です。 (12には有効数字2桁、1.234には有効数字4桁、1,234.5には有効数字5桁があります。)
-
桁0は、有効数字2桁の間にある場合に有効です。
(102には有効数字3桁、1.0204には有効数字5桁があります。)
-
数字の左側に表示される数字0は単なるプレースホルダーであり、重要ではありません。 (0.0123には有効数字が3桁あり、0.0000000000000000005には有効数字が1桁しかありません。)
-
数字の右側に表示される数字0は、有効数字である場合とそうでない場合があり、ユーザーが定義する必要があります。 (1.2300には有効数字5桁、1.20には有効数字3桁、100には有効数字1桁、2桁、または3桁があります。数値だけでは判断できません。)
-
定数の有効桁数は無限であり、最終結果の重要性を決定することはできません。たとえば、何かを2倍にすると、それを2.00000000000 …(無限)で乗算します。 2を掛けていないため、結果は有効数字1桁に制限されます。また、計算でpi(定数)を使用する場合は、方程式の他のオペランドで使用される有効数字よりも多くの有効数字をpiに使用します。
_ExcelTips_は、費用効果の高いMicrosoftExcelトレーニングのソースです。
このヒント(12083)は、Microsoft Excel 2007、2010、2013、および2016に適用されます。
Excelの古いメニューインターフェイス用のこのヒントのバージョンは、次の場所にあります: