中学生の時、私たち一人一人が数学の観点から精度の意味を学びました。それは数の正確さの程度を定義しました。したがって、最初は紛らわしい情報のように見えるものをよく見ました。数学の先生であるジェイムソンさんは、4.76は4.760とは違うと言っていました。その理由は、4.76は小数点以下2桁まで正確（正確）であるのに対し、4.760は正確（正確）であるためです

小数点以下3桁まで。したがって、4.760は、それぞれに含まれる有効桁数のため、4.76よりも正確です。デジタル計算機と（拡張により）Excelなどのスプレッドシートの世界に入ります。彼らにとって、4.76と4.760の間に違いはありません。なぜ、あなたは尋ねるかもしれませんが、特にジェムソンさんがこの問題についてそんなに大したことをしたとき、これは本当ですか？その理由は、電卓やスプレッドシートが数値を格納する方法と、人間が数値を格納する方法にあります。

人間は一般に、書かれているとおりに（私たちの脳に）数字を保存します。これは、4.76を見ると、小数点以下2桁までしか正確でないことがわかっていることを意味します。これは、表示および書き込みできるのはそれだけだからです。一方、コンピュータチップは、まったく異なる精度の面を扱います。 Excelに数値を入力すると、意図した内容に関係なく、数値が自動的に15桁の精度に変換されます。したがって、小数点以下2桁の精度しか指定していないと思っていたとしても、4.76の末尾には15桁のゼロが自動的に埋め込まれます。小数点以下3桁の精度を期待して、数値4.760を入力すると、Excelはそれを15桁までパディングします。 1つのインスタンスで小数点以下2桁、もう1つのインスタンスで小数点以下3桁に注意を払うようにExcelに指示することは不可能です。人間はそれを行うことができますが、Excelはできません。前の段落で、「精度の桁」と「精度の小数位」を区別しようとしたことに注意してください。これは裂ける細い髪のように聞こえるかもしれません、そして何人かの数学者は私を異端者とブランド化しようとするかもしれません。多くの人が、精度は小数点の右側の桁数に関係していると自動的に想定しているので、私は区別します。ただし、Excelでは、精度は単に桁数、つまりピリオドと関係があります。

したがって、Excelによって維持される15桁の精度は、合計の小数点の前後の桁をカウントします。小数点の左側に4桁ある場合、Excelは右側に11桁しか維持しません。左側に2つしかない場合、Excelは右側に13を維持します。これはすべて、平均的なExcelユーザーにとって何を意味しますか？ジェイムソンさんとは少し違う数字を見る必要があるかもしれないことを除けば、それほど多くはありません。ただし、Excelが内部で数値を保持する方法を覚えていても問題はありません。これは、実行する計算に影響を与える可能性があるためです。

_ExcelTips_は、費用効果の高いMicrosoftExcelトレーニングのソースです。

このヒント（1981）は、Microsoft Excel 97、2000、2002、および2003に適用されます。