初中时,我们每个人都从数学的角度学习了精确的含义:它定义了数字的精确度。因此,我们经常看到起初看起来令人困惑的信息。数学老师詹姆森女士会告诉我们4.76与4.760不同。事实证明,原因是4.76精确(准确)到小数点后两位,而4.760精确(准确)到小数点

到小数点后三位。因此,由于每个包含的有效位数,所以4.760比4.76更精确。输入数字计算器和(通过扩展名)电子表格(例如Excel)的世界。对他们而言,4.76和4.760之间没有区别。您可能会问,这是真的吗,特别是詹姆森女士在这个问题上做得如此重要的时候?原因是由于计算器和电子表格存储数字的方式以及人类存储数字的方式。

人们通常会在书写时存储数字(在我们的大脑中)。这意味着我们看4.76,我们知道它仅精确到两位小数,因为这就是我们可以看到和写入的全部。另一方面,计算机芯片处理的精度却大不相同。当您在Excel中输入数字时,它会自动将数字转换为精度为15位的数字-无论您要使用什么数字。因此,即使您以为只指定两个小数位精度,也会自动在末尾用零填充4.76到15位数字。当您输入数字4.760,期望精确到小数点后三位时,Excel仍将其填充到十五位。不可能指示Excel在一个实例中注意两个小数位,在另一个实例中注意三个小数位。人类可以做到,但Excel无法做到。请注意,在上一段中,我试图在“精度位数”和“精度小数位”之间进行区分。这听起来像是一根细细的头发,有些数学家可能会尝试将我打上异端烙印。我之所以这么区分是因为许多人会自动认为精度与小数点右边的位数有关。但是,在Excel中,精度只与位数(周期)有关。

因此,Excel维护的精度的15位数字对总计小数点前后的位数进行计数。如果小数点左边有四位数,则Excel仅保留右边的十一位。如果左侧只有两个,则Excel会在右侧保留13个。这对普通的Excel用户意味着什么?除了您可能需要查看的数字与詹姆森女士稍有不同之外,还不是很多。记住Excel如何在内部维护数字并没有什么坏处,因为它会影响您执行的计算。

_ExcelTips_是您进行经济高效的Microsoft Excel培训的来源。

本技巧(1981)适用于Microsoft Excel 97、2000、2002和2003。