중학교 때 우리 각자는 수학의 관점에서 정밀도의 의미를 배웠습니다. 그것은 숫자의 정확도를 정의했습니다. 따라서 처음에는 혼란스러운 정보로 보이는 것을 자주 보았습니다. 수학 교사 인 Ms. Jameson은 4.76이 4.760과 다르다고 말했습니다. 그 이유는 4.76은 소수점 두 자리까지만 정확하고 (정확합니다) 4.760은 정확하고 (정확합니다)

소수점 세 자리까지. 따라서 각각에 포함 된 유효 자릿수 때문에 4.760은 4.76보다 더 정확합니다. Excel과 같은 디지털 계산기 및 스프레드 시트의 세계로 들어가십시오. 그들에게는 4.76과 4.760 사이에 차이가 없습니다. 왜 이것이 사실입니까? 특히 Jameson이이 문제에 대해 그렇게 큰 거래를했을 때 그렇습니까? 그 이유는 계산기와 스프레드 시트가 숫자를 저장하는 방식과 인간이 숫자를 저장하는 방식 때문입니다.

인간은 일반적으로 숫자가 쓰여지는대로 (우리의 두뇌에) 저장합니다. 이것은 우리가 4.76을보고, 그것이 우리가보고 쓸 수있는 전부이기 때문에 소수점 두 자리까지만 정확하다는 것을 의미합니다. 반면에 컴퓨터 칩은 매우 다른 수준의 정밀도를 처리합니다. Excel에 숫자를 입력하면 의도 한 내용에 관계없이 숫자가 15 자리 정밀도로 자동 변환됩니다. 따라서 소수점 이하 두 자리 만 지정한다고 생각 했더라도 4.76은 끝 부분에 0이 15 자리까지 자동으로 채워집니다. 소수점 세 자리의 정밀도를 예상하고 숫자 4.760을 입력해도 Excel은 여전히 ​​15 자리까지 채 웁니다. 한 인스턴스에서는 소수점 두 자리, 다른 인스턴스에서는 세 자리에주의를 기울 이도록 Excel에 지시하는 것은 불가능합니다. 인간은 할 수 있지만 Excel은 할 수 없습니다. 이전 단락에서 “정밀도 자릿수”와 “정밀도 소수 자릿수”를 구분하려고했습니다. 이것은 쪼개지기에가는 머리카락처럼 들릴 수 있으며 일부 수학자들은 나를 이단자로 낙인 찍으려고 할 수도 있습니다. 많은 사람들이 정밀도가 소수점 오른쪽의 자릿수와 관련이 있다고 자동으로 가정하기 때문에 구분합니다. 그러나 Excel에서 정밀도는 자릿수 (마침표)와 관련이 있습니다.

따라서 Excel에서 유지 관리하는 15 자리 정밀도는 합계에서 소수점 앞뒤의 자릿수를 계산합니다. 소수점 왼쪽에 4 자리 숫자가 있으면 Excel은 오른쪽으로 11 자리 만 유지합니다. 왼쪽에 두 개만 있으면 Excel은 오른쪽에 13 개를 유지합니다. 이 모든 것이 일반 Excel 사용자에게 의미하는 바는 무엇입니까? 제임슨 씨가했던 것과는 조금 다르게 숫자를 볼 필요가있을 수도 있습니다. 하지만 Excel에서 내부적으로 숫자를 유지하는 방식을 기억하는 것은 사용자가 수행하는 계산에 영향을 미칠 수 있기 때문입니다.

_ExcelTips_는 비용 효율적인 Microsoft Excel 교육을위한 소스입니다.

이 팁 (1981)은 Microsoft Excel 97, 2000, 2002 및 2003에 적용됩니다.