Когда мы учились в неполной средней школе, каждый из нас узнал значение точности с точки зрения математики: она определяла степень точности числа. Таким образом, мы часто видели информацию, которая сначала казалась запутанной. Мисс Джеймсон, учитель математики, сказала бы нам, что 4,76 отличается от 4,760. Причина, как выясняется, в том, что 4,76 является точным (точным) только до двух десятичных знаков, а 4,760 — точным (точным)

до трех знаков после запятой. Таким образом, 4,760 точнее 4,76 из-за количества значащих цифр, которые каждая содержит. Войдите в мир цифровых калькуляторов и (как следствие) электронных таблиц, таких как Excel. Для них нет разницы между 4,76 и 4,760. Вы можете спросить, почему это так, особенно когда мисс Джеймсон придавала такое большое значение этому вопросу? Причина в том, как калькуляторы и электронные таблицы хранят числа и как люди хранят числа.

Люди обычно хранят числа (в нашем мозгу) в том виде, в каком они записаны. Это означает, что мы смотрим на 4,76 и знаем, что оно имеет точность только до двух десятичных знаков, потому что это все, что мы можем видеть и писать. С другой стороны, компьютерные чипы имеют дело с совершенно иной точностью. Когда вы вводите число в Excel, оно автоматически преобразует число с точностью до пятнадцати цифр — независимо от того, что вы намеревались сделать. Таким образом, 4.76 автоматически дополняется нулями в конце до пятнадцати цифр, даже если вы думали, что указываете только два десятичных знака точности. Когда вы вводите число 4,760, ожидая трех десятичных знаков точности, Excel все равно дополняет его до пятнадцати знаков. Невозможно заставить Excel обращать внимание на два десятичных знака в одном случае и три в другом. Люди могут это сделать, а Excel — нет. Обратите внимание, что в предыдущем абзаце я попытался провести различие между «цифрами точности» и «десятичными знаками точности». Может показаться, что это тонкие волосы, и некоторые математики могут попытаться заклеймить меня еретиком. Я делаю это различие, потому что многие люди автоматически предполагают, что точность связана с количеством цифр справа от десятичной точки. Однако в Excel точность просто связана с количеством цифр — периодом.

Таким образом, пятнадцатизначная точность, поддерживаемая Excel, учитывает цифры как до, так и после десятичной точки в общем. Если слева от десятичной точки находятся четыре цифры, Excel сохранит только одиннадцать справа. Если слева только два, то в Excel остается тринадцать справа. Что все это значит для обычного пользователя Excel? Не очень много, кроме того, что вам, возможно, придется взглянуть на числа немного иначе, чем это делала мисс Джеймсон. Однако не помешает вспомнить, как Excel хранит числа внутри, поскольку это может повлиять на выполняемые вами вычисления.

ExcelTips — ваш источник экономичного обучения Microsoft Excel.

Этот совет (1981 г.) применим к Microsoft Excel 97, 2000, 2002 и 2003.