Стив Апраамян поделился некоторыми замечательными наблюдениями и мыслями по теме значащих цифр и работы в Excel. Стив работает с числами и их статистической изменчивостью как значительную часть своей профессии. (Он доктор наук, химик). В этом совете представлены его мысли, которые должны быть полезны многим читателям.

Неважно, сколько значащих цифр вы используете при отображении значений в Excel, так как программа всегда будет использовать 15 значащих цифр при вычислении. Вы можете ОКРУГЛИВАТЬ значения (изменение отображаемых десятичных разрядов не меняет значение, используемое в вычислениях, ОКРУГЛ делает), но общепринятой практикой всегда было включение всех цифр, которые у вас есть для всех ваших вычислений, и ОКРУГЛЕНИЕ в конце для соответствующее количество значащих цифр. Это фактически улучшает точность ваших расчетов.

Проще всего проигнорировать значащие цифры и просто отобразить все окончательные вычисления с двумя или тремя знаками после запятой. Меньшее количество не дает достаточно информации, в то время как большее количество производит у людей впечатление, что вы задорны, педантичны или невежественны в значении значимых цифр! (Однажды у меня был преподаватель колледжа, который вычитал баллы, если вы не использовали значащие цифры. Он ненавидел «понос от калькулятора». Если проблема, как было сказано, приводила к предполагаемому результату 1,23, ответ 1,2345678901 — результат, отображаемый калькулятором, — был считалось неправильным, и баллы вычитались.)

Если вы хотите отслеживать значащие цифры, самый простой способ — сохранить значение значащих цифр для каждого имеющегося у вас числа. С помощью значения и количества значащих цифр Excel может рассчитать количество десятичных знаков, и вы можете отобразить окончательное значение с этой информацией. Значащие цифры и количество десятичных знаков не являются независимыми; десятичные разряды образуются из значащих цифр и значения.

Учитывая значение (X) и количество значащих цифр (SD), количество десятичных знаков определяется по следующей формуле:

=SD - INT(LOG10(X)) - 1

Затем вы можете преобразовать соответствующее значение в текст, используя:

=FIXED(X, SD - INT(LOG10(X)) - 1)

ROUND не будет работать, так как вы также должны изменить количество фиксированных десятичных знаков на дисплее. Функцию VALUE можно использовать с «ФИКСИРОВАННЫМ текстом» для преобразования текста в числовое значение для вычислений.

Однако отслеживание значащих цифр, вероятно, будет настоящей проблемой. Важно помнить о нескольких вещах. Во-первых, когда вы умножаете или делите, вы должны обращать внимание на значащие цифры. Количество значащих цифр в результате равно минимальному количеству значащих цифр для каждого из операндов. Например, рассмотрим следующее уравнение:

3.1 * 3.45678

Ответ на это уравнение будет иметь только две значащие цифры, потому что у одного операнда две, а у другого шесть, и результат будет иметь минимум этих двух. Таким образом, ответом на уравнение будет 11, у которого есть две значащие цифры. Также обратите внимание, что даже если у обоих операндов есть хотя бы один десятичный разряд, результат не будет, так как это дало бы результат слишком много значащих цифр. Знаки после запятой в результате не учитываются.

Во-вторых, когда вы складываете или вычитаете, вы должны обращать внимание на десятичные знаки, а не на значащие цифры. Количество десятичных знаков в результате совпадает с минимальным количеством десятичных знаков для каждого из операндов. Например, рассмотрим следующее уравнение:

23.1 + 103.789120

Ответ на это уравнение будет иметь один десятичный знак, потому что один операнд имеет один десятичный знак, а другой — шесть, и результат будет иметь минимум этих двух. Таким образом, ответом на уравнение будет 127,9 с одним десятичным знаком. Количество значащих цифр в операндах не учитывается в случае сложения и вычитания.

Можно отметить, что еще лучший способ выполнить контроль значимости — это использовать методы распространения ошибок. Вы можете отслеживать изменчивость (дисперсию, стандартное отклонение или другое определение «ошибки») и фактически определять изменчивость конечного результата. Вы должны сообщить значение вроде 1,23 +/- 0,05 или 1,234 +/- 45. Этот метод дает лучшее определение фактических значащих цифр. Этот подход, конечно, лучше оставить для отдельного обсуждения.

Без явной изменчивости значащие цифры по большей части подразумевают только изменчивость значения. Подразумевается, что число составляет +/- половину последней значащей цифры. Например, результат 1,23 предполагает (без другой информации) фактическое значение между 1,225 и 1,235, а результат 12 предполагает фактическое значение между 11,5 и 12,5.

Некоторые дополнительные комментарии к значащим цифрам:

  • Все цифры 1–9 значимы. (12 состоит из двух значащих цифр, 1,234 — из четырех значащих цифр, а 1,234,5 — из пяти значащих цифр.)

  • Цифра 0 значащая, когда она находится между двумя значащими цифрами.

(102 состоит из трех значащих цифр, а 1.0204 — из пяти значащих цифр.)

  • Цифра 0 слева от числа является только заполнителем и не имеет значения. (0,0123 имеет три значащих цифры, а 0,0000000000000000005 — только одну значащую цифру.)

  • Цифра 0 справа от числа может быть значащей цифрой, а может и не быть и должна определяться пользователем. (1.2300 имеет пять значащих цифр; 1.20 имеет три значащих цифры; и 100 может иметь одну, две или три значащих цифры — одного числа недостаточно для определения.)

  • Константы имеют бесконечное количество значащих цифр и никогда не должны определять значимость окончательного результата. Например, если вы удваиваете что-то, вы умножаете это на 2.00000000000 …​ (бесконечно); вы не умножаете его на 2, что ограничило бы результат одной значащей цифрой. Кроме того, когда вы используете пи (константу) в вычислении, вы используете более значащие цифры для пи, чем значащие цифры, используемые в других операндах в уравнении.

ExcelTips — ваш источник экономичного обучения Microsoft Excel.

Этот совет (1983 г.) применим к Microsoft Excel 97, 2000, 2002 и 2003. Вы можете найти версию этого совета для ленточного интерфейса Excel (Excel 2007 и более поздних версий) здесь:

ссылка: / excelribbon-Мысли_and_Ideas_on_Significant_Digits_in_Excel [Мысли и идеи о значащих цифрах в Excel].