Präzision in Excel (Microsoft Excel)
Als wir in der Junior High School waren, lernte jeder von uns die Bedeutung von Präzision aus mathematischer Sicht: Sie definierte einen Genauigkeitsgrad einer Zahl. So haben wir oft gesehen, was auf den ersten Blick verwirrende Informationen waren. Frau Jameson, die Mathematiklehrerin, würde uns sagen, dass 4,76 anders war als 4,760. Es stellt sich heraus, dass der Grund dafür ist, dass 4,76 nur auf zwei Dezimalstellen genau (genau) ist, während 4,760 genau (genau)
ist auf drei Dezimalstellen. Somit ist 4,760 aufgrund der Anzahl der jeweils enthaltenen signifikanten Ziffern genauer als 4,76. Betreten Sie die Welt der digitalen Taschenrechner und (als Erweiterung) Tabellenkalkulationen wie Excel. Für sie gibt es keinen Unterschied zwischen 4,76 und 4,760. Warum, könnte man sich fragen, ist das wahr, besonders wenn Frau Jameson eine so große Sache mit dem Thema gemacht hat? Der Grund liegt in der Art und Weise, wie Taschenrechner und Tabellen Zahlen speichern, und in der Art und Weise, wie Menschen Zahlen speichern.
Menschen speichern im Allgemeinen Zahlen (in unserem Gehirn) so, wie sie geschrieben sind. Dies bedeutet, dass wir uns 4,76 ansehen und wissen, dass es nur auf zwei Dezimalstellen genau ist, denn das ist alles, was wir sehen und schreiben können. Computerchips hingegen arbeiten auf einer ganz anderen Präzisionsebene. Wenn Sie eine Zahl in Excel eingeben, wird die Zahl automatisch in fünfzehn Stellen mit einer Genauigkeit konvertiert – unabhängig davon, was Sie beabsichtigt haben. Daher wird 4.76 am Ende automatisch mit Nullen auf fünfzehn Stellen aufgefüllt, selbst wenn Sie dachten, Sie würden nur zwei Dezimalstellen mit Genauigkeit angeben. Wenn Sie die Zahl 4.760 eingeben und drei Dezimalstellen erwarten, füllt Excel sie immer noch mit fünfzehn Stellen auf. Es ist unmöglich, Excel anzuweisen, in einer Instanz auf zwei Dezimalstellen und in der anderen auf drei Dezimalstellen zu achten. Menschen können es, Excel jedoch nicht. Beachten Sie, dass ich im vorherigen Absatz versucht habe, zwischen „Ziffern der Genauigkeit“ und „Dezimalstellen der Genauigkeit“ zu unterscheiden. Das klingt vielleicht nach einem feinen Haar, das gespalten werden muss, und einige Mathematiker versuchen möglicherweise, mich als Ketzer zu brandmarken. Ich mache die Unterscheidung, weil viele Leute automatisch annehmen, dass Genauigkeit mit der Anzahl der Stellen rechts vom Dezimalpunkt zu tun hat. In Excel hängt die Genauigkeit jedoch nur mit der Anzahl der Stellen zusammen – Punkt.
Somit zählen die fünfzehn von Excel beibehaltenen Genauigkeitsziffern Ziffern sowohl vor als auch nach dem Dezimalpunkt in der Summe. Wenn sich links vom Dezimalpunkt vier Ziffern befinden, behält Excel nur elf Ziffern rechts bei. Wenn nur zwei links sind, behält Excel dreizehn rechts bei. Was bedeutet das alles für den durchschnittlichen Excel-Benutzer? Nicht viel, außer dass Sie die Zahlen vielleicht etwas anders betrachten müssen als Frau Jameson. Es tut jedoch nicht weh, sich daran zu erinnern, wie Excel Zahlen intern verwaltet, da dies Auswirkungen auf die von Ihnen durchgeführten Berechnungen haben kann.
ExcelTips ist Ihre Quelle für kostengünstige Microsoft Excel-Schulungen.
Dieser Tipp (1981) gilt für Microsoft Excel 97, 2000, 2002 und 2003.