どのコンピューター システムでも、非常に大きな数字、又は小数点以下の桁数が多い数字を入力または計算する際にわずかな精度の誤差が発生します。
精度の誤差は以下が原因で発生します。
- コンピューターの資源は有限 (一部の数値が非常に大きいか、小数点以下が無限に続く)
- コンピューターでバイナリを使用している (一部の少数はバイナリで正確に表現できない)
数値を正確に表現できない場合、コンピューターでは数値の四捨五入が行われます。四捨五入された数値を計算で使用すると、こうしたわずかな誤差が予期しない結果につながります。
たとえば、33 を 10 で除算すると、解は「3.29999999999」となります。
小数点以下 15 桁の精度
Anaplan では、Institute for Electrical and Electronics Engineers Standard for Floating Point Arithmetic 754 (IEEE 754) に従って、2 進浮動小数表現で数値データが表されます。同等のすべての計算ソフトで、同じ標準を使用して小数の格納と計算を行っています。
IEEE 754 に従うことで、Anaplan では最大で小数点以下約 15 ～ 16 桁までの数値を正確に表現 (及び計算) しています。これは非常に高い精度であり、精度誤差が極めて小さいため大半の用途では問題となりません。
注記: 有効数字とは、位取りを示すだけのゼロを除いた数字の桁数のことです。たとえば、0120400 は 0120.400 となるため、有効数字が四つありますが、1200004 は 1200.004 となるため有効数字が七つになります。
詳細フィールドの誤差
モジュール グリッドの右上に表示されるセル値の詳細フィールドにわずかな精度誤差が見られる場合があります。小数点以下 15 桁未満を表示するようにセルの書式が設定されている場合でも、このフィールドには選択したセルの値が最大で 15 桁まで表示されます。
精度誤差が発生した場合、計算に影響しないと思われる場合でも詳細フィールドに精度誤差が表示されます。
たとえば、「0.10」、「0.20」、「0.30」を追加するとグリッドの合計には「0.60」と表示されます。ただし、詳細フィールドではこれが「0.600000000000001」として表示されます。
IEEE 754 を使用するどのシステムでも計算結果は同じです。詳細フィールドにはこのわずかな誤差が表示されます。
