Google スプレッドシートにおける精度の差異

送信とリフレッシュを実行した際、この違いによって Google スプレッドシートの値が値の変更として検出されます。

接続に小数点以下 17 桁の値がある場合、Google スプレッドシートで表示するときにその値の小数点以下 15 桁目が切り上げられます。 小数点以下 16 桁目の値が 5 以上の場合にこの処理が行われます。

Google スプレッドシートと Anaplan で小数点以下 15 桁目の値を同じにするには、Google スプレッドシートで値を再度入力してください。Google スプレッドシートでは小数点以下 15 桁目を四捨五入せず、入力した値の小数点以下 15 桁目までをそのまま表示します。

小数点以下 15 桁目までの値が Google スプレッドシートと Anaplan で同じ場合でも、Anaplan の小数点以下の値が 16 桁、または 17 桁ある場合、それは値の変更として検出されます。

Google スプレッドシートと Anaplan の精度の違いは浮動小数点演算で問題となる場合があります。Anaplan で浮動小数点演算を行う場合、入力時に 17 桁目の数字が四捨五入されます。

Anaplan でセルに「0.12345678901234567」と入力します。Anaplan に表示される値は「0.12345678901234566」となります (浮動小数点演算により、17桁目が「6」に切り下げられます)。

セルを含むモジュールに Google ワークシートを接続すると、Google スプレッドシートのセルの値が 0.123456789012346 になります (15 番目の数字が 5 から 6 に丸められる)。 

Google スプレッドシートで小数点以下 17 桁まで値を再入力できます。Google スプレッドシートでは数値を「0.123456789012345」として受け入れます (15 桁目は切り上げられません)。

接続の送信とリフレッシュを行うと、Anaplan の値は小数点以下が 17 桁 (0.12345678901234566) あるのに対して、Google スプレッドシートでは値が 15 桁 (0.123456789012345) までしかないため、値の違いが検出されます。以下の操作が可能です。

• [Submit] を選択して短い方の値 (0.123456789012345) を Anaplan に送信する
• [Refresh all data] を選択して Anaplan のデータ (0.123456789012346) で Google スプレッドシートを更新する