BCD

今日は三四郎2007を使っていて、ちょっと困ったことに。

計算があわないのである。

で、サポートのページを見ていて、BCD方式の計算、というところに行き着いた。

三四郎2007では、

=1.1-1-0.1

を計算すると

　8.3267E-17

となる。これを、10進数型演算で計算するように指定すると、正しい答えが返ってくるらしい。(数値の前に"&n"を入れるみたい。)
最大38桁の高精度計算が可能とのこと。
そういえば、なんか聞いたことあったなぁ。。。

=&n1.1-&n1-&n0.1

この場合、このようにすれば、正しい結果(0)が返ってくる。

備考その１、
=&n1.1-1-0.1、=1.1-&n1-0.1、=1.1-1-&n0.1 でも、0 になるみたい。

備考その２、
　OpenOffice.org Calc では、最初から =1.1-1-0.1 で正しい結果(0)が返ってくる。

備考その３、
　BCD方式で計算されている、というのが分かるように、その数式の結果は青色になる・・・。