[Date Prev] [Date Index] [Date Next]
[Thread Prev] [Thread Index] [Thread Next]

[xyzzy:03439] 質問



みなさん、こんにちは。

scratch bufferでの計算機能は大変便利なのですが、ちょっと気づいたことがありまして、お聞きしたく思います。

(- 1.00 0.90)
0.1

(- 0.10 0.09)
0.009999998

(- 0.01 0.009)
0.001

3番めができて、2番めができないというところが不思議なんですが。

また、値が小さいとおかしくなるというわけでもなさそうです。

(- 1.00 0.99)
0.00999999

(- 0.01 0.005)
0.005

操作が間違っていますでしょうか?
それとも、電卓ソフトというわけではないので、こんなものなのでしょうか?

教えてください。

#過去ログに類似事例がありましたら、その旨お知らせ下さい。途中までは探していたのですが、へこたれました。申し訳ありません。

+++++
mwakahara <wakahara@xxxxxxxxxxxxx>

Index Home