[xyzzy:03439] 質問
- Subject: [xyzzy:03439] 質問
- From: mwakahara <wakahara@xxxxxxxxxxxxx>
- X-mailer: Denshin 8 Go V321.2b5
みなさん、こんにちは。
scratch bufferでの計算機能は大変便利なのですが、ちょっと気づいたことがありまして、お聞きしたく思います。
(- 1.00 0.90)
0.1
(- 0.10 0.09)
0.009999998
(- 0.01 0.009)
0.001
3番めができて、2番めができないというところが不思議なんですが。
また、値が小さいとおかしくなるというわけでもなさそうです。
(- 1.00 0.99)
0.00999999
(- 0.01 0.005)
0.005
操作が間違っていますでしょうか?
それとも、電卓ソフトというわけではないので、こんなものなのでしょうか?
教えてください。
#過去ログに類似事例がありましたら、その旨お知らせ下さい。途中までは探していたのですが、へこたれました。申し訳ありません。
+++++
mwakahara <wakahara@xxxxxxxxxxxxx>