|
|
mwakahara さん、こんにちは。
Thu, 4 Nov 1999 15:13:43 +0900 の
“[xyzzy:03439] 質問”
への返事です.
| 操作が間違っていますでしょうか?
や、あってます。
| それとも、電卓ソフトというわけではないので、こんなものなのでしょうか?
浮動小数点の仕組み上、誤差が出るのは仕方ありません。
が、なんとなく有効桁数の扱いを間違えているような気が
するようなしないような。
--
亀井哲弥(Tetsuya Kamei)
kamei@xxxxxxxxxxxx/JCA00343@xxxxxxxxxxx