[Date Prev] [Date Index] [Date Next]
[Thread Prev] [Thread Index] [Thread Next]

[xyzzy:03440] Re: 質問



mwakahara さん、こんにちは。

    Thu, 4 Nov 1999 15:13:43 +0900 の
   “[xyzzy:03439] 質問”
    への返事です.

| 操作が間違っていますでしょうか?

や、あってます。

| それとも、電卓ソフトというわけではないので、こんなものなのでしょうか?

浮動小数点の仕組み上、誤差が出るのは仕方ありません。
が、なんとなく有効桁数の扱いを間違えているような気が
するようなしないような。

--
亀井哲弥(Tetsuya Kamei)
kamei@xxxxxxxxxxxx/JCA00343@xxxxxxxxxxx

Index Home