[ 初めての方へ | 一覧(最新更新順) | 全文検索 | 過去ログ ]
『計算結果の端数処理?』(今頃気付いた)
単純な計算で
=139,574,000/24*12
をExcelで計算させると
69,787,000.00000000
となるのですが、電卓で計算すると
69,787,999.99999996
となります。
これを電卓に合わせたいのですが、なにかいい方法はありませんか?
過去ログを見たのですがわかりませんでした。
よろしくお願いします。
回答ではないのですが、「四捨五入しない」で全文検索していたら 下記コメントがありました。
>エクセルが持っている少数誤差の所為かもしれません。 >以下が参考になります。 http://pc21.nikkeibp.co.jp/special/gosa/eg1.shtml > (川野鮎太郎)
(こだぬき)
誤差というよりは、0.9999999・・・ = 1 という数学的な問題だと思いますが。 すなわち、計算結果としては合っている。としか思えません。 最後が6になっている電卓のほうが怪しいかも? (momo)
/24*12 は、/2 と同じですから (数学的には) 69,787,000 が正しい答えです。
電卓で、1÷3×3= と押してみて下さい。0.999・・となって、1 にならないでしょう? 電卓は、計算途中を表示する際に桁数限度によって切捨て表示になるため、 こういった現象が起こります。
電卓に合わせる必要はないと思いますけどね。 (純丸)(o^-')b
なら139,574,000*12を先にすればいいじゃない
確かに数学的には(純丸)さんのおっしゃるとおりですよね。
計算途中で少数を切り捨てるからおかしくなるのですよね。
(こだぬき)さん
恥ずかしながら初めて知りました。勉強になりました。ありがとうございました。
(今頃気付いた)
[ 一覧(最新更新順) ]
YukiWiki 1.6.7 Copyright (C) 2000,2001 by Hiroshi Yuki.
Modified by kazu.