[[20100722102102]] 『計算結果の端数処理?』(今頃気付いた) ページの最後に飛ぶ

[ 初めての方へ | 一覧(最新更新順) | 全文検索 | 過去ログ ]

 

『計算結果の端数処理?』(今頃気付いた)
Excel2007,WindowsXP

単純な計算で
=139,574,000/24*12
をExcelで計算させると
69,787,000.00000000
となるのですが、電卓で計算すると
69,787,999.99999996
となります。

これを電卓に合わせたいのですが、なにかいい方法はありませんか?
過去ログを見たのですがわかりませんでした。
よろしくお願いします。


 回答ではないのですが、「四捨五入しない」で全文検索していたら
 下記コメントがありました。

 >エクセルが持っている少数誤差の所為かもしれません。
 >以下が参考になります。
http://pc21.nikkeibp.co.jp/special/gosa/eg1.shtml
 > (川野鮎太郎)

(こだぬき)


 誤差というよりは、0.9999999・・・ = 1 という数学的な問題だと思いますが。
 すなわち、計算結果としては合っている。としか思えません。
 最後が6になっている電卓のほうが怪しいかも?
 (momo)

 /24*12 は、/2 と同じですから (数学的には) 69,787,000 が正しい答えです。

 電卓で、1÷3×3= と押してみて下さい。0.999・・となって、1 にならないでしょう?
 電卓は、計算途中を表示する際に桁数限度によって切捨て表示になるため、
 こういった現象が起こります。

 電卓に合わせる必要はないと思いますけどね。
 
(純丸)(o^-')b

 なら139,574,000*12を先にすればいいじゃない

皆さん、ご返答ありがとうございます。

確かに数学的には(純丸)さんのおっしゃるとおりですよね。

計算途中で少数を切り捨てるからおかしくなるのですよね。

(こだぬき)さん

恥ずかしながら初めて知りました。勉強になりました。ありがとうございました。

(今頃気付いた)


コメント返信:

[ 一覧(最新更新順) ]


YukiWiki 1.6.7 Copyright (C) 2000,2001 by Hiroshi Yuki. Modified by kazu.