[[20030102213851]] 『ROUNDUPが0.30になりません』(東北トミ−) ページの最後に飛ぶ

[ 初めての方へ | 一覧(最新更新順) | 全文検索 | 過去ログ ]

 

『ROUNDUPが0.30になりません』(東北トミ−)

マイクロソフト関数で、ROUNDUP(25.3-25.0,2)と計算式を入力すると、

計算結果が、0.31となり計算結果が正解値0.30とことなります。

どうすれば、よいのでしょうか。


 A列に連番、B1に =ROUNDUP(MOD(A1,1),2)の式を入力、C1に =MOD($A1,1)で小数16桁表示

 A B C

25.1 0.11000 0.1000000000000010

25.2 0.20000 0.1999999999999990

25.3 0.31000 0.3000000000000010

25.4 0.40000 0.3999999999999990

25.5 0.50000 0.5000000000000000

25.6 0.61000 0.6000000000000010

25.7 0.70000 0.6999999999999990

25.8 0.81000 0.8000000000000010

25.9 0.90000 0.8999999999999990

26 0.00000 0.0000000000000000

26.5 0.50000 0.5000000000000000

26.6 0.61000 0.6000000000000010

26.7 0.70000 0.6999999999999990

26.8 0.81000 0.8000000000000010

26.9 0.90000 0.8999999999999990

27 0.00000 0.0000000000000000

EXCELでは小数計算をすると、二進数のまるめ誤差が生じるようです。

MOD関数、ROUNDUP関数、ROUNDDOWN関数で正しい値は期待できませんが、ROUND関数で求めれば

期待する値になります。

 (シニア)


本年もよろしくお願いします。こちらは、雪です。現在-5℃。

ROUNDUP((ROUNDOWN(A1,1000),100)と邪道な手段も使えば、幅がでました。

(東北トミ−)


コメント返信:

[ 一覧(最新更新順) ]


YukiWiki 1.6.7 Copyright (C) 2000,2001 by Hiroshi Yuki. Modified by kazu.