[ 初めての方へ | 一覧(最新更新順) | 全文検索 | 過去ログ ]
『ROUNDUPが0.30になりません』(東北トミ−)
マイクロソフト関数で、ROUNDUP(25.3-25.0,2)と計算式を入力すると、
計算結果が、0.31となり計算結果が正解値0.30とことなります。
どうすれば、よいのでしょうか。
A列に連番、B1に =ROUNDUP(MOD(A1,1),2)の式を入力、C1に =MOD($A1,1)で小数16桁表示
A B C
25.1 0.11000 0.1000000000000010
25.2 0.20000 0.1999999999999990
25.3 0.31000 0.3000000000000010
25.4 0.40000 0.3999999999999990
25.5 0.50000 0.5000000000000000
25.6 0.61000 0.6000000000000010
25.7 0.70000 0.6999999999999990
25.8 0.81000 0.8000000000000010
25.9 0.90000 0.8999999999999990
26 0.00000 0.0000000000000000
26.5 0.50000 0.5000000000000000
26.6 0.61000 0.6000000000000010
26.7 0.70000 0.6999999999999990
26.8 0.81000 0.8000000000000010
26.9 0.90000 0.8999999999999990
27 0.00000 0.0000000000000000
EXCELでは小数計算をすると、二進数のまるめ誤差が生じるようです。
MOD関数、ROUNDUP関数、ROUNDDOWN関数で正しい値は期待できませんが、ROUND関数で求めれば
期待する値になります。
(シニア)
本年もよろしくお願いします。こちらは、雪です。現在-5℃。
ROUNDUP((ROUNDOWN(A1,1000),100)と邪道な手段も使えば、幅がでました。
(東北トミ−)
[ 一覧(最新更新順) ]
YukiWiki 1.6.7 Copyright (C) 2000,2001 by Hiroshi Yuki.
Modified by kazu.