[ 初めての方へ | 一覧(最新更新順) | 全文検索 | 過去ログ ]
『小数点の切り捨てについて』(ほし)
小数点を切り捨てようと思い、 ROUNDDOWN(1510/6*21*2,0)
という関数を入力したところ
10570 という答えが出ます。 電卓で計算すると 10569.999999999
になるのですが、エクセルでは出ません(T_T)
この数値を小数点を切り捨てて
10569 にするにはどうしたらよいのでしょうか?
どうかよろしくお願いします。(ほし)
< 使用 Excel:Excel2010、使用 OS:Windows7 >
int関数を使ってください。 (稲葉) 2015/03/04(水) 15:50
あれよくみたらROUNDDOWN 計算してみたら普通に計算しても10570になる 少数誤差かな?
というわけで↑の間違いです。 取り消してください。
(稲葉) 2015/03/04(水) 15:54
違いが出そうなのは、1510/6の結果が251.66666666666666…なところ。
なので、あえて誤差を大きくして不正確な答えを得たいならば、=INT(INT(1510*1000/6)*21*2/1000) とか。
(???) 2015/03/04(水) 15:56
通常の電卓では小数点以下をある桁で切り捨てている。
そのため本来の正しい値と異なってくる。
1510/6*21*2→1510/6*42→1510*42/6→1510*7→10570
電卓と同じに出したければ1510/6の段階で小数点以下9桁程度で切り下げてはどうか (ねむねむ) 2015/03/04(水) 16:03
どっちゃが正解かはおいといて、 まぁ、いつものごとく永遠のテーマですな。 Excel vs 電卓 http://detail.chiebukuro.yahoo.co.jp/qa/question_detail/q1413428394
Excel使うなら「Excelの結果を正にする」と決める。 電卓優先なら「電卓を正にする」を徹底するしかないかもね。 (GobGob) 2015/03/04(水) 16:07
かぶりまくったけど、一応。
電卓にも有効桁数があって、それ以上の数値は切捨てされてるらしい。 手元の電卓で1510/6*21*2をやってみたけど、結果は10570になったよ。 ほしさんの手元の電卓の有効桁数を確認した方がいいね。 他の人の電卓と有効桁数が違うと、結果が違うといわれるよ。
(1111) 2015/03/04(水) 16:08
皆様ありがとうございます<(_ _)>
電卓の桁数は12桁です(汗) 私の電卓がおかしいのでしょうか?
これまで電卓の方が正しいと勝手に思い込んでおりましたが、そうではないのですね(汗)
最終的には、 10570 が正解ということになるのでしょうか? 何度もすみません(ほし) (ほし) 2015/03/04(水) 16:26
GobGobさん。見てみました。難しい問題なのですね。。。
正解をどちらにしたらいいのか悩みます。。。
皆様、ありがとうございました<(_ _)>(ほし) (ほし) 2015/03/04(水) 16:33
今回の場合は1510*21*2/6と順番を変えて(この場合結果は変わらない)掛け算を先にすることで正しい答えになる。 (ねむねむ) 2015/03/04(水) 16:35
誤差を減らす工夫としては、かけ算するものを先に全て計算し、後から割り算を実行するという方法もあります。
これなら、お手持ちの電卓でも、同じ結果になったはず。
(???) 2015/03/04(水) 16:38
皆様ありがとうございました。とてもスッキリ致しました<(_ _)>
また何かありましたらどうぞよろしくお願いします<(_ _)>(ほし) (ほし) 2015/03/04(水) 16:42
[ 一覧(最新更新順) ]
YukiWiki 1.6.7 Copyright (C) 2000,2001 by Hiroshi Yuki.
Modified by kazu.