[[20150304153221]] 『小数点の切り捨てについて』(ほし) ページの最後に飛ぶ

[ 初めての方へ | 一覧(最新更新順) | 全文検索 | 過去ログ ]

 

『小数点の切り捨てについて』(ほし)

 小数点を切り捨てようと思い、 ROUNDDOWN(1510/6*21*2,0) 

 という関数を入力したところ

 10570 という答えが出ます。 電卓で計算すると 10569.999999999

 になるのですが、エクセルでは出ません(T_T)

 この数値を小数点を切り捨てて

 10569 にするにはどうしたらよいのでしょうか?

 どうかよろしくお願いします。(ほし)

< 使用 Excel:Excel2010、使用 OS:Windows7 >


 int関数を使ってください。
(稲葉) 2015/03/04(水) 15:50

 あれよくみたらROUNDDOWN
 計算してみたら普通に計算しても10570になる
 少数誤差かな?

 というわけで↑の間違いです。
 取り消してください。

(稲葉) 2015/03/04(水) 15:54


windowsの電卓でも、10570ですが…。

違いが出そうなのは、1510/6の結果が251.66666666666666…なところ。
なので、あえて誤差を大きくして不正確な答えを得たいならば、=INT(INT(1510*1000/6)*21*2/1000) とか。
(???) 2015/03/04(水) 15:56


 通常の電卓では小数点以下をある桁で切り捨てている。

 そのため本来の正しい値と異なってくる。

 1510/6*21*2→1510/6*42→1510*42/6→1510*7→10570

 電卓と同じに出したければ1510/6の段階で小数点以下9桁程度で切り下げてはどうか
(ねむねむ) 2015/03/04(水) 16:03

 どっちゃが正解かはおいといて、
 まぁ、いつものごとく永遠のテーマですな。 Excel vs 電卓
http://detail.chiebukuro.yahoo.co.jp/qa/question_detail/q1413428394

 Excel使うなら「Excelの結果を正にする」と決める。
 電卓優先なら「電卓を正にする」を徹底するしかないかもね。
(GobGob) 2015/03/04(水) 16:07

 かぶりまくったけど、一応。

 電卓にも有効桁数があって、それ以上の数値は切捨てされてるらしい。
 手元の電卓で1510/6*21*2をやってみたけど、結果は10570になったよ。
 ほしさんの手元の電卓の有効桁数を確認した方がいいね。
 他の人の電卓と有効桁数が違うと、結果が違うといわれるよ。

(1111) 2015/03/04(水) 16:08


 皆様ありがとうございます<(_ _)>

 電卓の桁数は12桁です(汗) 私の電卓がおかしいのでしょうか?

 これまで電卓の方が正しいと勝手に思い込んでおりましたが、そうではないのですね(汗)

 最終的には、 10570 が正解ということになるのでしょうか? 何度もすみません(ほし)
(ほし) 2015/03/04(水) 16:26

 GobGobさん。見てみました。難しい問題なのですね。。。

 正解をどちらにしたらいいのか悩みます。。。

 皆様、ありがとうございました<(_ _)>(ほし)
(ほし) 2015/03/04(水) 16:33

 今回の場合は1510*21*2/6と順番を変えて(この場合結果は変わらない)掛け算を先にすることで正しい答えになる。
(ねむねむ) 2015/03/04(水) 16:35

完全に被ったけど、今回の場合、21*2/6 = 42/6 = 7 と、きっちり割り切れるので、1510*7 = 10570 が正解でしょうね。

誤差を減らす工夫としては、かけ算するものを先に全て計算し、後から割り算を実行するという方法もあります。
これなら、お手持ちの電卓でも、同じ結果になったはず。
(???) 2015/03/04(水) 16:38


 皆様ありがとうございました。とてもスッキリ致しました<(_ _)>

 また何かありましたらどうぞよろしくお願いします<(_ _)>(ほし)
(ほし) 2015/03/04(水) 16:42

コメント返信:

[ 一覧(最新更新順) ]


YukiWiki 1.6.7 Copyright (C) 2000,2001 by Hiroshi Yuki. Modified by kazu.