[[20101206143437]]　『計算が合わない』（ゆー）　ページの最後に飛ぶ

『計算が合わない』（ゆー）

なぜか、エクセルで計算が合わないです。
計算式で、364.03の数字が入ったセルと43,870.1755の数字が入ったセルを掛けた結果が15,970,060で、この15,970,060×70÷100（ROUNDDOWNを使っています)をすると、結果が11,179,041になります。
が、電卓で何度たたいても、結果が11,179,042になるのですが…
どうして違う数字になってしまうのでしょうか？
計算式は仕事上の関係で変えることができません。
どうにかこの計算式のままで、結果を11,179,042にしたいのですが…
どうすればいいでしょうか？

 11,179,041.99　がEXCELでも電卓でも解答として出てきます。
 RoundDownをしているのなら当然11,179,041になりますよね。
 電卓がRoundしてるのでは？

 11,179,041.99　を　11,179,042　にしたければRoundUpかRoundを使うしかないと思いますけど。

 （ｍｏｍｏ）

 ＃ぶつかりましたが、アップします。

 >セルを掛けた結果が15,970,060で
 ここが誤っていますね。

 数値をかけた結果は、わずかですが 1597060 に届いていません。
 （15970059.987265 です。）
 これが電卓で 15970060 となっているのであれば、それは電卓の精度が低いためです。
 （電卓は8桁ではないですか？）

 しかもROUNDDOWN を使用しているのであれば、現在の計算結果は正しいもので、
 計算結果を変えたいのであれば、計算式を変えるしかないかと思いますが、正しいのはEXCELの
 方だと思います。
 (Mook)

momo様へ

解答ありがとうございます。

電卓で、小数点以下が出ないように設定をして364.03×43,870.1755＝15,970,060、15,970,060×70÷100＝11,179,042になります。

エクセルを一度新規で立ち上げ、A1に364.03、B1に43870.1755、C1に=A1*B1[15,970,060と表示されます]、D1に70、E1に=ROUNDDOWN(C1*D1/100,0)[11,179,041と表示されます]となります。

が、C1に15,970,060と手で入力し、E2に=ROUNDDOWN(C2*D1/100,0)と入力すると11,179,042という結果が出てきます。

これは、どういう違いなのかが私には分からなくて…（馬鹿ですみません)
よければお教えいただけないでしょうか？

(ゆー)

Mook様へ

解答ありがとうございます。

電卓は12桁で、設定を小数点以下を出ないように設定して計算しています(汗)

先ほどmomo様への返事に書いたような現象がエクセルで起こってるのですが…

これは何故なのでしょうか…？

上司に聞かれていて、なんと説明していいかわからなくて困っています…

本当馬鹿ですみません！

よければお願い致します！

（ゆー)

 >A1に364.03、B1に43870.1755、C1に=A1*B1[15,970,060と表示されます]
 は、表示設定が整数になっているのではないでしょうか。

 電卓はいったん計算してしまうと、（多分）誤差を丸めた上で計算をしますが、
 EXCEL では表示上は整数となっていても、実際に保持している数値（小数を含めて）
 を使用して次のを計算し、結果を都度 表示形式にあわせて表示します。

 電卓が整数となっているのであれば、小数表示も可能でしょうか。
 であれば、表示を変更して計算してどうなるでしょうか。

 EXCEL は
　　　セルの書式設定 ⇒ 「表示形式」タブ ⇒ 数値 ⇒ 小数以下の桁数
 を 5 程度に設定してみてください。

 小数を含めて計算すれば、両者は一致すると思います。
 (Mook)

Mook様へ

やっと理解できました！
どうやら、セルが狭いので、勝手に四捨五入して表示していたみたいです…
色々とご迷惑をお掛けいたしました！
本当ありがとうございます！
上司への説明も理解してもらえたので、本当に助かりました、すみませんでした！

 解決したようで何よりです。

 精度の問題は取り扱いが難しい部分ですので、「どうしたい」かという仕様を明確にして
 式の運用をされると良いかと思います。

 蛇足ですが、謙遜とは思いますが、あまりご自身を卑下なさらないでください。
 質問内容も必要な情報が最初にきちんと記載されていましたので、回答も余計な確認をせずに
 することができました。
 こちらの説明内容もちゃんと伝わりましたし、数回のやり取りで解決したのですから、質問者と
 しては優秀な方だと思いますよ。
 (Mook)

コメント返信：

[ 一覧(最新更新順) ]

[[20101206143437]] 『計算が合わない』（ゆー） ページの最後に飛ぶ

[[20101206143437]]　『計算が合わない』（ゆー）　ページの最後に飛ぶ