[[20050722100832]]　『小数点以下の表示』（らん）　ページの最後に飛ぶ

『小数点以下の表示』（らん）

Excelで「10.9999999・・・」と数字を入力すると「11」として表示されてしまいます。
桁上げの表示で何桁か上げると「11.00」と数字が変わってしまい、計算をすると
結果、違った数字にがでてしまいます。
正しい数字を元に計算したいのですが、どうしたらできるのでしょうか？
設定なのでしょうか？関数を使用したらいいのでしょうか？
教えてください。

 >正しい数字を元に計算したいのですが
 表示桁数で四捨五入されて表示されているだけで、計算には「正しい」数字が使われている
 と思うのですが・・・結果が期待したものと違うのでしょうか?
 「10.9999999・・・」という「正しい」数字を元にどのような計算をして、
 どのような結果を得ようとされているのでしょうか?
　　(Hatch)

早速の回答ありがとうございます。
確かに「正しい数字」ではあるのですが、一度変わってしまうとワークシート上に表示された「11」となってしまった数字を対象に計算してしまうのです。ほんとは「10.999・・」という数字を元に計算したいのですができず、結果、違った結果が出てしまい困ってます。
どうしたらいいのでしょうか？

 先にHatchさんが書いておられますように、
 どのような計算をされているのかお示しいただいたほうがいいですよ。
 例えば、10.999999×10で、109.9999 とならない・・のように具体的に。

 なお、小数点以下の計算は演算誤差の可能性があります。
http://pc21.nikkeibp.co.jp/special/gosa/
 こちらをご参考にされるとよろしいかと思います。
 (sato)

そうですね。具体的な数字は「166,400/75*52.5」と計算したいのですが、結果「116,480」と出てしまいます。でも、電卓を使って計算すると「116,479.999・・」なのです。
その数字を使い計算したくても「116,480」しか表示せず、桁表示を変えても「116,480.000・・」と表示してしまうのです。
まだまだ、「116,479」を使用して計算したいのですが、1違うことで後々の結果にも影響してしまいます。
どうしたら正しい数字を元に計算することができるのでしょうか？？教えてください。

電卓を使って計算するととありますが，電卓はラウンドセレクターの設定などによっては
表示が異ります。Ｆに設定してあるのかな？だったら，EXCELも
F表示のように，rounddownとしたらどうでしょうか。有効桁数を
いくつとして，四捨五入，切捨て，切り上げなどの条件をつければ
お望みの結果を導くことができるのではないかしら。　　(...)

 >「166,400/75*52.5」と計算したいのですが、結果「116,480」と出てしまいます。
 >でも、電卓を使って計算すると「116,479.999・・」なのです。
 電卓を過信されているようですね。手で分数計算してみてください。
 厳密解は、116,480です。
 (ちゅうねん)

 衝突しました。同じことですが、衝突前のものをそのまま記載します。

 166400/75 は 2218.6666666666・・・・と割り切れない数ですので、
 何を持って「正しい数字」としたいのかは自分で決める必要があります。
 エクセルでは、一応 2218.6666666666700　として計算しているようです。
 (これとて誤差がありますので正確ではないでしょうが)

 電卓では 166400/75=2218.66666666 (最終桁以降切捨て)として計算しますので、
 当然、エクセルでの計算結果とは誤差が出ます。
 電卓でも 2218.66666667×52.5 と入力すると 116800 となります。

 >「116,479」を使用して計算したいのですが
 最終的に小数点以下を切り捨てて使用したいということであれば、

 =ROUNDDOWN(ROUNDDOWN(166400/75,3)*52.5,0)

 のように適当な桁数で切捨てをしながら計算する必要があります。

 ・・・と書いてきましたが、
 よく考えると、166400/75*52.5 の、本当の「正しい数字」は、116800ですね。
 166400*52.5/75 とすると、116800 となります。
 エクセルは途中では誤差を出しながら(?)、最終的には正しい答えを出してくれたようです。
 (sato)

ありがとうございました（*^_^*）
ROUNDDOWNの中にROUNDDOWNとは・・すごいです！！
ほしかった数字が出ました。
また、わからないことがあった時は是非教えてください。

コメント返信：

[ 一覧(最新更新順) ]

[[20050722100832]] 『小数点以下の表示』（らん） ページの最後に飛ぶ

[[20050722100832]]　『小数点以下の表示』（らん）　ページの最後に飛ぶ