[ 初めての方へ | 一覧(最新更新順) | 全文検索 | 過去ログ ]
『整数と整数の引算なのに小数になってしまう』(まこと)
はじめて質問します。
時々起こる現象なのですが、例えばA1セルに5、A2に1と入力されていて、A3にA1-A2を計算させる関数を組むと表面上は4と出てくるのですが、小数点以下の表示桁数を増やすと第8位くらいで0以外の数値が出てきてしまうのはなぜでしょうか?
< 使用 Excel:Excel2016、使用 OS:Windows10 >
Excelの演算誤差については、少し古い記事ですが、定番の記事があります。
ただし、元のサイトが閉鎖になってしまいました。
しかし、
https://qiita.com/Q11Q/items/84b380b20ef51eca929c
にあるWeb Archiveのリンクを覗くと、閲覧が可能です。
仕組みが詳しく書かれていますが、それは"そこそこ"にして、
回避策に重点を置いて、読まれてはいかがですか?
参考になると思います。
(γ) 2022/06/19(日) 06:28
>例えばA1セルに5、A2に1と入力されていて、
「されていて」と言うことは、自分で入力したのではなく、 単にそう見えているデータであり、整数である保証はありません。
(半平太) 2022/06/19(日) 12:13
お教えいただいた記事の通り、整数ではなく小数同士の引き算で発生する誤差でした。
参考にさせていただきます。
ご回答ありがとうございました。
(分からん様)
一般的な「=A1-A2」の関数です。
私の例が間違っていました。整数ではなく小数同士の引き算で発生する誤差でした。
ご回答ありがとうございました。
(半平太様)
A1、A2どちらも自分で入力した丸められていない数値です。
私の例が間違っていました。整数ではなく小数同士の引き算で発生する誤差でした。
ご回答ありがとうございました。
(まこと) 2022/06/21(火) 02:11
[ 一覧(最新更新順) ]
YukiWiki 1.6.7 Copyright (C) 2000,2001 by Hiroshi Yuki.
Modified by kazu.