[[20220619023809]] 『整数と整数の引算なのに小数になってしまう』(まこと) ページの最後に飛ぶ

[ 初めての方へ | 一覧(最新更新順) | 全文検索 | 過去ログ ]

 

『整数と整数の引算なのに小数になってしまう』(まこと)

はじめて質問します。

時々起こる現象なのですが、例えばA1セルに5、A2に1と入力されていて、A3にA1-A2を計算させる関数を組むと表面上は4と出てくるのですが、小数点以下の表示桁数を増やすと第8位くらいで0以外の数値が出てきてしまうのはなぜでしょうか?

< 使用 Excel:Excel2016、使用 OS:Windows10 >


入力した整数と整数の引き算でそういうことが起きるとは思えませんが、
再現できる状況を説明して下さい。

Excelの演算誤差については、少し古い記事ですが、定番の記事があります。

ただし、元のサイトが閉鎖になってしまいました。
しかし、
https://qiita.com/Q11Q/items/84b380b20ef51eca929c
にあるWeb Archiveのリンクを覗くと、閲覧が可能です。

仕組みが詳しく書かれていますが、それは"そこそこ"にして、
回避策に重点を置いて、読まれてはいかがですか?
参考になると思います。

(γ) 2022/06/19(日) 06:28


>A1-A2を計算させる関数を組むと
その関数とは?
(分からん) 2022/06/19(日) 08:33

 >例えばA1セルに5、A2に1と入力されていて、

 「されていて」と言うことは、自分で入力したのではなく、
  単にそう見えているデータであり、整数である保証はありません。

(半平太) 2022/06/19(日) 12:13


(Y様)
私の例えが間違えていました。

お教えいただいた記事の通り、整数ではなく小数同士の引き算で発生する誤差でした。

参考にさせていただきます。

ご回答ありがとうございました。

(分からん様)
一般的な「=A1-A2」の関数です。

私の例が間違っていました。整数ではなく小数同士の引き算で発生する誤差でした。

ご回答ありがとうございました。

(半平太様)
A1、A2どちらも自分で入力した丸められていない数値です。

私の例が間違っていました。整数ではなく小数同士の引き算で発生する誤差でした。

ご回答ありがとうございました。
(まこと) 2022/06/21(火) 02:11


コメント返信:

[ 一覧(最新更新順) ]


YukiWiki 1.6.7 Copyright (C) 2000,2001 by Hiroshi Yuki. Modified by kazu.