advanced help
per page, with , order by , clip by
Results of 1 - 1 of about 33508 for 関数 (0.006 sec.)
[[20220207091657]]
#score: 2647
@digest: 6bcda6289ff0ea29f6d9b1a2f627cb57
@id: 90382
@mdate: 2022-02-07T02:29:13Z
@size: 1855
@type: text/plain
#keywords: ケポ (13442), 点演 (11604), 通理 (7055), やma (5899), タケ (5841), 様次 (5655), 浮動 (5380), 動小 (5244), 細部 (5201), ル利 (4759), 理式 (3941), 式上 (3648), 算値 (2955), 算誤 (2874), 論理 (2457), 問2 (2217), 問1 (2065), >質 (1897), 学的 (1875), 安全 (1814), 丸め (1786), ポン (1666), 小数 (1654), 誤差 (1625), の論 (1465), 数や (1461), 一致 (1385), 演算 (1352), 関数 (1169), 数点 (1109), vlookup (1090), 矛盾 (937)
『VLOOKUP関数 MATCH関数について』(タケポン)
VLOOKUP関数、MATCH関数の検索について =3*0.3の値をVLOOKUP関数やMATCH関数で検索しても0.9に一致しません。ROUND関数を使って3*0.3の値を丸めると一致します。このことから0.3*3の値は浮動小数点演算誤差が生じているのかと考えたのですが、=3*0.3=0.9の論理式はtrueを返します。因みに=3*0.2ではこの問題は生じません 質問1 論理式上では一致する値がVLOOKUP 関数やMATCH関数では一致しないのはなぜでしょうか 質問2 VLOOKUP関数やMATCH関数で計算値を検索する場合、安全のためにROUND関数を使って丸めないといけないのでしょうか < 使用 Excel:Excel2003、使用 OS:Windows10 > ---- >このことから0.3*3の値は浮動小数点演算誤差が生じているのかと考えたのですが、 正しい。 >=3*0.3=0.9の論理式はtrueを返します。 イコールの判定をどこまで細部を比較して行うかはマイクロソフトの仕様次第です。 =3*0.3=0.9 これはTrueだが =3*0.3-0.9=0 これはFalse。数学的には矛盾するが、0と比較するときは特別らしい。 >質問1 論理式上では一致する値がVLOOKUP 関数やMATCH関数では一致しないのはなぜでしょうか 関数の仕様が、細部まで完全一致しないと合致とは看做さないものである、と理解するしかないです。 >質問2 VLOOKUP関数やMATCH関数で計算値を検索する場合、安全のためにROUND関数を使って丸めないといけないのでしょうか うーん、ちょっと回答しにくい質問ですね。今回のケースではYESと言うしかないです。 一般的には、小数値を計算して、大小比較するときは、常に小数演算誤差を念頭に入れて対処する必要がある、と言うことです。 (半平太) 2022/02/07(月) 10:10 ---- ありがとうございました。自分でも予想していた回答で納得できました。小数点を含む計算をVLOOKUP関数やMATCH関数で検索するときはROUND関数で丸めなければ間違う場合もあるというのは、エクセル利用者に共通理解として広まっているとは思えません。MICROSOFTもその点はしっかり情報を広めてほしいものです。回答ありがとうございました。 (タケポン) 2022/02/07(月) 11:29 ...
http://www.excel.studio-kazu.jp/wiki/kazuwiki/202202/20220207091657.txt - [detail] - similar
PREV NEXT
Powered by Hyper Estraier 1.4.13, with 97035 documents and 608021 words.

訪問者:カウンタValid HTML 4.01 Transitional