[[20190702193510]]　『行列の積』（アンディP）　ページの最後に飛ぶ

『行列の積』（アンディP）

行列の積を計算したら、

3.5E-16（不正確です）みたいな表示が出ました。

調べましたら、「桁数が大きいための指数表示」という説明がありましたが、
桁数が大きくなる理由が分かりません。

たとえば、正則行列と逆行列の積の結果の単位行列で、１以外の０のところに出たります。

小さい有理数の、掛け算と足し算の結果で、桁数が多くなるはずはないのですが、エクセルでは、何か、違う方法で積を計算しているのでしょうか。

ご教示いただければ、幸いです。
よろしくお願いいたします。

なお、バージョンは、良く分かりません。
最新のものではないと思います。

＜使用 Excel：unknown、使用 OS：WindowsXP ＞

 ＞3.5E-16

 3.5*0.1＾16　つまり 0.00000000000000035 と同じものです。

 それを「桁数が大きいための指数表示」と言っていいかどうか分かりませんが
 兎に角、そう言う凄く小さい値です。

 ＞小さい有理数の、掛け算と足し算の結果で、桁数が多くなるはずはないのですが、

 限りなく0に近いものですが、きっちり0じゃなければ納得できない、と言うことなんですか？

 それなら、小数演算誤差が絡んでいるかも知れません。
 エクセルは小数を演算すると有効桁数の関係でそんな誤差が生まれます。

 ネットで調べてみてください。

（半平太） 2019/07/02(火) 20:16

コメント返信：