[[20090706235310]]　『FREQUENCYの統計がずれて上手く計算されない』（がもん）　ページの最後に飛ぶ

『FREQUENCYの統計がずれて上手く計算されない』（がもん）

[エクセルのバージョン]Excel2002

[OSのバージョン]Windows2000,

はじめして質問させていただきます。
どうしても分からず、投稿させていただきました。
ご指導をお願いします。

目的はヒストグラムを作るため分布度数をFREQUENCY関数を用いて、
区分幅(B1)と区分の最小値(B4)を入力して、それに対応して
計算させます。
しかし、測定データに小数を用いると統計がずれる場合があり、
その原因が分かりません。

例として

A4以下：B4～B18の数字を”値のみコピー”(今回の不明点が分かりやすいための処置です)

B1 ：区分幅の入力箇所(例 0.001)

B4以下：B4は数字入力。B5以下は、上の数字＋B$1

C4以下：｛=FREQUENCY(A6:A18,B6:B18)｝

本来はC9,C10,C14,C15が1のはずが、ずれてしまいます。

 	A	B	C
1	区分幅→0.001	
2			
3	データ	区分	
4	32.1	32.1	1
5	32.101	32.101	1
6	32.102	32.102	1
7	32.103	32.103	1
8	32.104	32.104	1
9	32.105	32.105	0
10	32.106	32.106	2
11	32.107	32.107	1
12	32.108	32.108	1
13	32.109	32.109	1
14	32.11	32.11	0
15	32.111	32.111	2
16	32.112	32.112	1
17	32.113	32.113	1
18	32.114	32.114	1

改善策として

1) B列を計算式でなく、値のみ貼り付け直す(これは自動計算の点から不便になります)。

2) 区分幅に区分では繰り上がりが問題とならない極小さい値を加えた値を用いる(例 0.00100001)。

以上、わかりずらいところがありますが、よろしくお願いします。

 原因は演算誤差だと思います。

 現在のB5の数式は
 =B4+$B$1 でしょうか？

 たとえばB5の数式を
 =TEXT(B4+$B$1,"0.000")*1

 とする方法があります。

 （ていおう）2009/7/7 0:56

 現在のB5の数式は
 =B4+B$1 です。

例の通りに変更したら、無事に直りました。

演算誤差について調べてみたら、
エクセルは小数の計算が苦手と言うことを初めて知りました。
もう少し勉強してみます。

迅速な回答をしていただき、ありがとうございました。

コメント返信：

[ 一覧(最新更新順) ]

[[20090706235310]] 『FREQUENCYの統計がずれて上手く計算されない』（がもん） ページの最後に飛ぶ

[[20090706235310]]　『FREQUENCYの統計がずれて上手く計算されない』（がもん）　ページの最後に飛ぶ