岡本@日本女子大です。
以前に話題になったPentiumのコプロセッサの計算精度を
確かめていて、困ったことが出てきました。
Windows98において起動したDelphi3でExtended型の計算精度を
確認すると19桁以上ありました。しかし、Windows2000において
起動したDelphi5あるいはDelphi6のVCLアプリケーションの場合
15桁ぐらいしかありません。同じWindows2000において起動した
Delphi6であっても、CLXアプリケーション(Linux版Delphiである
Kylixと共通のアプリケーションのタイプ)のときは19桁以上の
計算精度が確認できました。
精度の確認は次のようなコードで簡単にできます。
procedure TForm1.Button1Click(Sender: TObject);
var a, b : extended;
step : Longint;
begin
b:=1.0;
step:=0;
repeat
b:=b*0.1;
a:=1.0+b;
step:=step+1;
until a = 1.0;
Label1.Caption:='step = '+IntToStr(step);
end;
日本女子大学心理学科
岡本安晴
ここは心理学研究の基礎メーリングリストに投稿された過去の記事を掲載しているページです。