[fpr 2063] VCLアプリケーションにおける計算精度

岡本安晴


 岡本@日本女子大です。

 以前に話題になったPentiumのコプロセッサの計算精度を
確かめていて、困ったことが出てきました。

 Windows98において起動したDelphi3でExtended型の計算精度を
確認すると19桁以上ありました。しかし、Windows2000において
起動したDelphi5あるいはDelphi6のVCLアプリケーションの場合
15桁ぐらいしかありません。同じWindows2000において起動した
Delphi6であっても、CLXアプリケーション(Linux版Delphiである
Kylixと共通のアプリケーションのタイプ)のときは19桁以上の
計算精度が確認できました。
 精度の確認は次のようなコードで簡単にできます。

procedure TForm1.Button1Click(Sender: TObject);
var   a, b : extended;
      step : Longint;
begin
      b:=1.0;
      step:=0;
      repeat
            b:=b*0.1;
            a:=1.0+b;
            step:=step+1;
      until a = 1.0;
      Label1.Caption:='step = '+IntToStr(step);
end;


日本女子大学心理学科
岡本安晴




スレッド表示 著者別表示 日付順表示 トップページ

ここは心理学研究の基礎メーリングリストに投稿された過去の記事を掲載しているページです。