岡本@日本女子大です。 以前に話題になったPentiumのコプロセッサの計算精度を 確かめていて、困ったことが出てきました。 Windows98において起動したDelphi3でExtended型の計算精度を 確認すると19桁以上ありました。しかし、Windows2000において 起動したDelphi5あるいはDelphi6のVCLアプリケーションの場合 15桁ぐらいしかありません。同じWindows2000において起動した Delphi6であっても、CLXアプリケーション(Linux版Delphiである Kylixと共通のアプリケーションのタイプ)のときは19桁以上の 計算精度が確認できました。 精度の確認は次のようなコードで簡単にできます。 procedure TForm1.Button1Click(Sender: TObject); var a, b : extended; step : Longint; begin b:=1.0; step:=0; repeat b:=b*0.1; a:=1.0+b; step:=step+1; until a = 1.0; Label1.Caption:='step = '+IntToStr(step); end; 日本女子大学心理学科 岡本安晴
ここは心理学研究の基礎メーリングリストに投稿された過去の記事を掲載しているページです。