[fpr 2277] Extended型の精度

Yasuharu Okamoto


 岡本@日本女子大学です。

 以前、Windowsパソコンではextended型がディフォルトでは使えないことを
書きました。これは不便なのでLinuxでのKylixの使用の検討を考えていたのですが
念のためDelphiの最新版Delphi7で再度チェックして見ました。Delphi7では
extended型の約20桁の精度が保たれていました。Delphi6でも20桁OKでした。
Delphi5では、extended型で宣言してあっても計算精度はdoubleでした。
 使用したコードは以下の通りです。

procedure TForm1.Button1Click(Sender: TObject);
var a, b, c : extended;
    step : integer;
begin
      a:=1.0;
      b:=1.0;
      step:=0;
      repeat
           b:=b*0.1;
           step:=step+1;
           c:=a+b;
      until c = a;
      ShowMessage('b = '+FloatToStrF(b,ffGeneral,7,1)+
                  '   step = '+IntToStr(step));
end;

 OSは
     Windows 2000
     5.00.2195
     Service Pack 3
です。
 なお、Delphiはすべてprofessional版でUpdate済みのものです。

日本女子大学心理学科
岡本安晴


スレッド表示 著者別表示 日付順表示 トップページ

ここは心理学研究の基礎メーリングリストに投稿された過去の記事を掲載しているページです。