[fpr 2562] Windowsでの計算精度(WindowsXP+Delphi7)

堀啓造

堀@香川大学経済学部です。

Y
>  昨日、今日とDelphi 6, 7 (特に7の方)で妙なバグに
> 悩まされていました。いつの間にかまたextended型が
> doubleの精度でしか計算されないようになっていました。
> 環境はWindows XP です。
>  Windows2000とDelphi 5 のときはextended型はextended型で
> 計算されていたと思うのですが。

遅くなりました.現在チェック中です.
とりあえず Windows98+delphi 6 ですと,私の環境では数値プロセッサの指定
をしてやるときちんと計算します.

今日から2日ほど出張なのでその後また報告します.
xp にはまだdelphi をインストールしていないので,次のプログラムを後で走
らせてみます.

delphi7 はインストールしていなかったので,今回インストールしてみたら面
倒なことになってますね.結局オフラインのパソコンだったのですぐには使え
ない.各ソフトのバージョンアップがプロテクトのバージョンアップになって
いる.昔,lotus 123, 松 がそうであったようにこれは衰退の兆候ではない
か.

Ps.
delphi の計算精度を簡易チェックするプログラムをつくりました(delphi 6).
http://www.ec.kagawa-u.ac.jp/~hori/delphistat/seidomain2.exe 
私の環境のwindows98 で走らせると<br>
original data   1.12345678901234567890
$1272		1.1234567890123456
$1372		1.12345678901234568
という結果になります.
数値プロセッサの指定をすると精度があがってます.これは前にレポートした
ことです.連続してボッタンをおすと次から最初も
$1372		1.12345678901234568
になります.(今気が付いたけど$1272では四捨五入されてないですね)

いろんな環境の方のレポートお願いします.

この問題てdelphi だけかな.vba とかは大丈夫だろうか?

----
堀 啓造(香川大学経済学部)
home page http://www.ec.kagawa-u.ac.jp/~hori/


スレッド表示 著者別表示 日付順表示 トップページ

ここは心理学研究の基礎メーリングリストに投稿された過去の記事を掲載しているページです。