堀@香川大学経済学部です。 Y > 昨日、今日とDelphi 6, 7 (特に7の方)で妙なバグに > 悩まされていました。いつの間にかまたextended型が > doubleの精度でしか計算されないようになっていました。 > 環境はWindows XP です。 > Windows2000とDelphi 5 のときはextended型はextended型で > 計算されていたと思うのですが。 遅くなりました.現在チェック中です. とりあえず Windows98+delphi 6 ですと,私の環境では数値プロセッサの指定 をしてやるときちんと計算します. 今日から2日ほど出張なのでその後また報告します. xp にはまだdelphi をインストールしていないので,次のプログラムを後で走 らせてみます. delphi7 はインストールしていなかったので,今回インストールしてみたら面 倒なことになってますね.結局オフラインのパソコンだったのですぐには使え ない.各ソフトのバージョンアップがプロテクトのバージョンアップになって いる.昔,lotus 123, 松 がそうであったようにこれは衰退の兆候ではない か. Ps. delphi の計算精度を簡易チェックするプログラムをつくりました(delphi 6). http://www.ec.kagawa-u.ac.jp/~hori/delphistat/seidomain2.exe 私の環境のwindows98 で走らせると<br> original data 1.12345678901234567890 $1272 1.1234567890123456 $1372 1.12345678901234568 という結果になります. 数値プロセッサの指定をすると精度があがってます.これは前にレポートした ことです.連続してボッタンをおすと次から最初も $1372 1.12345678901234568 になります.(今気が付いたけど$1272では四捨五入されてないですね) いろんな環境の方のレポートお願いします. この問題てdelphi だけかな.vba とかは大丈夫だろうか? ---- 堀 啓造(香川大学経済学部) home page http://www.ec.kagawa-u.ac.jp/~hori/
ここは心理学研究の基礎メーリングリストに投稿された過去の記事を掲載しているページです。