岡本安晴＠日本女子大学心理学科です。 これからプログラミングの勉強を始めようという方もおられると 思います。計算精度の関係から、２乗和の計算について書いて おきたいと思いました。以前は、よく注意されていたことですが、 最近は、実数の精度は倍精度が普通になっているので、あまり精度の ことは問題にならなくなっているようです。しかし、単精度が普通に 用いられている分野もあります。 単精度を用いた例を http://y-okamoto-psy1949.la.coocan.jp/VCpp/SSAccu/ に、倍精度を用いた例を http://y-okamoto-psy1949.la.coocan.jp/Python/misc/SSAccu/ に上げておきました。 御関心のある方はどうぞ。 横浜市在住 岡本安晴
ここは心理学研究の基礎メーリングリストに投稿された過去の記事を掲載しているページです。