狩野@大阪大学です In message <35C301D6.6065 (at) simail.ne.jp> "[fpr 1078] Re: ＳＥＭ応用事例" "Yasuharu Okamoto <c00279 (at) simail.ne.jp>" wrote. > >岡本＠金沢大学です。 > > "[fpr 1077] Re: ＳＥＭ応用事例"より： > >＞もう少し質問の意図・目的を詳しく説明していただけますか >＞モデルによっては尤度がいくらでも大きくなる可能性があるか >＞否かということですか >＞収束した点が最大値であることを証明できるかということですか >＞あるいはそれ以外の意味ですか > > 意図・目的は > > 悪いモデルの場合、何故なかなか収束しないのか > ということについて理由が分かっていたら知りたい > >ということです。 基本的には経験則です．反復の収束性やglobalな意味で収束点が最大値であ ることは，因子分析モデルや共分散構造モデルのような非線型モデルに対し ては，ほとんど証明できません． ただし一般論として，(i) モデルが正しく(ii)識別性が保証されており (iii)標本サイズが十分大きいときは，尤度は単峰で，極大値かつ最大値が 存在します．正確に言うならば，そのような確率が１に近づくことが数学的 に証明できます．つまり，反復が問題なく収束する可能性が高いということ です． > > 尤度は確率ですから、１が上限になりますので、いくらでも >大きくなるという可能性はない、ということになります。 離散型分布については上記のことは正しいです．が，例えば，正規分布 N(mu,sigma^2) で，x=mu (or mu=x)である場合を考えてみると， exponential の部分＝１となり，sigma => 0 とすると尤度は無限大に発散 します． > > ただ、上に有界であっても、パラメータ値が有界な閉集合でない >場合は最大値がないということもあります。 おっしゃるとおりです．数学的には，母数空間がコンパクト（有界・閉集合 ，ユークリッド空間の場合）であり，最大化したい関数が連続であれば，最 大値は必ず存在します．が，それは数学的に存在することであってそれをど のようにして探すか，ということは別問題です．存在性の証明が constructive way でないからです． > > 例えば、因子分析の場合、因子が直交しているときは因子負荷量は >絶対値が1以下ということで有界な閉集合内にパラメータ値を考える >ことができます。しかし、斜交因子の場合はこの制限が無くなる、因子 >負荷量の絶対値はいくらでも大きくなりうる、ということになります。 > > 共分散構造分析の場合も、変数が直交しているときはパラメータ >値が有界で最大値が存在するが、直交していないときはパラメータ >値が有界でなくなり尤度の最大値の存在が必ずしも保証されるわけ >ではない、というようなことがないのか、という疑問です。 おっしゃるとおりです．ただ，この問題は因子回転の反復の収束性の問題で ，尤度を最大にするとき（共通性を求めるとき）には考えなくてもいい問題 です． しかし，ご指摘のように，この考え方は，共分散構造モデルでの反復の収束 性の理論に活かせるかもしれません．現在のところそのような議論はないと 思いますが． 現象的にはどちらかというと逆で，因子相関を入れないと識別性が満たされ ず，推定できないことがあります． > 収束した値が最大値か、あるいは単に極小値の１つであって >最大値ではないのか、ということは、探索法の収束判定基準が >局所的なもの（導関数の絶対値の最大値が設定値以下など）なので >分からないと思います。 > 初期値を変えたり、収束点からのランダムな撹乱による関数値 >の変化を調べたり、といった作業が理屈の上では必要になります。 >実際問題としては得られた収束値が最大値であると考えても間違いで >ある確率は小さいのではと思いますが。 ご指摘のとおりです． ◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇ 狩野 裕（かのゆたか） Phone&Fax: 06-879-8052 (DI) 〒565 吹田市山田丘 1-2 大阪大学人間科学部 kano (at) hus.osaka-u.ac.jp http://koko15.hus.osaka-u.ac.jp/~kano/ ◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆
ここは心理学研究の基礎メーリングリストに投稿された過去の記事を掲載しているページです。