NISHIO Hirokazu[Translate]
鞍点

高次元の関数に関して、勾配が0である点(停留点)のほとんどは鞍点である。
10次元の場合で99.8%

効用関数の最大化という観点でとらえるならこういうストーリーになる
今の製品からあまり離れない製品の中から、もっとも効用関数が大きくなる物を選ぶ
=今の製品で表現される点の勾配に基づいて、最も勾配が大きくなる方向へ更新する
それを繰り返していると鞍点に到達する
鞍点に来るまでに進んできた方向に進んでも効用は減少する
まったく違う方向に進む必要がある

"Engineer's way of creating knowledge" the English version of my book is now available on [Engineer's way of creating knowledge]

(C)NISHIO Hirokazu / Converted from [Scrapbox] at [Edit]