平坦な極小値への収束を制御する新しい手法:HSR正則化とは何か?
損失ヘッシアン固有値スペクトルの上限を制御する新しい手法:平坦な極小値への収束を促進
査読前の可能性がある研究情報
損失ヘッシアンの最大固有値に対するWS上界の勾配を解析的に導出し、平坦な極小値への収束を促進するHSR正則化を提案
arXiv cs.AI
毎日更新・AIニュース考察
損失ヘッシアン固有値スペクトルの上限を制御する新しい手法:平坦な極小値への収束を促進
査読前の可能性がある研究情報
損失ヘッシアンの最大固有値に対するWS上界の勾配を解析的に導出し、平坦な極小値への収束を促進するHSR正則化を提案