AI記事考察ノート

MoSE：大規模モデルの効率化と適応性を両立する新アプローチ

スリム化可能エキスパート混合モデル MoSE：効率的かつ適応的な言語モデル

査読前の可能性がある研究情報

MoSEは、エキスパートの実行幅を変動可能にすることで、大規模言語モデルの精度と効率性のバランスを連続的に制御できる。