← トップへ戻る

プレプリント ·研究論文 ·速報 ·AI要約未精査 ·AIによる読み解き

RECAP戦略：大規模推論モデルの長期的な知識保持を可能にする新アプローチ

RECAP戦略は、大規模な推論モデルの長期的なトレーニングにおける能力退化を防ぐ。

元記事タイトル: 大規模な推論モデルにおける汎用能力の忘れ防止戦略

arXiv cs.AI 2026年06月19日

査読未完了の可能性があります。完成した査読済み論文としてではなく、研究コミュニティ向けの早期共有として読んでください。

RESEARCH 研究論文 / Preprint

Field Note 読む前に確認

3行まとめ

強化学習と検証可能な報酬（RLVR）は、汎用能力の忘れ防止に課題がある
RECAP戦略は動的目標加重付けを使用して長期的な知識保持を可能にする
このアプローチは既存のトレーニングパイプラインに容易に統合できる

こんな人に関係ある話

機械学習研究者 AIエンジニア大規模モデル開発者

信頼度メモ

プレプリント論文（査読前の可能性あり）

記事の読み解き Reading

元記事を材料に、要点、編集視点、良い点と懸念点を読みやすい順に整理しています。

強化学習と検証可能な報酬（RLVR）は、数学的およびマルチモーダルな推論において顕著な成果を上げている一方で、長期的なトレーニングによりモデルが基礎的なスキルを忘れてしまうリスクがある。この研究では、RECAPという再経験戦略と動的目標加重付け法を提案し、汎用知識の保存を可能にする。

編集部コメント

強化学習と検証可能な報酬（RLVR）は、大規模な推論モデルのトレーニングにおいて重要な役割を果たしているが、その一方で能力の退化という課題に直面している。この研究は、RECAP戦略を通じて、長期的な知識保持とスキル維持を可能にする新たなアプローチを提示し、大規模モデルトレーニングにおける重要な進歩を示唆する。

評価ポイント Assessment

良い点

RECAPは、長期的なトレーニングによる能力の退化を防ぐための新しい手法
動的目標加重付けがオンラインで適応し、特定のタスクへの過度な焦点から解放される
既存のRLVRパイプラインに容易に統合可能

懸念点

RECAP戦略は、モデルが基礎的なスキルを維持するためだけではなく、新たな能力も獲得できるか?
動的目標加重付けが全てのタスクで効果的に機能するのか?

業界・社会への影響 Impact

この研究は、大規模な推論モデルのトレーニングにおいて、長期的な知識保持とスキル維持を可能にする新しいアプローチを提供し、モデルの汎用性と安定性を向上させる可能性がある。

深堀り Deep Dive

前提知識

強化学習と検証可能な報酬（RLVR）は、大規模推論モデルにおいて数学的およびマルチモーダルな推理能力を向上させることが確認されている。しかし、長時間の訓練を通じてモデルが基礎的なスキルを忘れてしまう可能性があるため、新しい手法が必要となる。

何が新しいのか

本研究では、RECAPという再経験戦略と動的目標加重付け法を提案している。この方法は、汎用知識の保存を可能にし、長期的な訓練でのモデルの性能低下を防ぐことができる。従来のKLダイバージェンスによる正則化では対応しきれない問題も解決できる。

今後見るべき論点

RECAP戦略が大規模な推論モデル以外のモデルにどのように適用可能か
動的目標加重付け法を他の強化学習手法にも活用できないか
長期的な訓練におけるモデルの持続的なパフォーマンス向上のための新たな技術やアプローチ

用語解説

RECAP戦略再経験と動的目標加重付け法を組み合わせた戦略で、汎用知識の保存と長期的なパフォーマンス向上を目指す

動的目標加重付け法訓練過程での各目的に対する重みを動的に調整し、下位または不安定な目的に焦点を当てる方法

汎用能力の保存長期的なトレーニングでも基礎的なスキルと知識を維持するための戦略

参照元 Sources

元記事と、深堀りで参照した情報源です。コミュニティ投稿やプレプリントでは、ここから根拠を確認できます。

大規模な推論モデルにおける汎用能力の忘れ防止戦略

arXiv cs.AI

https://arxiv.org/abs/2510.21978

この記事の見取り図

読む前に確認
記事の読み解き
深堀り
参照元
AI要約について
関連記事

キーワード

強化学習検証可能な報酬再経験戦略動的目標加重付け

AI要約について

本記事の要約・分類・読み解きにはAIを使用しています。内容確認に努めていますが、誤訳・解釈違い・元記事更新の反映漏れを含む可能性があります。重要な判断を行う場合は、必ず元記事もご確認ください。

速報について — 速報は追加調査や本文抽出の結果で内容が更新される場合があります。初期要約には誤りや不足が含まれる可能性があります。

記事データ

Source	プレプリント
Category	研究論文
Status	速報
出典	arXiv cs.AI
公開日	2026-06-19

元記事の説明文

arXiv:2510.21978v2 Announce Type: replace-cross Abstract: Reinforcement learning with verifiable rewards (RLVR) has delivered impressive gains in mathematical and multimodal reasoning and has become a standard post-training paradigm for contemporary language and vision-language models. However, the RLVR recipe introduces a significant risk of capability regression, in which models forget foundational skills after prolonged training without employing regularization strategies. We empirically confirm this concern, observing that open-source reasoning models suffer performance degradation on core capabilities such as perception and faithfulness. While imposing regularization terms like KL divergence can help prevent deviation from the base model, these terms are computed on the current task and therefore do not guarantee preservation of broader knowledge. Meanwhile, commonly used experience replay across heterogeneous domains makes it nontrivial to decide how much training emphasis each objective should receive. To address this, we propose RECAP-a replay strategy with dynamic objective reweighting for general knowledge preservation. Our reweighting mechanism adapts online using short-horizon signals of convergence and instability, shifting the post-training focus away from saturated objectives and toward underperforming or volatile ones. Our method is end-to-end and readily applicable to existing RLVR pipelines without training additional models or heavy tuning. Extensive experiments on benchmarks using Qwen2.5-VL-3B and Qwen2.5-VL-7B demonstrate the effectiveness of our method, which not only preserves general capabilities but also improves reasoning by enabling more flexible trade-offs among in-task rewards.