ByteDance、AI推論を効率化する「SAGE-RL」を発表
2026年2月23日 (月)
- •ByteDanceの研究チームは、推論モデルが正解に到達した瞬間を自覚していることを発見した。
- •SAGE-RLは冗長な思考プロセスを省くことで、計算効率と推論精度を同時に向上させる。
- •新たな手法は、難易度の高い複数の数学ベンチマークで従来方式を上回る性能を記録した。
ByteDanceの研究者らは、大規模推論モデルに関する驚くべき能力を明らかにした。モデルは問題を解き終えた瞬間を正確に把握していることが多いにもかかわらず、現在のシステムはモデルに「考え続ける」ことを強制しているという。この継続的な内部対話は「Chain of Thought (CoT)」と呼ばれ、しばしば冗長な計算を引き起こす。その結果、回答が遅れるだけでなく、不要な複雑さによって当初の正しい洞察に新たな誤りが混入することさえある。
この課題を解決するため、チームは「SAGE(Self-Aware Guided Efficient Reasoning)」というサンプリング手法を導入した。これはモデルが持つ潜在的な自己認識能力を解き放つように設計されている。SAGEはモデルが自らの成功を認識できるようにすることで、複雑な推論タスクで発生しがちな「無駄な思考のノイズ」を排除する。これは単なる時間の節約にとどまらず、モデル自体の論理を洗練させることを目的としている。
研究チームはさらに、この手法を強化学習フレームワークである「SAGE-RL」へと統合した。このアプローチにより、モデルは標準的な推論(Pass@1)の過程で、効率的な推論パターンを自ら内面化できるようになる。実際に複数の数学ベンチマークにおいて、処理速度と精度の両面で劇的な向上が確認された。「引き際」をわきまえた推論を学習させることで、ByteDanceはより高速で信頼性の高いAIアシスタントへの道を切り拓いている。