自律的なルール発見を試すベンチマーク「OdysseyArena」
2026年2月9日 (月)
- •OdysseyArenaは、LLMエージェントが自律的に環境を探索する能力を評価する新指標である。
- •試行錯誤を通じて未知の遷移法則を学習する「帰納的」な能力に焦点を当てている。
- •最新のモデルでも、200ステップを超える長期的な安定性の維持に苦戦する結果となった。
大規模言語モデル(LLM)エージェントの評価は、これまでAIが指示に従って目標を達成する「演繹的」な手法が主流だった。しかし、復旦大学の研究チームは「OdysseyArena」を導入し、エージェントが直接的な経験を通じて環境の変化を支配する「潜在的な遷移法則」を自律的に見つけ出す「帰納的」な能力に光を当てた。これにより、あらかじめ用意された説明書に頼らず、未知の環境でルールそのものを発見する能力が試されることになる。
本ベンチマークは、2つの難易度で構成されている。OdysseyArena-Liteは120のタスクを通じて帰納の効率性を測定する一方、より過酷なOdysseyArena-Challengeは、200ステップを超えるような長期スパンでの戦略的一貫性を要求する。こうした複雑で動的な環境をナビゲートさせることで、単純なタスク実行と、真のエージェンティックAI(自律型AI)に求められる先見性との間にある隔たりを埋めることが期待されている。
実際に15以上の主要システムでテストを実施したところ、業界全体のボトルネックが浮き彫りになった。現在の最先端のフロンティアモデルですら、自らの行動結果から環境パターンを構築する帰納的なシナリオでは著しい能力不足を示したのである。これは、今日のAIがデジタルマップに従って進むことには長けているが、未知の領域でゼロから地図を描き出す段階にはまだ至っていないことを示唆している。