INSAIT、多言語AI評価指標の自動翻訳を高度化
- •多言語AIデータセットにおける翻訳エラーや意味的ドリフトを解消する自動パイプラインを構築
- •T-RANKと自己改善手法の導入により、既存リソースより4倍高い評価精度を達成
- •欧州8言語向けのフレームワークを公開し、非英語モデルの性能測定における信頼性を向上
英語以外の言語におけるAIモデルの性能評価は、長年極めて不透明な領域であった。既存のベンチマークの多くは基本的なツールで英語から機械的に翻訳されているに過ぎず、その過程で質問の本質的な意図が変化する「意味的ドリフト」や、文化的・言語的なニュアンスが失われる「コンテキストの欠如」が頻繁に発生していた。こうした不正確な翻訳は、現地語におけるAIの真の実力を反映しない誤ったスコア算出につながる要因となっていた。
この課題に対し、INSAITの創設者であるマーティン・ヴェチェフ(Martin Vechev)教授率いる研究チームは、「テスト時計算量のスケーリング」を活用した新しい自動フレームワークを開発した。これは一度きりの翻訳で完結させるのではなく、システムが複数の翻訳候補を生成し、「T-RANK」という独自のランキング手法を用いて最適なものを選択する仕組みだ。翻訳フェーズにより多くの計算リソースを投入することで、最終的な出力が元のタスクの構造や難易度を正確に維持することを可能にしている。
研究チームは、ウクライナ語、ブルガリア語、ギリシャ語を含む東欧および南欧の8言語にこのパイプラインを適用した。高性能AIが他のモデルの翻訳品質を採点する評価手法を用いた結果、開発されたフレームワークによる翻訳は従来のリソースよりも4対1の割合で高く支持された。現在、このフレームワークはオープンソースとして公開されており、より信頼性と再現性の高いグローバルなAI開発のための重要な基盤となっている。
今回の研究成果は、英語中心のAI開発と世界の他地域との間にある格差を埋める上で極めて重要だ。多様な言語における性能測定の精度を磨くことで、開発者は特定の地域や文化に合わせてモデルをより正確に調整できるようになる。これにより、言語の壁や質の低い評価データによってAIの恩恵が限定されてしまう事態を防ぎ、真の意味でグローバルな技術普及が期待される。