OpenAIが、安全性とクリエイターの制御権を最優先に設計された動画生成AIの新モデル「Sora 2」を発表した。初期の実験的な段階から大きく進化を遂げ、コンテンツの出所（プロベナンス）を示すシグナルの実装に重きを置いているのが特徴だ。具体的には、生成されるすべての動画に業界標準のC2PAメタデータが付与されるようになった。このデジタル署名はコンテンツの「栄養成分表示」のような役割を果たし、プラットフォームやユーザーはその動画がAIによる合成か、あるいはカメラで撮影されたものかを明確に判別できる。

今回導入された機能の中でも特に革新的なのが、デジタル身元盗用やディープフェイクへの懸念に対応した「キャラクター」機能である。これにより、ユーザーは特定のキャラクターを定義した上で、自身の肖像に対する絶対的な権限を保持し、必要に応じていつでも同意を撤回できるようになった。こうした同意ベースのモデルへの移行を背景に、未成年者が登場する動画への厳格なモデレーションや、実在の人物を参考資料として使用する際の許可証明も義務付けられている。

さらに、視覚的な安全性だけでなく、音声やテキストに対しても強力なガードレールが敷かれた。システムは音声の書き起こしデータをスキャンしてポリシー違反を事前に検知するほか、存命のアーティストの音声を無断で模倣する試みをブロックする。目に見えるウォーターマークから能動的なフィルタリングまで、幾重もの防御層を重ねることで、OpenAIは高精度な動画生成がもたらす創造性と、すべてのユーザーにとって安全なデジタル環境の維持との両立を目指している。

OpenAI社は、動画を自動で作るAIの最新版「Sora 2」を発表しました。今回の最大のポイントは、AIが作った動画を誰が見てもすぐに判断できるようにしたことです。料理に例えると、パッケージの裏に材料が表示されているように、AIで作った動画にはすべて「これはAI製です」というデジタル上の証明書（C2PA）や目印が付くようになります。これにより、ネット上の動画が本物の撮影なのか、AIによる合成なのかを簡単に区別できるようになります。

また、自分の顔や姿をAIに勝手に使われることへの対策も強化されました。新機能のキャラクター設定を使うと、自分の姿をAIに学習させたり生成させたりする際に、本人の同意が必要となります。もし勝手に使われたり、気分が変わったりした場合は、いつでもその許可を取り消すことができます。これは、自分という存在の権利を自分で守れるようにする、安心のための仕組みです。

見た目だけでなく、音や言葉の安全対策も厳しくなりました。例えば、本人の許可なしに有名な歌手の声をまねたり、公序良俗に反するような不適切な内容を作ろうとしたりすると、AIが自動的にそれを察知して停止させます。このように、高度な動画を作れる能力はそのままに、誰もが安心して楽しめる環境を整えることが今回のアップデートの狙いです。