OpenAIは、従来のセキュリティ監査では捕捉しきれないリスクを特定するため、専用の「安全性バグバウンティプログラム」を導入し、防御網を拡大している。既存のプログラムがコードの悪用といった技術的な脆弱性を扱う一方、この新制度は「AIネイティブ」な脅威を明確なターゲットとしている。具体的には、ユーザーに代わって自律的に行動するAIエージェントが、第三者の指示によって乗っ取られ、機密データの流出や未承認の操作を行うといった事態を想定している。

このプログラムは、モデルがウェブを閲覧し他のツールと相互作用する能力を高める中で、ソーシャルエンジニアリングやプロンプトインジェクションに対する攻撃対象領域が広がっていることを背景に、「エージェンティックなリスク」を強調している。加えて、OpenAIはモデル内部の推論プロセスに関連する独自情報の漏洩発見を奨励している。これは、将来のモデルにおいてその「思考パターン」を保護することが、モデルの重み自体を守ることと同様に極めて重要になっている証左と言える。

特筆すべき点として、AIに不適切な発言をさせたりフィルタを回避させたりする「ジェイルブレイク」は対象外とされており、これらは引き続き非公開のレッドチーミングを通じて対処される方針だ。安全性研究者のための専門領域を切り出すことで、同社はAIエージェントが日常の生産性ワークフローに組み込まれる過程で発生しうる、自動化された悪用や深刻なデータ侵害に対する堅牢な防衛策の構築を目指している。

OpenAIはこれまで、プログラムのバグを見つける取り組みをしてきましたが、今回新たにAI特有の危険を防ぐための特別な調査プロジェクトを立ち上げました。これまでのバグ探しがパソコンのセキュリティを守るためのものだとすれば、今回はAIの頭脳そのものが悪用されないかを守るための活動です。例えば、AIがユーザーの代わりに勝手にWebサイトを操作する機能（エージェント機能）を持っているとき、もし悪意のある他人にそのAIが乗っ取られたら、勝手に個人情報を持ち出したり、命令外の行動をしたりする恐れがあります。このような新しい種類の脅威を見つけ出すのが今回の目的です。

特に注目しているのは、AIが自分で考えて行動する仕組みに潜むリスクです。最近のAIは自分でネットを検索したり、他のソフトと連携したりと、できることがどんどん増えています。その分、犯罪者から狙われる場所も増えており、AIに巧妙な指示を出して本来見せてはいけない秘密を聞き出したりするリスクが高まっています。今回の調査では、AIがどうやって考えて答えを出しているのかという、企業にとっての宝である「思考プロセス」を守ることも重視しており、まるでAIの脳の中身を誰にも盗まれないよう厳重にガードするような取り組みといえます。

面白いことに、この調査ではあえて「AIに禁止されているはずのひどい言葉を言わせる」ような、いわゆる脱獄（ジェイルブレイク）といった意地悪な質問は対象から外しています。そうした問題は別の専門チームが社内で対応しており、今回の募集はもっと深刻な、AIの自動システムを悪用した大規模な情報漏洩を防ぐことに集中しています。AIが私たちの仕事や生活に深く入り込んでいく中で、安心して便利に使える技術にするためには、こうした技術者たちの厳しいチェックが不可欠なのです。