AIツールの普及によって高度なサイバー攻撃のハードルが下がり、米国のK-12（幼稚園から高校まで）教育におけるデジタル環境は大きな転換期を迎えている。テキサス州の大規模な学区であるGoose Creek Consolidated Independent School Districtでサイバーセキュリティ責任者を務めるゲイリー・ラッキー(Gary Lackey)氏は、従来のフィッシングメールに共通していた誤字脱字や不自然な言い回しといった「警戒信号」が、AIの活用によって急速に姿を消していると警告した。ハッカーはAIを駆使して組織構造や人間関係を詳細に調査し、極めて説得力のある文面を作成する。その結果、本来であれば注意深い職員でさえも欺かれ、機密システムへの不正アクセスを許してしまうケースが増加している。

なかでも特に深刻な懸念となっているのが、ディープフェイクの音声や動画を用いた学校幹部へのなりすましだ。教育長や学区のリーダーは公の場で発言する機会が多く、ハッカーは彼らの声や話し方の特徴を含む質の高いサンプルを容易に入手できてしまう。AIでこれらのデータを処理すれば、信頼できる人物の声と寸分違わぬ合成音声を生成できるため、従業員が正当な要求と詐欺を判別することはほぼ不可能だ。このような高精度ななりすましは、教育機関を標的としたソーシャルエンジニアリングの手法が一段上のフェーズに移行したことを示している。

こうした進化し続ける脅威に対抗するために推奨される戦略は、皮肉にも極めてアナログな「手動での確認」と「Human-in-the-loop（HITL）」アプローチの徹底である。AIの進化が加速し精度が高まるほど、人間の懐疑心こそが最大の防御となる。そのため、教育関係者はデジタルチャネルだけに頼らず、機密性の高い依頼については直接対話や電話で確認を行うことが求められている。自動化されたシステムを過信せず、あえて人間の介在を優先させることで、テクノロジーの利便性が生徒の個人データや学区の財政を危険にさらすリスクを最小限に抑えられるはずだ。

最近、AI（人工知能）が広まったことで、アメリカの幼稚園から高校まで（K-12）の学校をねらった悪い攻撃が増えています。テキサス州の学校でセキュリティを守っているゲイリー・ラッキーさんは、「これまでの『うそのメール（フィッシング）』は、言葉づかいがおかしかったりして気づけましたが、AIが書く文章は完璧で、本物と見分けがつきません」と言っています。悪い人たちはAIを使って、学校の人間関係などを詳しく調べ、とても自然な文章を作ります。そのため、ふだんから気をつけている先生たちでもだまされて、学校の大事なシステムに悪い人が入りこんでしまう事件が増えています。

特におそろしいのが、学校のリーダーなどのふりをする「偽の動画や声（ディープフェイク）」です。教育長などのリーダーはみんなの前で話す機会が多いため、悪い人たちはその声をAIに学習させるためのデータを簡単に手に入れられます。AIに学習させると、本物とそっくりの声を作ることができるので、電話でお願いされたことが本物か詐欺かを見分けるのは、ほぼ不可能です。このように、人間の心理をうまく利用してだます方法（ソーシャルエンジニアリング）は、AIによって新しい、もっとこわい段階に入っています。

こうした進化し続ける攻撃から身を守るためにすすめられているのは、あえて「自分の手や目を使って確かめる」ことや、「必ず人間が最後にチェックする仕組み（Human-in-the-loop：ヒューマン・イン・ザ・ループ）」を徹底することです。AIがどんなにすごくなっても、人間が「本当かな？」と疑う気持ちこそが最大の守りになります。大事なお願いをされたときは、メールなどのデジタルな連絡だけで済ませず、直接会って話したり電話をしたりして確認することが必要です。便利な機械を信じすぎず、あえて人間が間に入ることで、生徒たちの個人情報や学校の大事なお金を守ることができるのです。