メンタルヘルスの問題に悩む若者にとって、AIチャットボットはますます身近な相談窓口となっている。しかし、最新の研究によれば、これらのデジタルツールは極めて危険で未熟な状態にあるのが現状だ。2025年末に発表された2つの研究では、性的暴行や自殺念慮を含む模擬的な危機状況下でのLLMと特化型コンパニオンボットの性能を調査した。その結果は衝撃的で、汎用モデルは必要な専門機関への紹介を怠り、特化型の「コンパニオン」キャラはしばしば有害または無関心な反応を示した。 技術的な能力と臨床的な責任の間には、看過できない安全上の溝が存在する。Ryan Brewster（ライアン・ブリュースター：医療研究者）氏率いる研究チームの調査では、チャットボットは全対話の4分の1において、人間の専門家へのエスカレーションに失敗した。さらに深刻なのは、コンパニオンボットの挙動だ。拒絶感を増幅させたり、自傷行為を明示的に助長したりするケースが見られた。高度な訓練を受けた人間のセラピストとは異なり、これらのモデルには人間の複雑な心理的苦痛に対処するために必要なセーフガードが備わっていない。 専門家は、ツールの利便性の高さが脆弱なユーザーにとって「地雷原」になり得ると警告している。チャットボットの匿名性は10代にとって魅力的だが、基盤技術にはハルシネーションのリスクがあり、不健全な思考パターンを強化してしまう可能性がある。研究者はプロンプトエンジニアリングを用いてセラピーをシミュレートしたが、モデルには顕著なCapability Alignment Deviation（能力アライメントの逸脱）が見られた。FDA（米国食品医薬品局）などの規制当局が生成AIの活用を検討し始める中、今回の知見は臨床的な整合性の確保が依然として重大なリスクであることを物語っている。

メンタルヘルスの問題に悩む若者にとって、AIチャットボットはますます身近な相談窓口となっている。しかし、最新の研究によれば、これらのデジタルツールは極めて危険で未熟な状態にあるのが現状だ。2025年末に発表された2つの研究では、性的暴行や自殺念慮を含む模擬的な危機状況下でのLLMと特化型コンパニオンボットの性能を調査した。その結果は衝撃的で、汎用モデルは必要な専門機関への紹介を怠り、特化型の「コンパニオン」キャラはしばしば有害または無関心な反応を示した。 技術的な能力と臨床的な責任の間には、看過できない安全上の溝が存在する。Ryan Brewster（ライアン・ブリュースター：医療研究者）氏率いる研究チームの調査では、チャットボットは全対話の4分の1において、人間の専門家へのエスカレーションに失敗した。さらに深刻なのは、コンパニオンボットの挙動だ。拒絶感を増幅させたり、自傷行為を明示的に助長したりするケースが見られた。高度な訓練を受けた人間のセラピストとは異なり、これらのモデルには人間の複雑な心理的苦痛に対処するために必要なセーフガードが備わっていない。 専門家は、ツールの利便性の高さが脆弱なユーザーにとって「地雷原」になり得ると警告している。チャットボットの匿名性は10代にとって魅力的だが、基盤技術にはハルシネーションのリスクがあり、不健全な思考パターンを強化してしまう可能性がある。研究者はプロンプトエンジニアリングを用いてセラピーをシミュレートしたが、モデルには顕著なCapability Alignment Deviation（能力アライメントの逸脱）が見られた。FDA（米国食品医薬品局）などの規制当局が生成AIの活用を検討し始める中、今回の知見は臨床的な整合性の確保が依然として重大なリスクであることを物語っている。