電子フロンティア財団（EFF）は、連邦政府が進めるヘルスケア分野の自動意思決定システムに関する透明性を求め、メディケア・メディケイド・サービスセンター（CMS）に対して法的措置を開始した。この紛争の中心にあるのは、従来のメディケアにおける事前承認リクエストを管理するために、人工知能を活用するパイロットプログラム「WISeRモデル」である。

EFFは、CMSが関与ベンダーや、AIがもっともらしい嘘をつく「ハルシネーション」、あるいはシステム的なバイアスを防ぐための対策について、極めて重要な情報を提供していないと主張している。この透明性の欠如は、同プログラムが2031年まで6つの州で広範囲に実施される予定であることを踏まえると、特に懸念すべき事態だ。実際にテキサス州での導入初期の報告によると、AIが管理したリクエストの初期承認率はわずか62%であったが、人間による審査が介入した後は84%まで上昇するという顕著な格差が浮き彫りになった。

今回の訴訟は、行政効率の追求と、高い倫理性が求められる公共部門における説明可能なAIの必要性との間で高まっている緊張を象徴している。学習データやテストプロトコルにアクセスできない限り、医療従事者や患者は医療上の必要性を左右する判断ロジックを理解することができない。EFFによる提訴は、不可欠な医療サービスのアクセシビリティを決定づけるアルゴリズムを精査する権利が公衆にはあると断じ、広範な説明責任を求めるものである。

電子フロンティア財団（EFF）は、連邦政府が進めるヘルスケア分野の自動意思決定システムに関する透明性を求め、メディケア・メディケイド・サービスセンター（CMS）に対して法的措置を開始した。この紛争の中心にあるのは、従来のメディケアにおける事前承認リクエストを管理するために、人工知能を活用するパイロットプログラム「WISeRモデル」である。

EFFは、CMSが関与ベンダーや、AIがもっともらしい嘘をつく「ハルシネーション」、あるいはシステム的なバイアスを防ぐための対策について、極めて重要な情報を提供していないと主張している。この透明性の欠如は、同プログラムが2031年まで6つの州で広範囲に実施される予定であることを踏まえると、特に懸念すべき事態だ。実際にテキサス州での導入初期の報告によると、AIが管理したリクエストの初期承認率はわずか62%であったが、人間による審査が介入した後は84%まで上昇するという顕著な格差が浮き彫りになった。

今回の訴訟は、行政効率の追求と、高い倫理性が求められる公共部門における説明可能なAIの必要性との間で高まっている緊張を象徴している。学習データやテストプロトコルにアクセスできない限り、医療従事者や患者は医療上の必要性を左右する判断ロジックを理解することができない。EFFによる提訴は、不可欠な医療サービスのアクセシビリティを決定づけるアルゴリズムを精査する権利が公衆にはあると断じ、広範な説明責任を求めるものである。