エビデンスが左右する臨床AIの責任

臨床AIツールが患者に被害をもたらした場合、誰も最初に「どのモデルが出力を生成したのか」とは問いません。問われるのは「誰がどの患者記録を閲覧できたのか」「誰の権限で閲覧したのか」「そのアクセスの証拠はどこにあるのか」です。この問いは、ツールがベンダーによって構築されたものであれ、内部チームが調整したものであれ、善意の部門が電子カルテに接続しただけであれ、必ず医療機関に向けられます。

米国医師会（AMA）は、この問いに対するフレームワークを提示しました。2026年10月29日付のリリースで、臨床AIの責任分担モデルを発表し、責任を「各当事者が制御できる範囲」に応じて三者に分割しています。開発者は自ら構築したものの安全性と有効性に答えます。医師は自らが実質的に行使できる臨床判断に答えます。医療機関（導入者）は、AIシステムが病院で稼働した後の選定・導入・ガバナンス・監視の方法に答えます。

このフレームワークは政策的な立場表明であり、法律ではありません。裁判所の義務分析を即座に変えるものでもありません。しかし、医療機関のCISOやチーフコンプライアンスオフィサーにとって、三者のうち三番目が「記録管理」の課題を抱えています。導入者に紐づく動詞（選定、導入、ガバナンス、監視）は、記録を残すか、ギャップを生むかのどちらかです。調査官や保険会社、相手方弁護士はその記録を探しますが、その多くはデータレイヤーに存在しなければなりません。まさにこの領域こそ、Kiteworksのセキュアデータ交換が、人とAIの両方が機密コンテンツにアクセスする際のガバナンスとログ管理を通じて、質問が来る前に証拠を残す支援をするために設計されています。

主なポイント

1. 責任は「制御できる範囲」で分割される

AMAの2026年10月29日フレームワークでは、開発者・医療機関・医師それぞれが「自ら制御できる範囲」に応じて責任を負うとしています。

2. 医療機関はガバナンス記録を所有する

本フレームワークのもと、導入者はAIの選定・導入・ガバナンス・監視の方法に答える責任があり、それぞれの行為が証拠を生むか、ギャップを露呈します。

3. HIPAAはすでに適用されている

ユニークユーザー識別や監査コントロールは現時点でも有効であり、セキュリティ規則にはAIの例外はありません。提案されている大幅改正を待つのは現実的な対応策ではありません。

4. 証拠のギャップは測定可能

Kiteworksの調査では、回答した組織の半数が、AIによるデータアクセスの完全な監査記録を1営業日以内に提出できませんでした。

5. 今すぐ構築できるのは「証拠」

すべてのAIリクエストを特定の人間に紐づけ、ポリシーを強制し、改ざん検知可能なログを記録するガバナンスされたデータレイヤーは、臨床的な正確性を保証しなくても防御の根拠となります。

AMAフレームワークが示すこと・示さないこと

まず提案の全体像を把握しましょう。詳細こそがコンプライアンス部門の対応に直結します。AMAが掲げる原則は「責任は危害の防止・軽減を制御できる権限に従うべき」というものです。開発者はツールの設計・テスト・文書化を制御できるため、そのリスクを負います。医師はベッドサイドでの臨床判断を制御できるため、その判断に責任を持ちます。医療機関は、どのツールを導入するか、誰が使うか、どのように監視するかを制御します。

医療機関向けの記述は明確です。リリースでは、医療機関はAIシステムの「選定、導入、ガバナンス、監視」に現場で責任を持つべきだと述べています。これはガバナンス基準であり、ガバナンス基準は意図ではなく、再現可能な文書・ログ・意思決定によって証明されます。

医師向けの記述も同様に厳しく、医療機関にとっては不利に働きます。AMAは「医師は実質的に行使できる臨床判断に答えるべき」とし、「医師の監督は十分な証拠や適切なシステム設計の代わりにはならない」と明記しています。臨床現場で見抜けない欠陥は医師の責任ではなく、開発者やツールを選定・設定・監視した組織の責任となることを示唆しています。

フレームワークは患者にも言及しています。「患者は、欠陥のあるAIシステムやその他の問題による被害が生じた場合、責任追及や適切な救済を求める実効的な手段を持たなければならない」としています。だからこそ証拠の問題が重要なのです。何が起きたかを立証できて初めて救済が意味を持ちますが、それは法的問題になる前に記録管理の問題です。

同時に、フレームワークが「しないこと」も重要です。新たな訴訟原因を創設するものではなく、HIPAAを改正するものでもなく、病院に技術的コントロールの購入を指示するものでもありません。AMAが「どこに線を引くべきか」という立場を示したものであり、今後は政策論争や契約交渉、標準的なケアの議論で参照されることになるでしょう。すでに施行されているルールブックではなく、「今後問われるであろう問いの予告」として捉えるのが正しい読み方です。

なぜ導入者が証拠責任を負うのか

導入者の役割がなぜこれほどリスクにさらされているのか、率直に考えることが重要です。開発者はモデル・学習データ・テスト結果を保持しています。医師は臨床関係を保持しています。医療機関が保持しているのは、華やかさはないものの、最も発見されやすい「アクセス設定」「統合コード」「サービスアカウント」「ベンダー契約」「研修記録」「ログ」などです。紛争が始まれば、記録請求が最初に向かうのはこれらの証拠です。

研修の例はギャップを示す好例です。AMAの2026年医師調査（2026年1月15日～2月2日実施）では、1,692人の医師のうち27%が「AIに関する研修を一切受けていない」と回答し、92%が「さらなる教育・研修を望む」と答えました。驚く結果ではありませんが、導入者がツールの導入方法に責任を持つ以上、「研修を受けていない職員がいる」こと自体が実装上の問題となり、原告側弁護士には有用な材料となります。

同じ調査は、責任論が周辺から中心に移った理由も示しています。AIへの信頼を高めるために望む規制措置について1,419人の医師が回答したところ、「明確な責任分担フレームワーク」が最も多く1位に選ばれ（31%）、医師たちが「リスクを負う前にルールを明文化してほしい」と考えていることが分かります。ツールの審査・利用者・アクセス可能なデータを示せない医療機関は、単なる安心感以上の説明ができません。

結局、導入者の負担はCISOが今週にも自問できるシンプルな問いに集約されます。臨床・業務で使われているAIツールは何か（非公式導入も含む）？各ツールがアクセスできる患者データは何か？各ツールまたはその代理エージェントは、行動に責任を持つ人物に紐づいているか？規制当局が「先週火曜日のアクセス記録を出せ」と求めたら、どれくらいで提出できるか？以下のセクションでこれらの問いを順に解説します。

HIPAAは「データ」を規制し「モデル」は規制しない

医療機関には、意外にも構造的な優位性があります。HIPAAはモデルの巧妙さには関心がなく、「保護対象医療情報」に何が起きるかを規制しており、AIの例外規定はありません。AIアシスタントがカルテを取得したり、要約ツールがノートをプロンプトに取り込んだり、エージェントが事前承認のために記録をまとめたりする場合も、セキュリティ規則のアクセス・監査要件は、看護師が記録システムにログインする場合と同様に適用されます。

2つの要件は明確に読むべきです。45 CFR 164.312では、「ユニークユーザー識別」が必須実装仕様とされており、ユーザーの識別・追跡のために固有の名前や番号を割り当てることが求められています。監査コントロール基準は、情報システム内の活動を記録・検証するハードウェア・ソフトウェア・手続き的メカニズムを要求しています。どちらも「人かプログラムか」には言及せず、「誰が何をしたか再現できるか」に重点を置いています。

ここで一般的なAIアーキテクチャが問題に直面します。患者データを1つの共有サービスアカウント経由で照会するアシスタントは、ログにサービスアカウントしか残らず、誰（どの医師・どのワークフロー）が操作したか分からないため、「ユニークユーザー識別」の証明が困難です。広範な認証情報を持つシステムプロンプトも同様です。こうした設計は構築が速いため普及していますが、監査官は「人間の判断」と「機械の動作」の境界が曖昧になる点を必ず精査します。

暗号化については、より慎重な説明が必要です。現時点では、電子保護医療情報の暗号化は「アドレッサブル仕様」とされており、組織は評価のうえ実装するか、同等の代替策を文書化する必要があります。2025年1月に米国民権局がセキュリティ規則強化案を公表し、Holland and Knightが2026年7月に報じたところによると、最終規則の公表予定は2027年7月に延期されています。提案段階では要件とはなりません。AIツールが患者データにどう触れるかを最終テキストを待ってから検討するのは、すでに原告や監査官が目の前にいる状況には対応できません。

実務的な要点は、医療コンプライアンス責任者にとって「シンプルな枠組み」が最強だということです。HIPAAはデータを規制しており、既存の基準のもとでAIによるデータアクセスにも適用されます。HIPAAセキュリティ規則は、誰が記録にアクセスしたかを問うために改正される必要はなく、「記録が存在する」ことだけが求められます。

フレームワークの背後にある証拠ギャップ

証拠が重要だとして、組織はどれだけ証拠を提出できる体制にあるのでしょうか。率直に言えば、多くの組織は準備ができていません。しかも、異なる情報源でも一貫した数字が出ています。

まずAIアクセスの監査証跡から見てみましょう。Kiteworksのデータセキュリティ＆コンプライアンスリスク：2026年年次調査レポート（2026年第2四半期に459名のセキュリティ・コンプライアンス・技術担当者が回答）では、50%の組織が「AIによるデータアクセスの完全な監査記録を1営業日以内に提出できない」と答え、1時間以内に提出できるのはわずか17%でした。注意点として、自己申告であり、全業界を対象とした数字であるため、医療業界のみに当てはまるとは限りません。しかし、「半数が1日以内に提出できない」というギャップの普遍性を示しています。

この「1営業日」という期限は恣意的ではありません。規制当局のタイマー、訴訟保全命令、保険会社の質問票は「1週間かけて手作業でログをつなぎ合わせる」のを待ってくれません。複数のシステムやチームを動員しないと1つのアクセス質問に答えられない組織は、「プロセス」はあっても、監査官が求める「完全・信頼性・即時性を備えた証拠」にはなっていません。

ガバナンスに対する自信も、別の角度から同じ問題を示しています。Grant Thorntonの2026年AIインパクト調査（2026年4月13日発表）では、約1,000人の上級ビジネスリーダーのうち78%が「90日以内に独立したAIガバナンス監査に合格できる自信がない」と回答しています。医療業界限定ではなく、Grant Thornton自身も助言サービスを提供しているため、実際の監査失敗率ではなく「経営層の自信度」として捉えるべきですが、「90日以内」という表現は示唆的です。リーダーたちは「ガバナンスがない」とは言っていません。「迅速に証明できない」と言っているのです。

医療業界に特化したデータも同様の傾向を示します。SAI360とStrategic Management Servicesによるベンチマークレポート（2025年、261の対象事業体・ビジネスアソシエイトを調査）では、86%が「HIPAAインシデントを従業員からの報告で検知している」と回答し、「自動化されたユーザーアクセス監視」を使っているのは約35%、「電子カルテ監査ログの自動レビュー」は21%にとどまりました。回答者は病院や行動医療に偏っており、業界全体の代表値ではありませんが、多くの組織で「最初の警告はシステムではなく同僚の気づき」から発せられていることを示唆しています。

これら3つを総合すると、特定のモデルに依存しないパターンが浮かび上がります。弱点は「知能」ではなく「帰属」です。つまり「どのIDがどのデータに、どのポリシーのもとで触れたか」を迅速に示せるかどうかです。AIツールは機械の速度で動き、しばしば「責任を持たせる設計になっていないアカウント」を通じて動作するため、この弱点をより高コストなものにしています。

AIによるPHIアクセスの「防御可能な証拠」とは

AI関連インシデントを調査する際、調査官は大抵次の4つの質問を順不同で投げかけます。「誰（または何）がデータにアクセスしたか？」「正確に何にアクセスしたか？」「どのポリシーのもとで許可されたか？」「その記録が改ざんされていないことを示せるか？」防御可能なプログラムは、これら4つすべてに慌てず答えられる体制です。

まず1つ目の問い。AIリクエストは匿名イベントではありません。ツールを設定した人、利用を承認した人、多くのワークフローでは特定の医師やスタッフがリクエストをトリガーしています。証拠の質は、リクエストを「共有認証情報」ではなく「責任を持つ特定の人間」に紐づけられるかどうかにかかっています。AIエージェントも従業員・委託先・パートナーと同じガバナンスのもと、1つのポリシー体系・IDモデル・行動記録で管理しましょう。

2つ目の問いはスコープです。HIPAAの最小限必要性原則は、保護対象医療情報の利用・開示を目的に必要な範囲に限定することを求めています。アシスタントがリポジトリ全体にアクセスできる場合、この原則は「ツールの善意」ではなく「アクセス時点でのポリシー強制」に依存します。ロールベースや属性ベースアクセス制御により、「誰が・どの条件で・何を見られるか」を人にもAIエージェントにも一貫して適用できます。

3つ目の問いはポリシーです。アクセスが許可されているだけでは不十分で、どのルールが許可したのかを示す必要があります。意思決定そのもの（結果だけでなくプロセス）を記録に残す必要があります。各リクエストを評価し、結果を記録するポリシーエンジンは、単なるイベントリスト以上の「説明責任」をCCOに提供します。

4つ目の問いは整合性です。記録対象者自身が編集できるログは証拠として弱いものです。改ざん検知可能な監査証跡をセキュリティ情報イベント管理（SIEM）に転送し、コンプライアンスチームが照会できるようにすれば、イベントの山が証拠に変わります。

これは、Kiteworks Compliant AIやSecure MCP Serverの設計思想です。AIアシスタントがこの経路でエンタープライズコンテンツに接続する際、各リクエストは承認した人間のIDに紐づけられ、属性ベースポリシーでチェックされ、FIPS 140-3認証暗号化で保護され、改ざん検知可能な監査証跡に記録され、組織のSIEMに転送できます。データポリシーエンジンは、人とAIエージェントの両方に同じガバナンスを適用するため、コンプライアンスチームは複数の記録を突き合わせる必要がありません。CISOダッシュボードやHIPAAコンプライアンスレポートは、機密コンテンツのアクセス・共有状況の報告をサポートします。

このアプローチが「何をカバーし、何をカバーしないか」を正確に理解することが重要です。過大な主張は新たなリスクを生みます。この方法は「データへのアクセス」をガバナンスしますが、「臨床的な推奨の正確性」を判断したり、開発者のモデル性能監視義務を代替したり、AIツールが誤った助言をした際のインシデント対応を肩代わりするものではありません。ガバナンスレイヤーを経由するAIトラフィックに適用され、その内容が保護対象医療情報として扱われるかどうかは、ラベル付けや分類に依存します。AIを「安全にする」約束よりも範囲は狭いですが、その分実用的です。「誰が何にアクセスしたか」という問いに、すでに答えが記録されています。

開発者の責任が終わる場所、あなたの責任が始まる場所

データアクセス証拠を中心に据えたガバナンスプログラムは、臨床AI安全性のすべてではありません。AMAも役割分担に慎重です。2026年10月19日発表のFDA向け生成AI医療機器に関するコメントで、AMAは「導入後も含めた製品ライフサイクル全体で性能を追跡する強力な市販後監視」を求め、メーカーは自社製品の性能に引き続き責任を持つべきだと述べています。また「医師の監督は、デバイスが安全かつ信頼性をもって本来の環境で動作することを示す厳格な証拠の代わりにはならない」とも明記しています。

医療機関にとって、この分担は2つの教訓を示します。第一に、ベンダーの性能監視と導入者のアクセスガバナンスは異なる義務であり、どちらか一方しか契約でカバーされていなければギャップが生じます。第二に、導入者は全責任をベンダーに委ねることはできません。モデル性能の主たる責任がメーカーにあっても、病院側が「誰が使えるか」「どの記録にアクセスできるか」「活動がどう記録されるか」を決め、その証拠を保持する義務は病院にあります。

だからこそ、技術だけでなく契約文言にも注意が必要です。ベンダーには「想定用途」「既知の制限」「性能」「患者データ接続時のログ・帰属管理」について文書を求めましょう。そして自組織側も確認を。各ツールの責任者は誰か、その割り当てはどこに記録されているか。AIリスクの所有者が曖昧な組織や、誰も責任者がいない組織も少なくありません。責任分担フレームワークがあっても、内部の責任体制が未定義では意味がありません。

CISO・コンプライアンス部門のための90日プラン

90日という期間は、Grant Thorntonの監査準備調査のウィンドウと一致し、「現実的な構築期間」としても有用です。計画は、AMAフレームワークが「単なるフレームワーク以上」になるのを待つ必要はありません。

1～30日目：インベントリと帰属管理

臨床・業務データに触れるすべてのAIツール・エージェント（非公式導入も含む）をリストアップしましょう。各ツールについて、アクセス可能なデータ・使用ID・責任者を記録します。共有サービスアカウント経由で動作しているものは「ユニークユーザー識別」に失敗しやすいため、是正リストに追加します。ガバナンスされていない経路で患者データをプロンプトに入力するツールもこの段階で特定しましょう。

31～60日目：ガバナンスされたアクセスとポリシー

AIによる機密コンテンツへのアクセスは、複数の直接統合ではなく、単一のガバナンスレイヤーを経由させましょう。ポリシーは「どの役割が・どのデータクラスを・どの目的で」など、コンプライアンス担当者が読める形で定義します。人とエージェントの両方に同じポリシー言語を適用しましょう。すべてのAIリクエストが人間の承認者に紐づき、ログがセキュリティ監視スタックに転送されていることを確認します。このフェーズの現実的な目標は「最もリスクの高いワークフローのカバー」であり、すべてのワークフローを網羅する必要はありません。

61～90日目：証拠訓練

実際の調査を模した訓練を実施します。患者記録・日付・ツールを1つずつ選び、AIアクセスの完全な記録をチームに提出させます。所要時間を計測し、1営業日を超える場合は「ギャップ」として是正し、まず帰属とログ管理を改善します。その結果をAIガバナンス委員会や取締役会に「露出度と証拠」の観点で報告しましょう。AI統合はポリシーより速く変化するため、訓練は四半期ごとに繰り返します。

これらは、AMAフレームワークの今後の採用動向を待つ必要はありません。どの未来でも必ず問われる「その質問」に答えられる体制を作ることが求められています。

規制下の医療リーダーにとっての意味

AMAフレームワークは「方向性」を示すシグナルです。臨床AIが失敗した際に最終的に誰が支払うかは未確定であり、医療・法務・業界の関係者が今後も議論を続けるでしょう。しかし、方向性は一貫しています。責任は「リスクを制御できる当事者」へと移りつつあり、「患者データへのアクセスを制御する当事者」は医療機関です。

これは「負担」であると同時に「機会」でもあります。AIツールの選定・利用者・アクセス可能なデータ・実際の操作履歴を迅速かつ信頼性高く示せる組織は、ベンダーとの契約交渉や保険会社への対応、規制当局への説明で優位に立てます。逆に、それができない組織は、調査の最中という最悪のタイミングでギャップに気づくことになります。

次回のガバナンス委員会で問うべきは「臨床AIツールが十分賢いか」ではありません。「明日午後までに、誰が・何が・どの患者記録に・どのポリシーのもとで触れたかを証明できるか」です。正直な答えが「まだできない」なら、始めるべき場所は明確です。

AIによる患者データアクセスの監査証拠を整備する方法について詳しく知りたい方は、カスタムデモを今すぐご予約ください。

追加リソース

• ブログ記事
  手頃なAIプライバシー保護のためのゼロトラスト戦略
• ブログ記事
  77%の組織がAIデータセキュリティで失敗している理由
• eBook
  AIガバナンスギャップ：2025年に91%の中小企業がデータセキュリティでロシアンルーレット状態
• ブログ記事
  あなたのデータに「–dangerously-skip-permissions」は存在しない
• ブログ記事
  規制当局は「AIポリシーの有無」ではなく「実効性の証拠」を求めている