患者記録が消費者向けAIツールに流出
プライバシー責任者は、誰も記録しなかった開示について説明することはできません。これは、最近明らかになった2つの事例の核心です。いずれも、患者情報が組織が承認していないAIツールに渡り、規制コンプライアンス担当者が事後にその事実を知ったというものです。
ある大学医療センターは、放射線研究の研究データが自組織のポリシーに違反してAIや機械学習ツールに入力されていたことを公表しました。別の事例では、ワシントン州の移行期ケア施設のスタッフが、個人のChatGPTアカウントを使い、氏名・診断名・薬剤名を含むケースノートの要約を作成していました。いずれのケースも典型的な攻撃ではありません。誰かが侵入したわけではなく、正当なアクセス権を持つ人が患者データを本来移してはいけない場所に移動させたのです。
この違いは、防御方法にとって重要です。境界防御ツールは外部からの侵入を防ぐために作られていますが、今回の事例は内部の人間が業務効率化を図った結果です。本記事では、それぞれの事例の内容、HIPAAが求める証明事項、実際のギャップがどこにあるか、そして医療従事者や研究者の生産性を損なわずにそのギャップを埋める方法を解説します。
主なポイント
- 漏洩は攻撃ではなくアクセスの問題。 正規の認証情報を持つスタッフが、承認されていないツールに患者データをコピーしたため、外部向けのコントロールでは検知できませんでした。
- 2つの事例が2つのパターンを示す。 ひとつは研究チームによる画像データのアップロード、もうひとつはスタッフが個人アカウントでケースノートを要約したケースです。
- 調査によればこの行動は一般的。 Wolters Kluwer Healthの2025年12月の調査では、回答者の40%が未承認AIツールに遭遇し、約20%が実際に利用したと認めています。
- コンプライアンスの負担は証明義務。 対象組織は開示の調査・評価・記録が求められ、環境外に出た情報の記録が必要です。
- 統制されたチャネルが禁止より有効。 ログとポリシー強制がある承認済みの経路を医療従事者や研究者に提供すれば、抜け道を探す理由がなくなります。
2つの組織が公表した内容
詳細はThe HIPAA Journalの報道によるもので、本記事執筆時点で直接参照できなかったため、以下の内容は二次情報として扱い、引用時は各組織の公式通知でご確認ください。
その報道によれば、大学医療センターは2026年9月、放射線研究で使用された保護対象健康情報(PHI)がAIや機械学習ツールに入力されていたことを発見しました。アップロードは2026年6月に行われていました。データには氏名、連絡先、社会保障番号、財務情報は含まれていなかったものの、医療記録番号、放射線アクセッション番号、サービス日時、施設名・提供者名、診断や治療、手術歴、薬剤などの臨床情報が含まれていたとされています。医療センターは悪用の痕跡はなかったとし、研究活動を停止し削除を依頼しました。影響を受けた人数は公表されていません。
ワシントン州では、同じ報道によるとLake Burien Transitional Care Facilityのスタッフが個人のChatGPTアカウントを使いケースノートの要約を作成していました。州の社会保健サービス局は1件の事例を特定し、さらに過去の複数の事例も確認、12家族に通知しました。また、Western State Hospitalでも4名の患者に関する類似の事例があったとされています。
両事例に共通して欠けているのは、強制執行や罰則の記述です。いずれも調査と通知を引き起こした開示事案であり、だからこそ研究対象として有用です。悪意のないAI利用が問題化した際の実態を示しています。
HIPAAコンプライアンス要件の完全チェックリスト
Read Now
医療記録番号や日付が依然として重要な理由
医療センターの報告の中で、見過ごされがちな点があります。データには氏名や社会保障番号が含まれていなかったという記述です。これを読んだ人は、漏洩の影響は小さいと考えるかもしれません。
しかし、HIPAAはそうはなりません。プライバシールールは保護対象健康情報(PHI)を広く定義しており、医療記録番号やサービス日などの識別子は個人を特定できる要素に含まれます。Safe Harbor方式による非特定化には、多くの識別子の削除が求められ、そのリストには医療記録番号や多くの日付要素も含まれます。これらが残るデータセットは、一般的に依然としてPHIです。
この点で研究チームが陥りやすい落とし穴もあります。研究者はデータを分析材料として扱いがちで、直接的な識別子を外せば十分だと考えがちです。HIPAA最小限必要ルールは、利用目的に必要な範囲にデータ量が限定されているかを問います。特定可能な臨床情報を、必要のない外部ツールに送ることは、このルールが防ごうとする典型例です。
事例の背後にあるシャドーAIの実態
もしこれらが単発のミスであれば、教育の問題で済みます。しかし調査結果は、むしろパターン化していることを示唆しています。
Wolters Kluwer Healthは、2025年12月にCITE Researchを通じて、医療従事者518名(提供者と管理者が半数ずつ)を対象にオンライン調査を実施しました。リリースによれば、回答者の40%が組織内で未承認AIツールに遭遇し、約20%が実際に利用し、約10人に1人は患者ケアの現場で未承認ツールを使ったと報告しています。注目すべきはその設問内容で、調査は遭遇・利用の有無を測っており、PHIの漏洩量を問うものではありません。また、調査元は業界関係者です。
もう一つのデータポイントは医療以外の分野からです。National Cybersecurity AllianceとCybSafeのOh, Behave!調査によると、職場でAIを使う人の32%が、雇用主に知られずに機密データをAIツールに共有していました。対象は異なりますが、行動は同じです。
これらの数字は傾向を示すものであり、各組織の実際のリスクを示すものではありません。ただし、「自組織のスタッフはやっていない」という前提は根拠が薄く、シャドーAI利用ゼロを主張する組織は可視性が不足している可能性が高いと言えます。
HIPAAが求める「証明できること」
まずルールの範囲を確認しましょう。HIPAAにはAIに特化した規定はありません。重要なのは既存ルールを新しいツールに適用することです。
PHIが有効なビジネスアソシエイト契約やその他の許可なく第三者に開示された場合、それは原則として許容されない開示です。違反通知の枠組みでは、そのインシデントが報告対象となるかどうかをリスク評価で判断します。評価には情報の性質、受領者、取得・閲覧の有無、リスクの軽減状況などが含まれます。これらを現実の事実に基づいて評価できる必要があります。
ここで記録が重要になります。AI関連の開示を評価するには、どの患者データが、いつ、誰によって、どのツールに送られ、受領者が保持したかどうかをプライバシー責任者が把握する必要があります。個人端末の消費者向けAIアカウントでは、こうした記録が組織側には一切残りません。発覚は内部告発や行政機関、監査などからしか得られません。
開示記録の要件も同じ方向を示します。個人は自身のPHIの特定開示について記録の開示を請求する権利があり、対象組織はそれを提供できなければなりません。チャットボットへの未記録の貼り付けは、記録プロセスが検知できない開示です。AI開示が記録要件の対象かどうかは事実や例外によりますので、法務と相談してください。ただし運用上のポイントは同じです。システムが記録していない事象については、質問に答えることができません。
より広いセキュリティ面では、HIPAAセキュリティルールが監査コントロールやアクセス管理を求めています。HHSが2025年初頭に提案したセキュリティルール改正案はまだ最終化されておらず、現時点では暗号化はアドレス指定仕様のままですので、新要件がすでに施行されていると誤って伝えないようにしましょう。現行の監査コントロール基準だけでも十分に議論できます。電子PHIに関する活動を確認できない場合、そこにギャップが生じます。
消費者向けAIのブロックではギャップは埋まらない
反射的な対応は、ChatGPTなどをネットワーク境界でブロックすることです。これは部分的には有効ですが、戦略としては不十分です。その理由は3つあります。
スタッフは個人端末や個人アカウントを使います。Lake Burienの事例が示す通り、ネットワークブロックは携帯回線のスマートフォンには無力です。
次に、ツールは増え続けています。今やほぼすべての生産性アプリケーションにAIアシスタントが組み込まれています。今日作ったブロックリストは、翌月には陳腐化します。
そして、行動を促す根本的な動機は残ります。長時間勤務後にケース要約を作成する医療従事者には現実的な課題があり、AIツールはそれを解決します。代替手段を提示せずにツールだけを取り上げれば、別の抜け道が探されます。動機を無視することがシャドーAIの拡大を招きます。
より持続可能なアプローチは、統制された環境内でニーズを満たすことです。研究チームが放射線データで機械学習を使いたい場合は、データがポリシー下に留まり、プロジェクトに必要な範囲だけアクセスでき、すべての操作が記録されるチャネルを用意します。医療従事者が要約を作成したい場合は、制御されたアクセスを通じてのみ患者情報に到達できる承認済みアシスタントを提供します。
統制された経路とはどのようなものか
患者データ向けの統制されたAI経路にはいくつかの特徴があり、それぞれがコンプライアンス上の問いに対応します。
アイデンティティ。AIは認証済みユーザーの代理として動作し、その権限を超えることはありません。これにより、誰がアクセスを許可したかを説明できます。
アクセス時点でのポリシー適用。各リクエストはデータの機微性、ユーザーの役割、コンテキストに基づくルールで評価されます。これにより最小限必要基準を満たし、研究アシスタントがプロトコル外の記録にアクセスするのを防ぎます。
完全なログ記録。すべてのAI操作が後から再現できる十分な詳細で記録されます。これによりプライバシー責任者が違反リスク評価を行い、患者からの開示記録請求に事実で応答できます。
モデル内に認証情報を残さない。認証トークンはAIが読み取れない場所に保持し、プロンプトインジェクションリスクの一種を遮断します。
Kiteworksは、Secure MCP ServerやKiteworks Compliant AIをこれらの特性に基づき設計しています。AIアシスタントがKiteworksのセキュアデータ交換内のコンテンツにアクセスする際も、人間ユーザーと同じ役割・属性ベースのポリシーと統合された監査ログで統制されます。正直な限界はスコープです。Kiteworksは今回のいずれの事例でもデータ経路に関与しておらず、スタッフが個人端末で個人アカウントにテキストを貼り付けるのを防ぐことはできません。ただし、Kiteworks経由で患者コンテンツにアクセスする場合は、アクセスが統制・記録されます。これはプライバシー責任者が最も重要なコンテンツについて必要とする証拠であり、スタッフが「何を使ってよいか」と尋ねた際に具体的に示せる根拠となります。支援フレームワークについては、AIデータ保護ガイダンスやHIPAAコンプライアンスをご参照ください。
プライバシー・セキュリティ責任者のための30日間プラン
進捗のために大規模なプログラム改訂は不要です。1か月でできる4つのアクションを紹介します。
第1週は、臨床・研究・管理部門のリーダーに率直な質問を投げかけましょう。「業務で使っているAIツールは何ですか?個人利用も含めて教えてください。」正直な回答には処分しないと約束します。目的は実態把握であり、アムネスティ(不問)方式の方が強制よりも正確な情報が得られます。
第2週は、利用ケースを分類します。PHIを全く扱わないタスクと、PHIを扱うタスクを分けます。PHIを扱うケースについては、承認済みツールで対応できるものと中止すべきものを判断します。
第3週は、最も利用頻度の高いケースに対し、統制された経路を1つ用意します。ポリシー強制とログ記録ができるチャネルを経由させ、テスト操作の記録を抽出してログが機能することを証明します。
第4週は、違反リスク評価手順と開示記録プロセスをAI関連事象に対応するよう更新し、シナリオでテストします。何が共有されたか判明するまでにかかる時間も計測しましょう。
また、なぜ個人AIアカウントが患者データに使えないのか、代わりに何を使うべきかを説明する短く具体的なスタッフ向けメッセージを用意しましょう。代替策があれば人はルールを守ります。PII・PHIの取り扱いガイダンスも併せて案内し、何が該当するかスタッフが理解できるようにします。
次回コンプライアンス委員会に持ち込むべきこと
この問題は、明確な責任者がいる記録管理の課題として整理しましょう。組織にはすでに開示の調査・評価・記録義務があります。AIはPHIが流出する新たな経路を生み出しましたが、現行の記録ではそれを捕捉できていません。
3つの事実を提示しましょう。これらの事例は攻撃ではありませんでした。調査結果は行動が広く蔓延していることを示しています。そして、解決策は禁止ではなく、ログ付きの統制された代替手段です。その上で、まずどの統制経路を構築するか、ログの週次レビューを誰が担当するかの決定を委員会に求めましょう。
この課題をうまく乗り越える組織は、最も厳しいポリシーを持つ組織ではなく、規制当局や影響を受けた患者からの「自分のデータに何が起きたのか、どうやってそれを知ったのか」という問いに迅速かつ証拠をもって答えられる組織です。
研究データには独自のコントロールが必要
大学医療センターの事例は研究活動が関与しており、研究環境には臨床業務とは異なるリスクがあります。研究者はデータをシステム間で移動し、新しい分析ツールを適用し、機関を越えて協力します。スピードや柔軟性を重視し、識別可能なデータを規制対象ではなく作業材料として扱うこともあります。
機械学習はこの傾向を一層強めます。研究者が画像データでモデルを試す際、ローカル環境に十分な計算資源がなければ外部ツールを使いたくなります。アップロードは技術的な作業に感じられますが、規制上は第三者への開示です。研究プログラムを運営する機関は、識別可能データや限定データセットの送信先、例外承認の手続きと記録方法について明確なルールを設ける必要があります。
有効なコントロールとしては、分析環境の承認リストを維持し、それぞれに適切な契約・セキュリティレビューを実施すること、利用可能なツールを明記したデータ利用契約を義務付けること、データを外部に出さずに分析できる統制ワークスペースを用意し、利便性とコンプライアンスを両立させること、そして研究データセットへのアクセスを個々の操作単位でログ記録することが挙げられます。アップロードが発生した場合も、即座に確認できます。
また、倫理審査委員会とプライバシー責任者は連携すべきです。研究プロトコルはデータ取扱いについて一般的な記述にとどまることが多いですが、AIや機械学習ツールの利用について承認済み選択肢を明記する短いセクションを追加することで、曖昧な期待値を具体的なコミットメントに変えられます。
ビジネスアソシエイト契約とベンダー精査
多くの組織は、エンタープライズAIプランに加入すればHIPAA問題が解決すると思いがちですが、実際には契約内容次第です。
ビジネスアソシエイト契約は、ベンダーが対象組織の代理でPHIを取り扱うことを許可する契約です。これがなければ、ベンダーへのPHI開示は原則として許容されません。契約があれば、ベンダーは安全管理・利用制限・違反報告などの義務を負います。特定のAI製品がカバーされるかどうかは、ベンダーの提供内容・プラン・設定によるため、マーケティング資料ではなく契約条件を確認してください。
ベンダーには具体的な質問をしましょう。この製品・プランが契約の対象か?顧客データはモデル学習に使われるか?契約・技術的にオフにできるか?データの保存場所と期間は?ユーザーが送信した内容のログは取得できるか?契約終了時のデータ処理は?ベンダーの違反通知期間は?
その上で、製品で実際に検証しましょう。データを学習に使わないという契約も、設定が合致していなければ意味がありません。機微性の低いデータでテストし、保存動作を確認し、結果を記録します。
最後に、承認済みベンダーは既知の経路しかカバーできないことを忘れないでください。Lake Burienの例は個人アカウントであり、契約の対象外でした。ベンダー精査とシャドーAI対策はプログラムの両輪です。基礎となるデータ分類については、KiteworksのPII・PHI概要やAIデータガバナンスガイドをご参照ください。
AIが患者データに触れた際に記録すべきこと
ログ記録は約束しやすく、間違えやすいものです。ユーザーのログインだけを記録しても、プライバシー責任者にはほとんど意味がありません。AIによる患者コンテンツアクセスの有用な記録には、いくつかの要素が必要です。
AIが代理で動作した人物の身元と、AIシステム自体の識別。アクセスした具体的なコンテンツ(ファイルや記録単位まで)。実行した操作(閲覧、要約、コピー、ダウンロードなど)。時刻。評価されたポリシーとその結果(拒否も含む)。そしてデータの送信先。
保存期間も内容と同じくらい重要です。違反調査は、大学医療センターのタイムラインが示す通り、事象発生からかなり後に始まることもあります。30日で消えるログでは調査に対応できません。規制・調査ニーズに合わせて保存期間を設定し、改ざんから保護しましょう。
ログを活用可能な形にしましょう。SIEMに連携し、AIアカウントによる患者記録の大量アクセスなど異常パターンでアラートを発報できるようにします。また、セキュリティエンジニアだけでなくコンプライアンス担当者もクエリできるようにしましょう。プライバシー責任者がチケットを切って1週間待たないと回答が得られない状況では、通知期限を守れません。
行動を変えるトレーニング
年1回のコンプライアンス研修だけでは、AIツールの使い方は変わりません。効果的なのは、具体的・実践的で、意思決定の瞬間に合わせた教育です。
自組織の業界で実際に起きた事例を使いましょう。医療センターやLake Burienのケースは、ノート要約やモデル探索といった日常業務であり、現実味があります。関係者が悪意のある人物ではなく、入力したデータに重要な識別子が含まれていたことを示しましょう。
禁止事項と同時に代替策も提示しましょう。できないことだけを学んだスタッフは抜け道を探します。承認済みアシスタントの存在・できること・アクセス申請方法まで伝えれば、利用されやすくなります。
報告を安全に行える環境を作りましょう。誤ってPHIを消費者ツールに貼り付けた場合も、即座に報告でき、自動的な処罰を恐れなくてよいようにします。早期報告は違反評価を迅速化し、削除依頼などの対策も有効なうちに実施できます。
現場でリマインダーを強化しましょう。承認済みアシスタントのバナーや研究データポータルの注意書き、臨床文書テンプレートの一文など、スライド資料以上の効果があります。定期的なアンケートや統制チャネルのログで効果を測定し、改善しましょう。
統制されたAIアクセスの実際を確認したい場合は、Kiteworksのデモをリクエストし、監査証跡を弊社チームとご覧ください。
よくある質問
場合によっては違反となります。ビジネスアソシエイト契約やその他の許可がない場合、消費者向けAIサービスへのPHI開示は原則として許容されません。署名済み契約があるエンタープライズ向けサービスは扱いが異なります。ベンダーの契約条件を確認し、法務と相談してください。HIPAAコンプライアンス要件もご参照ください。
医療記録番号、アクセッション番号、サービス日など他の識別子が残っていれば、データはPHIのままです。非特定化には定義された識別子の削除または専門家による判断が必要です。研究者はこの点を見落としがちです。PII・PHI概要もご参照ください。
率直なスタッフアンケートと、ネットワークやエンドポイントのテレメトリなど技術的シグナルを組み合わせ、結果を比較します。アンケートはツールで検知できない個人端末の利用を明らかにします。アムネスティ方式で率直な回答が得られます。承認済み利用はログ付きチャネルに誘導し、完全な監査証跡を構築しましょう。
関与したデータ、受領者、取得・閲覧の有無、リスク軽減状況をカバーする文書化された違反リスク評価によります。報告義務が生じる事例もあれば、そうでない場合もあります。州法で追加義務が課されることもあります。いずれの場合も判断理由を記録し、法務と相談してください。
役割・属性ベースのポリシーと完全なログ記録のもと、制御されたアクセス経由でのみ患者コンテンツに到達できる承認済みアシスタントを提供しましょう。個人アカウントが禁止される理由も併せて教育します。統制されたAIアクセスモデルもご参照ください。
追加リソース
- ブログ記事
ゼロトラスト戦略で実現する手頃なAIプライバシー保護 - ブログ記事
77%の組織がAIデータセキュリティで失敗している理由 - eBook
AIガバナンスギャップ:2025年に91%の中小企業がデータセキュリティでロシアンルーレット状態に - ブログ記事
あなたのデータに「–dangerously-skip-permissions」は存在しない - ブログ記事
規制当局は「AIポリシーがあるか」ではなく「機能している証拠」を求めている