AI搭載アプリ、セキュリティが甘いまま出荷

2026年、企業データが最も速く漏洩する方法は、AIツールで便利なものを作り、誰がアクセスできるかを確認し忘れることです。過去1週間の2つの事例は、同じ失敗が異なる方向から起きていることを示しています。1つは、従業員がAIビルダーでアプリを作成し、リンクを知っていれば誰でもアクセスできる状態にしていたケース。もう1つは、ホスティング会社のAIアシスタント用コネクタが侵入口となったケースです。

Clarocのセキュリティ研究者は、Grokで作成された数万件のアプリがサインイン不要で公開されていることを発見し、その中にはSpaceXSIやXの従業員が作成した24件も含まれていました。一方、ドイツのウェブホストMittwaldは、自社のModel Context Protocolサーバの脆弱性を悪用され、56件の顧客プロジェクトが侵害されたと発表しました。1つはAIで何を作るか、もう1つはAIが何と接続できるか、という問題です。

どちらも結末は同じです。機密情報が誰も確認しなかった扉の向こうにあり、組織は第三者からその事実を知らされます。CISOやコンプライアンス責任者にとっての教訓は、特定のベンダーの失敗ではなく、AIによってシステムの構築や連携コストがガバナンスコストよりもはるかに速く下がってしまったことです。

主なポイント

  1. 簡単に作れるものは、簡単に公開される。 Clarocは、Grokで作成された35,578件のアプリがアカウント不要で公開されていたと報告しており、これは回答のあったアプリの約94.7%に相当します。
  2. 作成者は外部の不注意な人物ではない。 公開状態だった24件のアプリはSpaceXSIとXの従業員によるもので、デフォルト設定や習慣が専門知識よりも重要であることを示唆しています。
  3. AIコネクタは攻撃対象となる。 Mittwaldは、ホスティングパネルとAIアシスタントをつなぐサーバの脆弱性が56件の顧客プロジェクト侵害につながったと特定しました。
  4. どちらのケースも検知が遅れた。 Mittwaldは悪用に気付くまで8日かかり、Grokアプリの公開も外部研究者によって発見されました。
  5. ガバナンスはデータから始めるべき。 AIで作成されたアプリやAIコネクタが何にアクセスできるかを制御し、ログを残すことが、すべてのツールを監視するよりも重要です。

ClarocがGrok製アプリで発見したこと

ClarocはGhostShares 2というレポートで調査結果を公開しています。以下の数字はそのレポートに基づきます。

研究者は商用パッシブDNSサービスからgrok.meドメイン配下の名前をリスト化し、10月31日から毎日クエリを行い、11月8日にリストを取得しました。読み込まれたアプリは43,551件、そのうち35,578件がサインイン不要で公開されていました。さらに1,993件は認証エラーを返しました。Clarocによれば、回答のあったアプリの約94.7%が誰でもアクセス可能だったとのことです。残りのアプリについてはレポートで説明されていません。

次にコンテンツについて。ClarocのAIによる判定では、約10件に1件が機密情報、社内データ、個人データを含んでいました。約2%が高リスクまたはクリティカルと判定され、厳格な再判定では実際より多くカウントされている可能性が高く、実数は約650~800件と推定されています。手作業で150件の漏洩を確認しました。例としてICU患者のブリーフィング、病院スタッフの勤務表、消防署のシフトボード、平文パスワード付きのタイムシートアプリなどがありました。SpaceXSIやX以外にも30組織が特定され、そのうち26社は従業員1,000人超、6社はFortune 500企業でした。

この調査手法は数字の読み方に影響するため注記が必要です。Clarocは各アプリの最初のページに1回だけアカウントなしでアクセスし、発見した認証情報は使わず、ページはオフラインでレンダリングしました。AI判定アプリ100件のスポットチェックでは75件が妥当でした。つまり、これは全アプリの監査ではなく、慎重な推定値です。

SpaceXSIの回答(レポートによる)は、Grokアプリは作成者が共有を選択するまで非公開であり、従業員アカウントのデフォルト設定は「Only you」だというものです。しかし研究者は、追加の公開手順がデータ保護になるとは限らず、自身のアカウントでは「Anyone with the link」が事前選択されていたと指摘しています。SpaceXSIは記者の問い合わせ後、従業員作成の24件のアプリを削除しましたが、他ユーザーのアプリは削除しませんでした。

本当の脆弱性はデフォルト設定

これを特定ベンダーの設定問題と捉えるのは簡単ですが、それでは本質を見落とします。

ツールが簡単に構築できる場合、作成者はセキュリティエンジニアではありません。マーケティング担当者がダッシュボードを作り、看護師長がシフト表を作り、経理担当がタイムシートアプリを作ります。誰もが同僚と共有したいと思い、最も簡単な方法はリンクの共有です。ログインが必要かどうかは、多くの作成者が気付かない設定に依存します。

これは、より高速化したシャドーITです。10年前なら非公認システムはメールで回されるスプレッドシートでしたが、今は公開アドレス付きのホスト型アプリで、裏にはデータベースがあり、場合によっては認証情報も埋め込まれています。規模も発見経路も異なります。攻撃者や研究者はDNSレコードを使って公開アプリを列挙でき、ネットワークに触れる必要すらありません。自社スキャナで発見を待つと、彼らより遅れることになります。

NCAとCybSafeのOh, Behave!調査では、職場のAI利用者の32%が雇用主に無断で機密データを共有したと報告されています。これにデフォルトで公開されるAIビルダーが組み合わされば、Clarocが発見した状況が生まれます。1つの調査結果として捉えるにしても、実際の行動とよく一致している点に注目すべきです。

MittwaldとAIコネクタの課題

2つ目の事例は、AIアシスタントとプラットフォームの間に位置するソフトウェアに関するものです。ドイツのウェブホストMittwald CM Serviceは、代理店向けにmStudioというホスティング管理パネルを提供しており、顧客がAIアシスタントを接続できるModel Context Protocolサーバを用意していました。

Mittwald自身の説明(webhosting.todayやThe Recordによる報道)によれば、攻撃者は10月にMCPサーバの脆弱性をテストし、通常ユーザーとしてプラットフォーム内を移動、10月27日に別アカウント登録から5分で脆弱性を悪用しました。攻撃者はパスワードではなくセッショントークンをサーバ利用顧客から取得し、56件のプロジェクトを侵害しました。Mittwaldは11月4日に異常を検知し、一部システムをオフライン化、MCPサーバが侵入口と特定し停止。外部のフォレンジック専門家を招き、関係当局に報告し、予防措置としてトークンの無効化やAPIキーのブロックを実施しました。

いくつか注目すべき点があります。Mittwaldは脆弱性を特定し修正したとし、MCPサーバの再稼働については未定です。サーバを一度も利用していない顧客は影響を受けていないとしています。現時点で顧客データが公開された証拠は見つかっていませんが、調査は継続中です。CEOはAIを利用した攻撃が今後増加すると予想し、攻撃者の迅速な動きからAIツールの関与を示唆しています。

Mittwaldは脆弱性の詳細を公表していないため、会社発表以上の原因推定は避けてください。

2つの事例に共通するもの

表面的には無関係に見えますが、1つは消費者向けAIビルダー、もう1つはエンタープライズ向けホスティングコネクタです。しかし、根底では3つの共通点があります。

認可が緩かった。Grokではオープンリンクがアクセス制御の役割を果たし、Mittwaldでは攻撃者が取得したセッショントークンが鍵となりました。どちらも高度な侵入ではなく、誰でも使える認証情報やリンクが問題でした。

可視性が低かった。関係組織の誰も、何が作られ、何が接続されているかを完全に把握していませんでした。Mittwaldは悪用から検知まで8日かかり、Clarocは外部から利用可能なDNSデータで漏洩を発見しました。

被害範囲はデータに依存した。トークンでプロジェクトが開かれ、オープンリンクで業務データが露出しました。攻撃者が到達できる範囲は、アプリやコネクタがアクセスできる範囲で決まり、攻撃の巧妙さではありません。

だからこそ、ゼロトラスト・ジェネレーティブAIの考え方が有効です。すべてのAI製アプリやAIコネクタを信頼しないアクセサとして扱い、リクエストごとに認証を求め、アクセス範囲を制限し、すべての操作を記録します。

CISOが今四半期にやるべきこと

まず現状把握から始めましょう。外部資産発見を使い、自社に紐づく公開ホスト名(AIビルダードメインも含む)を列挙し、各事業部門に何を作成したか直接確認します。「作るな」というポリシーに頼らず、既に作られている前提で臨みましょう。

次に、AIビルダーのルールを定めます。承認済みツールを決め、業務データや個人データに触れるものは必ずサインインを必須とし、デフォルトを非公開にします。ツール側で強制できない場合は、機密性の低い用途に限定しましょう。

続いてAIコネクタを棚卸しします。すべてのMCPサーバ、プラグイン、API接続をリスト化し、誰が使えるか、何が読み書きできるか、認証方法、ログの保存先を記録します。Mittwaldの事例は、コネクタが信頼された経路で脆弱性を持つと何が起きるかを示しています。

その後、検知時間を短縮します。コネクタやアプリケーションのログをSIEMに流し込み、異常なトークン使用、新規アカウント作成直後の特権操作、機密経路へのアクセスをアラート化します。8日間も攻撃者がセッションを保持するのは長すぎます。

最後に、トークンが関わるインシデント発生時は認証情報をローテーションします。Mittwaldが顧客に推奨した「パスワード変更、多要素認証有効化、APIキーの見直し、プロジェクト内の第三者認証情報の更新」は参考になります。MFAだけでは盗まれたセッショントークンを防げませんが、回避経路を狭めることができます。

コンプライアンス責任者が問うべきこと

コンプライアンスリーダーは、異なる形でこの課題に直面します。AIで作成されたアプリが個人データを保持している場合、悪意ある行為者がいなくてもプライバシーインシデントとなり得ます。アプリに健康情報が含まれていれば、HIPAAの義務が発生します。EU居住者のデータを保持していれば、GDPRの義務が、誰が作成したかやスピードに関係なく適用されます。

5つの質問をしましょう。どのAIビルダーやコネクタが使われており、誰が承認したのか?どのカテゴリーの規制データが投入されたのか?どれが認証を必須にしているのか?ログはどこにあり、どれくらい保存されているのか?発見・評価・報告のプロセスはどうなっているのか?

もし回答が記録ではなく善意に依存しているなら、ClarocやMittwaldが明らかにした可視性ギャップと同じです。規制当局や監査人が求める証拠は、意図の表明ではなくインベントリとログです。強固なアクセス制御やサードパーティリスク管理の実践は、AIベンダーにも他のサプライヤー同様に適用されます。

アプリ背後のデータガバナンス

すべてのAIツールを監視するのは終わりなき競争です。新しいビルダーやコネクタは毎週のように登場します。持続的なコントロールはデータの側にあり、どのツールからのリクエストでもポリシーがコンテンツに追従できるようにします。

パターンは4つの要素から成ります。AIアシスタントやエージェントは、管理されたチャネルを通じてのみ機密データにアクセスできます。すべてのリクエストは認証され、属性ベースのポリシーで評価されます。認証情報はモデルの手の届かない場所に保管され、プロンプトで抽出されることはありません。そして、すべての操作はセキュリティチームが検索可能な1つの監査ログに記録されます。

KiteworksはこれをSecure MCP Serverに組み込み、AIアシスタントがKiteworksのセキュアデータ交換内のコンテンツにユーザー権限を継承してアクセスできるようにし、トークンはOSの認証情報ストアに保管されます。また、Kiteworks Compliant AIは同じポリシーエンジンとログ機能をAIワークフローにも拡張します。Kiteworksは他のAIツールで作成されたアプリやホスティングプロバイダの管理パネル内では動作しませんが、Kiteworksプラットフォーム内のコンテンツへのAIアクセスを管理し、その記録を残します。最も機密性の高いファイルがそこにある組織にとっては、未知の山をログ付きの管理可能な課題に変えることができます。より広範な設計については、AIデータ保護やロールベースアクセス制御を参照してください。

より大きな教訓

AIによって誰でも素早くソフトウェアを作れるようになりましたが、攻撃者が求めるもの(アクセス可能なデータ)は変わりません。どの組織も、セキュリティチームが手作業でレビューできる以上のアプリ、コネクタ、作成者を抱えることになります。

だからこそ、事前に「交渉不可」のルールを決めておきましょう。機密データは管理されたチャネル経由でしかアクセスできません。すべてのAIアクセサは認証・制限され、すべてのアクセスは記録されます。そして、未知の存在を発見するまでにかかる時間を測定しましょう。Mittwaldのように日単位、Grokアプリのように永遠に発見できない場合は、その数字を最優先で改善すべきです。

従来のアプリケーションセキュリティが見逃す理由

アプリケーションセキュリティプログラムは、エンジニアリングチームが書き、レビューし、管理されたパイプラインでデプロイするコードを前提に発展してきました。しかしClarocの調査対象アプリはその経路を辿りません。ビジネスユーザーがベンダー環境内で作成し、ワンクリックで公開されます。

これにより、いくつかの前提が崩れます。レビューすべきプルリクエストも、ビルドパイプラインでのスキャンも、セキュリティチケットもありません。ホスト名はベンダーのドメインにあり、自社DNSインベントリに現れません。データは作成者が設計したフォーム経由で入り、データ分類も適用されません。責任者本人も「ソフトウェアを作った」という意識がない場合があります。

コントロール戦略は、露出が発生する場所から始める必要があります。発見は外部から、外部攻撃面ツールやパッシブDNS検索で自社名やブランドがAIビルダードメインにないか調べます。ガバナンスはデータに注目し、アプリの危険性は保持するコンテンツにあるためです。ポリシーはユーザーに届く必要があり、公開の判断は作成者次第だからです。

シンプルなルールセットを検討しましょう。顧客・患者・従業員・財務データに触れるAI製アプリは必ず認証を必須とし、所有者を登録します。登録のないアプリは通知後に削除します。機密カテゴリは、契約上の保護がある承認済みエンタープライズツール以外のAIビルダーでは利用禁止とします。これらのルールは、アプリが見えるようになれば簡単に表明・実施できます。

コネクタ・ビルダーのためのレビューゲート

新しいAIビルダー、プラグイン、MCPコネクタは、会社データと連携する前に簡易レビューを通すべきです。レビューは時間をかける必要はなく、1ページのチェックリストで大半のリスクをカバーできます。

認証:ツールはシングルサインオンをサポートし、公開アウトプットにデフォルトでログインを必須としていますか?管理者がその設定を強制できますか?

認可:コネクタは何を読み書きできますか?権限はユーザー自身のアクセス範囲に限定できますか、それとも広範なサービスアカウントで動作しますか?Mittwaldの事例では、攻撃者が取得したトークンが標的だったため、トークンの発行・保管・失効方法が重要です。

ロギング:ツールは誰がいつ何をしたか記録しますか?そのログはSIEMで利用可能な形式で取得できますか?

データ管理:データはどこに保存され、どれくらい保持され、トレーニングに使われますか?プロジェクト削除時はどうなりますか?

脆弱性対応:ベンダーは問題をどう開示・修正しますか?セキュリティ連絡先はあり、対応時間は明示されていますか?

エグジット:問題発生時に迅速にツールを無効化でき、データのエクスポートや削除は可能ですか?

結果を記録し、年1回またはベンダーにインシデントがあれば早期に見直しましょう。このプロセスは多くのチームがSaaSアプリで既に実施しているものと同様です。違いは量とスピードなので、現場が使える軽さを保ちましょう。大手ベンダーにはサードパーティリスク管理レビュー、OSSコンポーネントにはサプライチェーンリスク管理を組み合わせてください。

効果を示す指標

指標がなければ、ガバナンスは単なる文書化で終わります。少数の指標で健全性を保ちましょう。

既知のAI製アプリ・コネクタの数と、所有者が明示されている割合。認証必須の割合。公開アプリ作成から自社チームによる発見までの平均時間(外部発見時期との比較)。広範なサービスアカウント権限を持つコネクタの数。インシデント後のトークン失効までの平均時間。ガバナンスされたログ付きチャネル経由のAIデータアクセスの割合。

これらを時系列で追跡し、傾向を提示しましょう。ガバナンスされたアクセスの割合増加と発見時間短縮は、リスク件数の静的な把握より有益です。数字が停滞した場合は原因を調査し、たいていは承認ルートが遅いと感じる事業部門が見つかります。

虚栄的な数字には注意しましょう。例えばブロックされたリクエスト数は、攻撃者の探索かツールの誤検知かで増えることがあります。露出や証拠に紐づく成果指標を優先し、定期的な演習と組み合わせてください。自社従業員の公開AIアプリをレッドチームが探す演習は、ダッシュボードより多くの学びをもたらします。

ガバナンスされたAIコネクタがポリシーを強制し、全リクエストを記録する様子は、Kiteworksデモをリクエストし、監査証跡を弊社チームと一緒にご覧ください。

よくある質問

外部資産発見を用いて、AIビルダードメイン上の自社に紐づくホスト名を探し、パッシブDNSデータを検索し、事業部門に正直に申告してもらうよう直接確認します。結果をネットワークやIDログと組み合わせ、業務データに触れるものはサインインと承認を必須にしましょう。詳細はAIデータガバナンスを参照してください。

Model Context Protocolサーバは、AIアシスタントが標準インターフェースを通じてシステムに接続し操作できるようにするものです。Mittwaldの事例のように、広範なアクセス権限を与えたり脆弱性がある場合、リスクとなります。権限を制限し、すべてのリクエストを認証・記録しましょう。

ツールや設定によって異なります。Clarocの調査では、研究者自身のアカウントで「Anyone with the link」が事前選択されていましたが、SpaceXSIは作成者が共有するまで非公開と説明しています。各ツールのデフォルトを必ず確認し、標準を非公開に設定しましょう。アクセス制御も強化してください。

コネクタをオフラインにし、トークンやAPIキーを失効させ、露出期間中のログを確認し、影響を受けたシステム内の認証情報をローテーションし、必要に応じて関係者に通知します。Mittwaldの対応は参考になります。自社のインシデント対応計画に従ってください。

MFA単体では防げません。MFAはログイン段階を保護しますが、盗まれたセッショントークンはそれを回避できます。MFAに加え、トークンの有効期間短縮、失効、条件付きアクセス、異常利用の監視を組み合わせましょう。MFAの詳細はこちら。

追加リソース

  • ブログ記事 ゼロトラストアーキテクチャ:信頼せず、常に検証
  • 動画 Microsoft GCC High:防衛請負業者がより賢い選択肢へ移行する理由
  • ブログ記事 DSPMで機密データが検出された後の保護方法
  • ブログ記事 ゼロトラストアプローチで生成AIへの信頼を構築するには
  • 動画 ITリーダーのための機密データ安全保管ガイド

まずは試してみませんか?

Kiteworksを使用すれば、規制コンプライアンスの確保とリスク管理を簡単に始めることができます。人、機械、システム間でのプライベートデータの交換に自信を持つ数千の組織に参加しましょう。今すぐ始めましょう。

Share
Tweet
Share
Explore Kiteworks