記事の要約
- 生成AIでは、2023年に機密情報の入力ミスやマルウェアによるアカウント流出などのインシデント事例が発生している。
- 漏洩の主な原因は「人的ミス」「システムバグ」「マルウェア感染」の3つに分類される。
- 対策として、利用ガイドラインの策定、オプトアウト（学習回避）設定、社員へのセキュリティ教育が不可欠である。
- 高度な機密情報を扱う企業には、情報が外部ネットワークに出ない「ローカルLLM」の構築も有効な選択肢となる。
企業の事業開発責任者や、情報システム部門のマネージャー層の皆様におかれましては、業務効率化のために生成AIの導入を検討される機会が増えているかと存じます。しかし、同時に懸念されるのが「生成AIによる情報漏洩リスク」です。
本記事では、実際に起きた生成AIの情報漏洩事例を取り上げ、その原因と企業がとるべき具体的な対策について詳しく解説いたします。
目次
生成AIの情報漏洩はどのような事例がある？
ここでは、世界的に報道された具体的な生成AI関連の情報漏洩インシデントと最新の脅威動向を解説します。従業員による機密情報の入力ミスに加え、近年では「シャドーAI」の蔓延や、システム環境の隙を突いたデータ流出の脆弱性などが報告されています。
社内ソースコード・会議議事録の流出事例
2023年3月、韓国の大手企業であるサムスン電子にて、エンジニアがChatGPTに社内の機密情報である半導体関連のソースコードを入力し、情報漏洩の懸念が発生した事案があります。具体的には、バグのあるソースコードの修正依頼や、会議音声の議事録作成をChatGPTに依頼したことで、社外秘のデータが外部のAIサーバーに送信されてしまいました。結果として、同社は生成AIツールの社内利用を一時的に全面禁止する措置をとりました。
[参考：Oops: Samsung Employees Leaked Confidential Data to ChatGPT]
アカウント情報のダークウェブ流出事例
2023年6月、シンガポールのサイバーセキュリティ企業Group-IBは、10万件以上のChatGPTアカウント情報がダークウェブ上で不正に売買されていると報告しました。AI側のシステム上の問題ではなく、従業員の端末が「インフォスティーラー」と呼ばれる情報窃取型のマルウェアに感染し、ログイン情報が盗み出されたことが原因とされています。これにより、第三者に過去のプロンプト入力履歴などを盗み見られるリスクが生じました。
シャドーAIによる日常的な機密データの流出（2024〜2026年の傾向）
特定のインシデントではなく、会社が許可・管理していないAIツールを従業員が勝手に利用する「シャドーAI」によるデータ流出が深刻化しています。2025年後半のレポートでは、企業の従業員の約50%が職場でChatGPTなどの生成AIツールを使用していることが指摘されています。また、従業員がAIにペーストするデータの約11%に、社外秘の機密情報が含まれているというサイバーセキュリティ企業Cyberhavenの調査結果も報告されており、無自覚な情報漏洩が常態化している実態が浮き彫りになりました。
[参考：11% of data employees paste into ChatGPT is confidential、ChatGPT Data Security: Preventing Proprietary Data Leaks | IntuitionLabs]
悪意のあるプロンプトによるデータ流出の脆弱性（2026年）
2026年3月、セキュリティ研究機関のCheck Point社は、ChatGPTのコード実行環境を悪用した新たな脆弱性を報告しました。これは、チャット内に仕込まれた単一の悪意あるプロンプトによって、ユーザーがアップロードしたファイルや会話内容が、ユーザーの承認や警告なしにDNSサイドチャネルを通じて外部へ密かに送信（データ引き出し）されてしまうというものです。この脆弱性は2026年2月にOpenAIによって修正されましたが、システム環境の隙を突く高度な攻撃として大きな話題を呼びました。
[参考：When AI Trust Breaks: The ChatGPT Data Leakage Flaw That Redefined AI Vendor Security Trust]
なぜ生成AIから機密情報が漏洩するのか？
生成AIから機密情報が漏洩するのは、①従業員が機密情報をプロンプトに入力してしまう人為的ミスや②マルウェアを通じたアカウントの乗っ取り、③システム上のバグが主な原因です。
①ユーザーの認識不足による機密情報の入力
生成AIの利便性を優先するあまり、ユーザーが自覚を持たずに顧客の個人情報や社外秘のデータをプロンプトに入力してしまうケースが主な原因です。一部の生成AIサービスでは、入力したデータがAIのモデル学習に利用される仕様となっており、意図せず他者の回答として自社の機密情報が出力されてしまうリスクが内在しています。
②マルウェア感染によるアカウント情報の窃取
前述のインフォスティーラー感染事例のように、PCやスマートフォン自体がマルウェアに感染することで、生成AIのログインIDやパスワードが流出するケースも少なくありません。企業側でどれほど高度なAIシステムを導入していても、従業員の端末自体のセキュリティ対策が不十分な場合、アカウントが乗っ取られ情報が漏洩します。
③生成AIサービス側のシステムバグ
ユーザー側の過失がなくても、生成AIを提供する外部サービス側のシステムにバグや脆弱性が生じた場合、保存されているプロンプト履歴や個人情報が流出する危険性があります。
事例から学ぶ具体的な情報漏洩対策とは？
過去のインシデントを防ぐために、企業が直ちに実行すべき対策ポイントを解説します。
ガイドライン策定と社員教育の徹底
情報漏洩を防ぐためには、「生成AIに入力してはいけない情報」を具体的に定めた利用ガイドラインの策定が不可欠です。顧客の個人情報、未発表の財務情報、技術的なソースコードなどを明記します。また、ルールを定めるだけでなく、従業員に対する定期的なセキュリティ教育を実施し、一人ひとりのリテラシーを向上させることが重要です。
オプトアウト（学習利用の拒否）設定の活用
多くのクラウド型生成AIサービスには、入力データをAIのモデル学習に利用させない「オプトアウト機能」が用意されています。企業で生成AIを利用する際は、オプトアウト設定を必ず有効にするか、データが学習されない仕様となっている法人向けプラン（エンタープライズ版）を契約することで、内部データの外部流出リスクを大幅に低減できます。
自社に合うLLM環境は？ローカルとクラウドを比較
機密性を最優先するなら「ローカルLLM」、導入の迅速さや最新性能を求めるなら法人向けの「クラウドLLM」が適しています。
情報漏洩対策として、自社独自のAI環境を構築する企業も増えています。それぞれのメリット・デメリットを以下の表にまとめました。
| 比較項目 | ローカルLLM | クラウドLLM（法人向け） |
|---|---|---|
| セキュリティ・情報漏洩リスク | 閉域網で稼働するため、情報が外部に漏れるリスクは極めて低い | 事業者のセキュリティ水準に依存する（学習利用なしの契約が必要） |
| 導入コスト・時間 | サーバー等のインフラ構築に多大な費用と時間がかかる | 初期費用が抑えられ、インターネット経由ですぐに導入可能 |
| 運用保守 | 自社で専門人材を確保し、継続的なモデルの保守を行う必要がある | サービス提供事業者が保守・アップデートを行うため手間がかからない |
| モデルの性能 | 自社のサーバー環境（計算資源）に依存する | 常に外部事業者が提供する最新かつ高性能なモデルを利用可能 |
よくある質問（FAQ）
Q. 生成AIに入力したデータは必ず学習されてしまうのですか？
A. すべてのサービスで学習されるわけではありません。法人向けのエンタープライズプランや、設定画面からオプトアウト（学習の拒否）を選択することで、入力データを学習に使わせないようにすることが可能です。
Q. 社員が勝手に無料の生成AIを使っているか調べる方法はありますか？
A. 情報システム部門にて、社内ネットワークのアクセスログを監視したり、シャドーIT（会社が許可していないツールの利用）を検知するセキュリティツールを導入することで、未許可の生成AIサービスの利用状況を把握できます。
Q. 機密性の高いデータ（医療データや製造業の設計図など）を扱う場合、どのようなAIを選ぶべきですか？
A. 外部ネットワークと通信しない「ローカルLLM」を社内に構築するか、高度なセキュリティ認証を取得しており、かつデータ学習を行わない法人向けの特化型AIサービスの利用を推奨します。
生成AIの安全な活用や社内教育ならEQUESへ
生成AIは業務効率化に絶大な効果をもたらす反面、正しい知識とルールの下で運用しなければ重大な情報漏洩リスクを招きかねません。安全な環境構築や、従業員のリテラシー向上に課題を感じている場合は、専門家の知見を活用することが近道です。
AI×DX寺子屋で企業のDXを伴走支援
株式会社EQUESは、東京大学松尾研究所発のスタートアップ企業であり、製薬分野や製造業におけるAI活用に確かな強みを持っております。弊社の提供する「AI×DX寺子屋」は、AIやDXに関する困りごとを東大出身のAI専門家集団がチャットで解決するサービスです。
- プランA: 月額20万円で相談し放題となり、月一回のオンラインミーティングも実施いたします。
- プランB: 内容によって柔軟に対応でき、過去には大学の講義資料の作成やセミナーの実施、技術者の派遣といったご相談も承っております。
実務に直結するコンテンツで社員教育をサポート
社員へのセキュリティ教育や実践的なプロンプトの作成方法を定着させたい企業様には、「AI×DX寺子屋 learning」をご提案いたします。
- 一回約10分の動画コンテンツによる学習と確認テストを通じて、実務に必要な知識を効率よく習得できます。
- コピー＆ペーストしてそのまま使える実務用プロンプトテンプレートも提供しており、学習の進捗はマイページで簡単に把握することが可能です。
大規模開発を行う前のPoC（概念実証）サービスである「ココロミ」や、製薬業界向けの品質保証文書作成・チェックSaaSなどもご用意しております。生成AIのセキュアな導入方針や社員教育についてお悩みの際は、ぜひ株式会社EQUESまでご相談ください。
まとめ
本記事では、生成AIにおける情報漏洩事例とその原因、企業が取るべき具体的な対策について解説いたしました。
- サムスン電子の事例などにみられるように、業務上の機密情報をプロンプトへ入力してしまうことが情報漏洩の主な原因である。
- マルウェア感染によるアカウント情報のダークウェブ流出も、2023年以降に深刻なインシデントとして報告されている。
- 対策として、明確な利用ガイドラインの策定、定期的な社員教育、オプトアウト設定の活用が必須である。
- 自社のセキュリティ要件と予算に合わせて、ローカルLLMかクラウドLLMを適切に選択する。
事例から得られた教訓を活かし、自社に最適なガイドラインと運用体制を構築することで、生成AIのリスクをコントロールしながらビジネスの成長へと繋げていきましょう。
生成AIの安全な活用・社内教育は、EQUESにご相談ください
利用ガイドラインの策定から社員教育、セキュアなAI活用環境の構築まで、東京大学松尾研究室発のEQUESが伴走支援します。まずはお気軽にご相談ください。
