生成AIの情報漏洩対策｜原因・社内ルールのひな形・学習させない設定【2026年】

データで見る企業の現状

総務省の調査では、生成AIの活用で懸念されるリスクとして「社内情報の漏洩などのセキュリティリスク」を挙げた日本企業が46.4%と最も多く、米国（36.9%）・ドイツ（31.7%）・中国（42.7%）よりも高い結果でした。ところが、リスクへの取り組みを見ると、中小企業ほど手が回っていないことがわかります。

出典：総務省『令和8年版 情報通信白書』第Ⅰ部 第2章 第1節（4）（図表Ⅰ-2-1-8・Ⅰ-2-1-9 をもとに作成）

中小企業では、ガイドラインを整備している会社が3割に満たず、4社に1社は対策を何もしていないか把握していません。情報漏洩を心配しているのに、ルールも設定も手つかずという会社が多いのが今の状況です。

公的機関の注意喚起

情報処理推進機構（IPA）が2026年1月に公表した「情報セキュリティ10大脅威 2026」では、組織向けの脅威の3位に「AIの利用をめぐるサイバーリスク」が初めて選ばれました（出典：IPA「情報セキュリティ10大脅威 2026」）。IPA は、AIにもセキュリティにも詳しくない利用者向けに、最低限の対策をまとめたスライド「AI利用者のためのセキュリティ豆知識」も公開しています。社内勉強会の教材として使えます（出典：IPA「AI利用者のためのセキュリティ豆知識」）。

個人情報保護委員会も、生成AIサービスに個人情報を入力するときの注意点を公表しています。くわしくは「個人情報を入れるときの確認」で解説します。

情報漏洩以外のリスクとの関係

生成AIのリスクには、情報漏洩のほかに、事実と違う内容をもっともらしく答える誤り（ハルシネーション）や、他人の著作物に似たものを作ってしまう権利侵害などもあります。白書の調査でも「出力結果の精度に問題がある」（35.3%）、「著作権等の権利を侵害する可能性がある」（31.3%）が続きました。本記事では、このうち情報漏洩とその周りのセキュリティに絞って解説します。社内ルールのひな形には、誤りや権利への備えも1条ずつ入れています。

入力内容が学習に使われる

個人向けの生成AIサービスの多くは、初期設定のままだと、入力した会話がAIモデルの改善（学習）に使われることがあります。学習に使われた内容がそのまま他人への回答に出てくるとは限りませんが、個人情報保護委員会も、入力された個人情報が学習に使われ、ほかの情報と結びついて出力されるリスクがあると注意を呼びかけています。設定で学習を止められるサービスがほとんどなので、まずはここを確かめます。

会話の履歴が保存される

学習に使わない設定にしても、会話の履歴はサービス側にしばらく保存されます。たとえば ChatGPT の一時チャットは安全上の理由で最大30日、Gemini はアクティビティの保存をオフにしても72時間、アカウントに保持されます。サービス側の不具合や不正アクセスがあれば、保存された履歴が見られるおそれがあります。「学習されない」と「どこにも残らない」は別の話だと押さえておきましょう。

社員が機密情報を入力する

最も多いのは、社員が悪気なく入力してしまうケースです。会議の議事録を要約させる、顧客からのメールに返信文を作らせる、エラーが出たプログラムを直させる、といった日常の作業の中で、顧客名や取引条件、ソースコードがそのまま入力されます。入力してよい情報の線引きが決まっていないと、判断は社員一人ひとりに任されてしまいます。

会社が把握していないAIを使う（シャドーAI）

会社が認めていない生成AIを、社員が個人のアカウントで業務に使うことを「シャドーAI」と呼びます。会社が法人プランを契約していても、使いにくかったり、使える人が限られていたりすると、社員は手元の無料版やブラウザの拡張機能に流れます。会社からは設定も履歴も見えないため、漏洩があっても気づけません。

アカウントの乗っ取りと連携機能

生成AIのアカウントが乗っ取られると、過去の会話の履歴がまとめて見られてしまいます。パスワードの使い回しや、ウイルスに感染したパソコンからのパスワードの盗み出しが入口になります。また、メールやクラウドストレージとつなぐ連携機能、ブラウザの拡張機能は、AIが読める範囲を広げるため、何をつないでいるかを会社が把握しておく必要があります。

社内データを読むAIの権限とプロンプトインジェクション

Microsoft Copilot や Gemini in Workspace のように社内のファイルやメールを読むAI、社内の資料を検索して答えるAI（RAG）は、使う人が閲覧できる範囲の情報をもとに答えます。共有フォルダの閲覧権限が広すぎると、本来見るべきでない人事や給与の資料が、AIの回答を通して目にふれることがあります。さらに、文書やWebページに仕込まれた指示でAIをだまし、情報を引き出したり外に送らせたりする「プロンプトインジェクション」という攻撃もあります。

6つの原因と主な対策をまとめると、次のとおりです。

社員の入力から広がる型

社内の会議資料や開発中のソースコード、顧客の一覧などを、社員が個人向けの生成AIに貼り付けてしまう型です。入力した時点で情報は社外のサービスに渡り、設定によっては学習にも使われます。入力してよい情報の線引きと、学習に使わせない設定の2つで、多くを防げる型です。

サービス側の不具合で見える型

利用者に落ち度がなくても、サービス側の不具合で情報が見えてしまうことがあります。OpenAI の公表によると、2023年3月、ChatGPT で使っていたオープンソースのライブラリの不具合により、一部の利用者に、ほかの利用者のチャット履歴の題名が見える状態になりました。同じ不具合で、特定の9時間に使っていた ChatGPT Plus 会員の1.2%について、氏名やメールアドレス、クレジットカードの下4桁と有効期限などが、ほかの利用者に見えた可能性があるとされています（出典：OpenAI「March 20 ChatGPT outage: Here’s what happened」）。

この型は利用者の側で完全には防げません。サービス側に残っても困らない情報だけを入力する、という線引きが最後の守りになります。

アカウント情報が盗まれる型

パソコンがウイルスに感染し、ブラウザに保存されたIDとパスワードが盗まれると、生成AIのアカウントにも入られてしまいます。会話の履歴が残っていれば、過去に入力した内容がまとめて見られます。個人のアカウントを業務に使っていると、会社はパスワードの強さも多要素認証の有無も確かめられません。会社のアカウントで一括して管理することが、この型への備えになります。

社内の情報を4つの区分に分ける

情報漏洩を防ぐための区分は、はじめは4つで十分です。区分の名前と例を自社の言葉に直して使ってください。

ポイントは、使ってよいサービスと区分を組み合わせて決めることです。迷ったときは1つ上の区分として扱う、と決めておくと判断がぶれません。パスワードやAPIキーのような認証情報は、どのサービスにも入力しないと明記しておきましょう。

個人情報を入れるときの確認

個人情報保護委員会は2023年6月、生成AIサービスの利用に関する注意喚起を公表しました。企業（個人情報取扱事業者）に向けては、次の2点を挙げています。

出典：個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」（別添1 をもとに作成）

同じ注意喚起では、利用者に向けて、サービス提供者の利用規約やプライバシーポリシーを十分に確認し、入力する情報の内容をふまえて使うかどうかを判断するよう求めています。

伏せ字（マスキング）で入力するときのコツ

機密情報をAIで扱いたいときは、固有名詞や数字を記号に置き換えてから入力します。文章の構成を整える、言い回しを直すといった作業なら、伏せ字にしても結果はほとんど変わりません。

伏せ字にした対応表は手元に残し、AIの回答を受け取ってから元に戻します。複数の記号を組み合わせると相手が特定できてしまう場合もあるため、文脈から誰のことかわかる情報も一緒に削りましょう。

ChatGPT（OpenAI）

個人向けのプラン（無料版・Go・Plus・Pro）では、次の手順で学習をオフにします。サインインしていれば、設定はどの端末でもアカウント全体に適用されます。

オフにしても、チャット履歴は残ります。履歴に残したくない会話は「一時チャット」を使うと、履歴に表示されず、モデルの改善にも使われません（安全上の理由で最大30日保持される場合があります）。ChatGPT Business・Enterprise などの会社で管理するワークスペースは、既定でコンテンツを学習に使わないとされています（出典：OpenAI ヘルプセンター「ChatGPT のデータ管理」、OpenAI「エンタープライズプライバシー」）。

Gemini（Google）

個人の Google アカウントで Gemini アプリを使う場合は、「Gemini アプリ アクティビティ」のページで「アクティビティの保存」をオフにします。このページでは、履歴の確認と削除、自動削除の期間の変更もできます。Google は、人間のレビュアーが会話の一部を確認することがあるとして、見られたくない機密情報は入力しないよう案内しています。オフにしても、会話は応答や保護のために72時間アカウントに保持されます（出典：Gemini アプリのプライバシー ハブ）。

会社の Google Workspace のアカウントで使う場合は、プロンプトや社内のコンテンツが、許可なくドメイン外で生成AIモデルの学習に使われることはなく、人間がレビューすることもないとされています。会話の履歴を残すかどうかと保存期間（3か月・18か月・36か月、既定は18か月）は、管理者が決められます（出典：Google Workspace 管理者ヘルプ「Google Workspace の生成 AI に関するプライバシー ハブ」）。

Claude（Anthropic）

個人向けのプラン（Free・Pro・Max）では、パソコンの場合、名前のメニューから「設定」→「プライバシー」を開き、「AIモデルの改善を支援する」をオフにします。スマートフォンのアプリでも同じ順番で設定できます。オフにすると、新しいチャットは今後のモデルの学習に使われません。シークレットチャットは、この設定にかかわらず改善に使われないとされています（出典：Anthropic プライバシーセンター「モデル改善のプライバシー設定を変更するにはどうすればよいですか？」）。

Team・Enterprise（Claude for Work）や API などの商用の製品では、既定で入力と出力を学習に使わないとされています。組織のオーナーは、組織の設定の「Data and Privacy」で、メンバーが評価ボタンからフィードバックを送れないようにすることもできます（出典：Anthropic Privacy Center「Is my data used for model training?」）。

Microsoft Copilot

職場のアカウントで使う Microsoft Copilot（旧称 Microsoft 365 Copilot）は、プロンプトや応答、Microsoft Graph を通じて読む社内のデータを、基礎となる大規模言語モデルの学習に使わないとされています。設定で学習を止める必要はありませんが、Copilot は使う人が閲覧できる社内のデータをもとに答えるため、SharePoint などの共有の権限を正しく設定しておくことが大切だと案内されています（出典：Microsoft Learn「Microsoft Copilot のデータ、プライバシー、セキュリティ」）。個人の Microsoft アカウントで使う Copilot は扱いが異なるため、業務では職場のアカウントに限ると決めておくと安心です。

設定だけでは防げないこと

学習をオフにしても、情報漏洩につながる次の3つは残ります。社内ルールと教育の対策で補いましょう。

個人の設定に頼るのではなく、会社が管理できる法人プランに業務の利用を集めることが、いちばん確実な対策です。

個人向けと法人向けの違い

契約前に確かめる8項目

次の8項目を、各社の公式の説明や利用規約、契約書で確かめます。営業担当の口頭の説明だけで済ませず、書かれている場所を控えておきましょう。

APIで組み込むときの注意

OpenAI や Anthropic は、API で送ったデータも既定で学習に使わないとしています。ただし、API で自社の業務システムにAIを組み込む場合は、どの社内データをAIに渡すか、誰がその回答を見られるかを、自社の設計で決めることになります。開発を外部に頼むときも、上の8項目に加えて、渡すデータの範囲とログの扱いを決めておきましょう。

そのまま使える生成AI利用規程のひな形

別表1には、使ってよいサービスの名前・プラン・使える人・設定の内容を、別表2には「社内の情報を4つの区分に分ける」の表を自社に合わせて載せます。条文は規程の本体、別表はよく変わる部分、と分けておくと、ツールが増えても規程を作り直さずに済みます。

自社に合わせて直すところ

ひな形をそのまま配る前に、次の点を自社の事情に合わせて決めておきましょう。

取引先から預かった情報は、自社の情報よりも厳しく扱う必要があります。秘密保持契約の範囲を確かめずに、預かった資料をAIに入力しないことを、規程とは別に強く伝えておきましょう。

公的なガイドラインの使い方

総務省と経済産業省がまとめた「AI事業者ガイドライン」は、2026年3月31日に第1.2版が公表されました。AIを業務で使う事業者が気をつける点が整理されており、チェックリストとワークシート（別添7）も公開されています。社内ルールを作ったあと、抜けがないかを確かめるときに役立ちます（出典：総務省「AI事業者ガイドライン」掲載ページ）。

AIを組み込んだシステムを自社で作る、または開発を頼む場合は、総務省が2026年3月に公表した「AIのセキュリティ確保のための技術的対策に係るガイドライン」も参考になります。AIに不正な出力をさせたり、AIを使ったシステムを止めたりする攻撃への技術的な対策がまとめられています（出典：総務省 報道資料（令和8年3月27日））。

役割ごとに教える内容

全社員向けの研修では、IPA の「AI利用者のためのセキュリティ豆知識」のような公的な教材を使うと、準備の手間を減らせます。社員向けの生成AI研修の組み立て方は 生成AI研修（企業向け） で解説しています。

ルールを形だけにしない工夫

ルールが守られなくなる一番の理由は、「どうすればよいか」を聞ける場所がないことです。社内チャットに相談の窓口を作り、よくある質問を3か月ごとにルールの別表へ足していきましょう。研修を受けた人にだけアカウントを発行すると、受講の漏れも防げます。迷ったときに入力をやめて相談した社員を、きちんと評価することも大切です。

アカウントを会社で管理する

業務で使う生成AIのアカウントは、会社のメールアドレスで発行し、可能ならシングルサインオン（社内のIDでまとめてログインする仕組み）につなぎます。多要素認証を必須にし、退職や異動のときに当日中に止められるようにしておきます。アカウントを会社で管理すれば、乗っ取りによる情報漏洩と、退職者の手元に履歴が残る問題の両方への対策になります。

利用状況のログと入力の監視

法人プランの多くは、管理画面で利用者や利用の推移を確かめられます。月に1回は、使っていないアカウントの停止と、利用の多い部署への聞き取りを行いましょう。顧客情報を多く扱う会社では、入力の中身を検知して止めるDLP（情報漏洩対策）の機能や製品も選択肢になります。Google Workspace のように、AIの出力に既存のDLPの設定が適用されるサービスもあります。

社内データを読むAIは閲覧権限を先に見直す

Microsoft Copilot や Gemini in Workspace のように社内のファイルを読むAIを入れる前に、共有フォルダの閲覧権限を見直します。「全社員が閲覧できる」設定のまま置かれた人事・給与・契約の資料がないかを確かめ、必要な人だけが見られるように直しておきましょう。社内データを読むAIは、権限の設定どおりに働くため、権限の設定の抜けがそのまま情報漏洩につながります。

自社でAIを組み込むときの備え

社内の資料を検索して答えるAIや、問い合わせに答えるAIを自社で作る場合は、プロンプトインジェクションへの備えが必要です。AIに渡すデータを利用者の権限で絞る、AIが外部に送信できる先を限る、重要な操作の前に人が確かめる、利用のログを残す、といった設計を、開発の最初の段階で決めておきます。業務システムへのAIの組み込みを外部に頼む場合は、こうした設計を見積もりの段階で確かめましょう。

確認項目の表

結果の読み方

15項目のうち、「サービス」「情報」「アカウント」の7項目は、導入の前に必ず済ませておきたい項目です。ここに「未」があるまま全社に広げると、社員ごとに使い方がばらばらになり、あとから直すのに手間がかかります。それ以外の項目は、試しに使う部署を1つに絞って始め、全社に広げるまでに済ませる形でもかまいません。

個人情報保護委員会への報告が必要な場合

個人情報保護委員会は、次のいずれかに当たる個人データの漏えい等（またはそのおそれ）について、報告を義務付けています。

出典：個人情報保護委員会「漏えい等の対応とお役立ち資料」（民間事業者向けの要件をもとに作成）

報告は、発覚したらまず速やかに行うこととされ、不正な目的で行われたおそれがある場合は発覚日から60日以内が期限です。生成AIへの入力がどの場合に当たるかは状況によって変わるため、個人データが含まれていたときは、自社だけで判断せず、委員会の案内や専門家に確かめることが大切です。

PR｜AIBUILDERZ AI導入支援サービス

PR

AIBUILDERZ｜AI導入支援サービス

システム構築は成果報酬型。AI研修から導入・構築・定着まで一気通貫で支援

AI研修からシステムの導入・構築・定着まで、一気通貫で支援するサービスです。業務アプリの構築費は事前にいただかず、実際に稼働させ、効果をご確認いただいてからお支払いが始まります。成果報酬型での対応は、当社が小規模と定義するシステムが対象です。

• 業種・規模を問わず支援どの業務からAIやシステムに置き換えるかを一緒に決め、効果の大きい業務から順に進めます。
• システム構築は成果報酬型業務アプリの構築費は事前にいただきません。稼働させ、効果をご確認いただいてからお支払いが始まります。
• AI導入の効果を可視化置き換える業務を一覧にし、導入前後の時間から、空いた時間とかからなくなった費用を毎月記録します。
• 小さく始めて、リスクを管理影響の小さい業務から始め、AIの実行結果は担当者が確認・承認してから反映します。

サービス資料をダウンロード無料診断を申し込む

外部に相談するとよい場面

相談する前に、社員が今使っている生成AIと業務、扱う情報の種類を書き出しておくと、話が早く進みます。支援が終わったあとも自社で回せるよう、ルールや設定の記録が手元に残るかも確かめておきましょう。