生成AIで「情報漏洩」を起こさないために｜中小企業のAIセキュリティ対策チェックリスト
ChatGPTをはじめとする生成AIは、文章作成、翻訳、データ分析など、ビジネスのあらゆる場面で生産性を飛躍的に向上させます。しかし、便利さの裏には見過ごせないリスクがあります。それが「情報漏洩」です。
社員が何気なく入力した顧客データや社内の機密情報が、AIの学習データに取り込まれたり、第三者に閲覧されたりする可能性がある。大企業ではすでに対策が進んでいますが、中小企業ではセキュリティ対策が後回しになりがちです。「うちは小さい会社だから大丈夫」という油断こそが、最大のリスク要因と言えます。
本記事では、生成AIの業務利用で起こりうる情報漏洩リスクを整理したうえで、中小企業が最低限押さえるべきセキュリティ対策チェックリストと、社内AIガイドラインの作り方を解説します。
生成AIで起こりうる情報漏洩リスクとは
まず、生成AIを業務で使う際に、どのような経路で情報が漏洩しうるのかを理解しておきましょう。リスクの全体像を把握することが、対策の第一歩です。
リスク1：入力データがAIの学習に使われる
多くの生成AIサービスでは、ユーザーが入力したデータをモデルの改善（学習）に利用する場合があります。たとえばOpenAIは、ChatGPTの無料版やAPI以外の利用において、入力データをモデル改善に使用する可能性がある旨を利用規約で説明しています。
つまり、社員が顧客の個人情報や未公開の事業計画をそのまま入力すると、それが将来的に他のユーザーへの回答に反映される可能性がゼロではないということです。特に無料プランを使っている場合は、この点に注意が必要です。
リスク2：プロンプトの内容が第三者に見える可能性
共有リンク機能やチーム利用の設定によっては、自分が入力したプロンプトや会話履歴が、意図せず他のメンバーや社外の人に閲覧される可能性があります。また、サービスの不具合によって会話履歴が他のユーザーに表示される事象も過去に報告されています。
2023年3月にはOpenAIが、一部ユーザーの会話タイトルが他のユーザーに表示されるバグがあったことを公式ブログで報告しています。技術的に完全なリスクゼロはありえないため、入力する情報の選別が重要です。
リスク3：プロンプトインジェクション攻撃
プロンプトインジェクションとは、悪意のある指示をAIに対して巧妙に埋め込み、本来は出力されるべきでない情報を引き出す攻撃手法です。たとえば、社内向けのAIチャットボットに対して、システムプロンプト（内部設定）を暴露させるような指示を送るケースがあります。
自社でAIを組み込んだサービスやツールを構築している場合、このリスクは特に重要です。入力値のバリデーションや、AIの応答範囲を制限する設計が求められます。
リスク4：社員の「うっかり入力」
実は最も多い情報漏洩の原因は、技術的な脆弱性ではなく人的ミスです。「AIに要約してもらおう」と思って社外秘の議事録をそのまま貼り付ける。取引先の連絡先一覧をコピーして整理を依頼する。こうした何気ない行為が、情報漏洩につながります。
悪意がないぶん、ルールがなければ繰り返し発生します。だからこそ、明確なガイドラインが必要なのです。
中小企業のAIセキュリティ対策チェックリスト
以下は、生成AIを業務利用する中小企業が最低限確認すべき10項目のチェックリストです。すべてに対応する必要はありませんが、現状の対策レベルを把握し、優先順位をつけて改善していくことが大切です。
【利用サービスの選定と設定】
- 利用するAIサービスの利用規約を確認しているか ── 入力データの取り扱い（学習利用の有無、データ保持期間など）を確認し、ビジネス利用に適したプランを選択する
- 学習データへの取り込みをオプトアウトしているか ── ChatGPTなどでは設定やAPI利用でオプトアウトが可能。法人向けプラン（ChatGPT Enterprise等）では、デフォルトで学習に使われない設定になっている
- 法人向けプランやAPIを利用しているか ── 無料の個人アカウントでの業務利用は、データ管理の観点でリスクが高い。法人向けプランやAPI経由の利用を推奨する
【入力情報のルール】
- AIに入力してよい情報・禁止する情報を分類しているか ── 個人情報、顧客データ、未公開の財務情報、契約内容などは原則として入力禁止とする
- 入力前にデータを匿名化・マスキングする運用があるか ── 固有名詞を「A社」「B氏」に置き換えるなど、特定できない形に加工してから入力する習慣をつける
- 機密度に応じた利用ルールを設定しているか ── 社内文書を「公開可」「社内限定」「機密」などに分類し、AIに入力可能な範囲を明確にする
【組織体制と教育】
- AI利用に関する社内ガイドラインを策定しているか ── ガイドラインがない状態は「何をしてもよい」と同義。最低限のルールを文書化する
- 定期的なセキュリティ教育を実施しているか ── 年に1回以上、生成AIのリスクと正しい使い方についての研修を行う
- インシデント発生時の報告フローが決まっているか ── 万が一、機密情報を入力してしまった場合の報告先と対応手順を事前に決めておく
【監査とモニタリング】
- AI利用状況を定期的に確認しているか ── どの部署がどのサービスをどのように使っているかを把握する。シャドーIT（会社が把握していないAIツールの利用）のリスクにも注意する
まずは上記のチェックリストを使って、自社の現状を棚卸ししてみてください。すべてにチェックが入らなくても問題ありません。「現状を把握すること」自体が、セキュリティ対策の第一歩です。
社内AIガイドラインの作り方
チェックリストで現状を把握したら、次は社内AIガイドラインを策定しましょう。ガイドラインは完璧である必要はありません。まずはシンプルなものを作り、運用しながら改善していくのが現実的です。
ガイドラインに盛り込むべき項目
以下は、中小企業向けの社内AIガイドラインに盛り込むべき基本項目です。
- 目的と適用範囲 ── なぜガイドラインを作るのか、どの部署・どの業務に適用するのかを明記する
- 利用可能なサービスの一覧 ── 会社として承認したAIサービスのリストを定め、それ以外の利用を制限する
- 入力禁止情報の定義 ── 個人情報、機密情報、顧客データなど、AIに入力してはならない情報を具体的に列挙する
- 利用時の注意事項 ── 出力結果のファクトチェック義務、著作権への配慮、出力をそのまま外部に公開しない等のルール
- インシデント対応 ── 誤って機密情報を入力した場合の報告先、対応フロー、再発防止策
- 教育・研修 ── 新入社員への説明、定期研修の頻度と内容
- ガイドラインの見直し ── 半年または1年ごとに内容を見直すスケジュールを設定する
策定のポイント
ガイドラインを作る際に最も重要なのは、「厳しすぎないこと」です。ルールが厳しすぎると、社員は面倒に感じてルールを無視するか、会社に隠れてAIを使うようになります（シャドーIT化）。これでは逆効果です。
「禁止」ではなく「安全に使うためのルール」というスタンスで策定し、現場の社員が実際に守れる内容にすることを心がけてください。また、ガイドラインは作って終わりではなく、周知と定着が不可欠です。全社ミーティングで説明し、いつでも参照できる場所（社内ポータル等）に掲載しましょう。
安全に使うための運用ルール
ガイドラインを策定したら、日常業務のなかで実践する運用ルールを浸透させましょう。以下は、すぐに取り入れられる実践的なルールです。
入力前の3秒ルール
AIにデータを入力する前に、「この情報が社外に出ても問題ないか？」と3秒だけ考える習慣をつけましょう。たった3秒ですが、これだけで「うっかり入力」の大半を防ぐことができます。迷ったら入力しない。これを基本ルールにしてください。
固有名詞を置き換える習慣
顧客名を「A社」、担当者名を「X氏」に置き換えるだけで、情報漏洩リスクは大幅に下がります。AIに必要なのは「文脈」であって「固有名詞」ではありません。匿名化してもAIの回答品質はほとんど変わらないため、この習慣は効果対コストが非常に高い対策です。
出力結果の社外公開ルール
AIが生成した文章や資料をそのまま社外に公開するのはリスクがあります。事実誤認、著作権侵害、不適切な表現が含まれている可能性があるためです。AIの出力は「下書き」として扱い、必ず人間がレビューしてから公開するというルールを徹底しましょう。
アカウント管理の徹底
共有アカウントでのAI利用は避けてください。誰がどのような情報を入力したのか追跡できなくなるためです。一人一アカウントを原則とし、退職者のアカウントは速やかに無効化する運用を整えましょう。法人向けプランであれば、管理者がメンバーのアカウントを一括管理できます。
まとめ：AIを「安全に活用する」ための一歩を踏み出す
生成AIは、正しく使えば中小企業の生産性を大きく向上させるツールです。しかし、セキュリティ対策なしに使い続ければ、情報漏洩という取り返しのつかないリスクを抱えることになります。
本記事のポイントを改めて整理します。
- 生成AIの情報漏洩リスクは「学習データへの取り込み」「第三者への閲覧」「プロンプトインジェクション」「人的ミス」の4つ
- 10項目のチェックリストで自社の対策レベルを把握する
- 社内AIガイドラインは「厳しすぎない」ことが成功の鍵
- 「入力前の3秒ルール」「固有名詞の置き換え」など、すぐに実践できる運用ルールから始める
「AIを使うな」ではなく、「AIを安全に使うための仕組みを作る」。これが、これからの中小企業に求められる姿勢です。まずはチェックリストで現状を確認し、シンプルなガイドラインを一つ作るところから始めてみてください。
株式会社Sei San Seiでは、AIの安全な導入・運用体制の構築を支援しています。社内ガイドラインの策定もお手伝いしますので、お気軽にご相談ください。
