生成AIの急速な普及により、多くの企業では従業員が日常的にChatGPTやGeminiなどのサービスを利用しています。 しかし、気をつけないと、社内の機密情報や顧客の個人情報が生成AIサービスに入力され、外部に流出してしまう恐れがあります。 実際に、複数の企業で秘密鍵やソースコード、顧客情報が流出する事例が報告されています。 この記事では、生成AI利用ルールの作り方と、機密情報・個人情報を守るプロンプト運用の仕方をご紹介します。
⇒【ロリポップ！固定IPアクセス】 月額490円、すぐに使えて最大2ヶ月間無料！
生成AIの利用によるリスク
生成AIは便利なツールですが、適切な管理がないと深刻なセキュリティリスクを招きます。
生成AI利用による情報漏洩事例
実際に報告されている主な事例には以下があります。
- 2023年3月、韓国大手電子機器メーカー：従業員がChatGPTに製品のソースコードを入力し、審査目的の修正をリクエスト。 その後、ChatGPTがこのコードを学習に利用してしまい、情報が外部に流出。
- 2024年3月、米国のセキュリティ研究者：Geminiの脆弱性により、システムプロンプト（AIに与えられた隠れた指示）を抽出され、他ユーザーの情報にアクセスされる可能性が判明。
- 複数の日本企業：社内会議の議事録、顧客情報、クレジットカード番号など、様々な機密情報がChatGPTに入力されて流出。
情報漏洩のメカニズム
生成AIサービスでは、一般的に以下のプロセスで情報が扱われます。
- ユーザーが入力（プロンプト）として情報をアップロード
- サービス提供企業のサーバーに情報が保存される
- その情報がAIモデルの学習に利用される可能性がある
- 学習されたデータが他のユーザーのプロンプトへの回答に含まれる可能性がある
つまり、入力した情報が永遠に秘密にされる保証はないということです。 特に企業の無料版利用では、学習目的での利用を許可していることが多いのです。
「Shadow AI」の問題
さらに深刻なのが「Shadow AI」と呼ばれる問題です。
Shadow AIとは、企業の公式な承認を受けずに、従業員が個人的に生成AIサービスを利用することを指します。
- 会社から禁止されていないから大丈夫、と勝手に利用する
- 上司に報告せず、個人アカウントで仕事に関連する情報を入力する
- 会社の管理ツールの対象外のため、企業が利用を把握できない
この行為は、企業のセキュリティ対策を完全に迂回してしまい、漏洩時に企業が気付くまで対応できません。
生成AI利用ルール作成の基本原則
生成AI利用ルールを作成する際の基本原則は以下の通りです。
原則1：禁止すべき情報を明確に定義
まず、生成AIに入力してはいけない情報の種類を明確に定義します。
絶対に入力禁止：
- 顧客の個人情報（氏名、住所、電話番号、メールアドレス、クレジットカード番号など）
- 従業員の個人情報（社員番号、給与情報、人事評価など）
- 契約書、提案書などの機密文書
- ソースコード、API鍵、パスワード
- 社内会議の議事録や経営情報
- 取引先の情報
慎重に判断して入力：
- 社外秘ではない業務情報
- 個人が特定されない加工済みデータ
- 一般公開可能な情報
この区分けを従業員に周知することが重要です。 迷ったときは「禁止」と判断する習慣をつけましょう。
原則2：生成AIサービスの選別
すべての生成AIサービスが同じレベルのセキュリティを提供しているわけではありません。
企業向けプランの導入：
- ChatGPT Enterprise：入力データが学習に利用されず、エンタープライズセキュリティ機能が提供される
- Gemini for Workspace：Google Workspaceとの統合で、社内情報の管理が容易
- 社内構築型AI：自社のサーバー上で生成AIを運用し、データの外部流出を防ぐ
無料版は「学習利用に同意した」と見なされることが多いため、機密情報の入力には不適切です。
原則3：opt-outオプションの活用
生成AIサービスの多くは、「データを学習に利用しないでほしい」という要望に対応しています。
- ChatGPT：設定画面で「Data Controls」を有効化し、データ学習をopt-outできる
- Gemini：Googleアカウント設定から、Web & App Activityを無効化できる
- ほか商用サービス：多くが企業向けプランで学習利用をopt-outできる
ただし、すべてのサービスがこの機能を提供しているわけではないため、事前確認が必須です。
具体的なルール作成の手順
では、実際に生成AI利用ルールを作成する手順を説明します。
ステップ1：ポリシー文書の作成
経営層が同意し、正式に発表するポリシー文書を作成します。
含むべき内容：
- 目的：社内情報の保護、コンプライアンス遵守、セキュリティリスク低減
- 対象：全従業員、すべての業務利用
- 禁止事項：具体的に禁止する情報の種類を列挙
- 推奨事項：安全な利用方法、許可された使用ケース
- 違反時の対応：ルール違反時の処分内容
- 見直し周期：半年ごと、年ごとなど定期的な見直しの実施
ポリシーは「何が悪いのか」だけでなく「なぜダメなのか」を説明することで、従業員の納得度が高まります。
ステップ2：具体的な利用ガイドラインの作成
ポリシーの実装ガイドとして、具体的な利用ガイドラインを作成します。
例：文書作成業務で生成AIを利用する場合
良い例：
「顧客の製品利用に関する一般的なトラブルシューティングガイドを、 生成AIに作成させたい。製品名と一般的な問題の種類のみを入力し、 個別の顧客情報は含めない」 悪い例：
「顧客A社向けの提案資料を作成したい。 顧客の詳細な要件書と、うちの内部コスト見積もりをChatGPTに入力して 提案資料を自動生成させたい」 実際の業務シーン別に「これはOK、これはNG」という具体例を示すことが重要です。
ステップ3：利用申請・承認フローの構築
従業員が生成AIを使用する際に、適切な申請・承認フローを用意します。
- 軽微なケース：部署長の口頭了解で利用可（社外秘でない情報のみ）
- 機密情報を含むケース：セキュリティ担当者による事前審査が必須
- 新しいサービスの利用：情報セキュリティ部門による承認が必須
このフローにより、「許可されていない利用」を抑止できます。
ステップ4：従業員教育の実施
ポリシーとガイドラインを作成しただけでは、浸透しません。 年に複数回の教育を実施しましょう。
教育内容：
- リスク理解：情報漏洩事例と被害内容を紹介
- ルール周知：禁止事項と推奨事項を明確に
- 実践的スキル：「このプロンプトは安全か」を判断する力をつける
- 責任意識：個人の判断で企業全体のセキュリティが脅かされることを認識させる
特に新入社員とセキュリティ意識の低い部署には、重点的な教育が必要です。
ステップ5：監視・検知ツールの導入
ルール遵守を支援するツールを導入します。
機能の例：
- ウェブフィルタリング：ChatGPT等のサービスアクセスを管理
- エンドポイント保護：ローカルPCからの情報送信を検知・ブロック
- ShadowIT検知：未承認の生成AIサービス利用を検出
- DLP（Data Loss Prevention）：機密情報のアップロードを防止
ただし、監視が強すぎると従業員の信頼を失う可能性があります。 バランスの取れた運用が重要です。
セキュアなプロンプト運用のコツ
ルール作成と並行して、実際のプロンプト運用をセキュアにする工夫も大切です。
プロンプト作成時の注意点
1. 最小必要情報の原則
生成AIに入力するのは、その業務に必ず必要な情報だけです。
悪い例：
「顧客A社（売上5000万円）のB課長（30代、男性）から、 製品Xの価格改定について相談があります。 現在の原価は～、利益率は～となっており、 値上げを提案したいのですが…」 良い例：
「製品の価格改定に関する提案資料を作成したいです。 一般的な価格改定提案の構成をアドバイスしてください。」 2. 出力結果の確認
生成AIが出力した内容に、機密情報が含まれていないか確認します。
時に生成AIは、ユーザーが入力した機密情報の一部を出力に含めることがあります。 使用前に必ず確認しましょう。
3. 入力内容の最小化
「詳しく入力すれば、より良い出力が得られる」は本当ですが、セキュリティとのバランスが重要です。 機密情報を避けつつ、必要な情報のみを含める工夫が必要です。
禁止プロンプトの例
実際に避けるべきプロンプトの例を組織内で共有します。
禁止プロンプト：
「次のメールに返信したい。 [メール本文：顧客の個人情報、取引内容を含む] 丁寧なビジネスメールを作成してください。」 代替案：
「顧客からのクレーム対応メールの基本構成を教えてください。」
生成AI利用とセキュアなアクセス環境
生成AI利用ルールと同様に、セキュアなアクセス環境も重要です。 従業員が安全に会社のリソースにアクセスできる環境を整備することで、Shadow AI（無許可の生成AI利用）を減らせます。
また、社内システムへのアクセス時にIPアドレス制限を使用すれば、許可されたネットワークからのみアクセスが可能となり、セキュリティをさらに強化できます。
固定IPで安全なアクセス環境を実現するなら「ロリポップ！固定IPアクセス」
ロリポップ！固定IPアクセスは、今お使いのインターネット回線をそのまま活かして固定IPアドレスを利用できるVPNサービスです。 月額539円（税込）から、初期費用0円・最大2ヵ月無料で始められます。 WireGuardによる高速接続で、VPN特有の速度低下も気になりません。 IP制限をかけたい社内システムやクラウドサービスへのアクセス管理にぴったりです。 プロバイダの乗り換えも不要で、申し込んだその日から利用できます。
