生成AIセキュリティとは？リスクとRAG対策について解説

カテゴリ：AI技術

更新日：2026年8月7日

生成AIセキュリティとは、入力・出力・保存データを含め、組織の機密情報と個人情報を守り、生成AI利用のリスクを管理する取り組みのことです。昨今、企業が生成AIを業務に取り入れるに伴い、機密情報の漏洩やシャドーAI（無許可のAI利用）、誤回答による判断ミスなど、セキュリティ上の懸念が高まっています。

この記事では、情報漏洩やシャドーAIへの対応、RAG導入時の対策などについて解説します。

生成AIセキュリティとは？

生成AIセキュリティとは、入力・出力・保存データを含め、組織の機密情報と個人情報を守る枠組みをつくる取り組みのことです。AIを利用するあらゆる組織にとって、機密情報を守る仕組みづくりは欠かせません。

しかし、公開クラウドの生成AIに営業情報や個人情報などの機密情報を入力すると、学習データやログ経由で外部に出るリスクが高まります。IPA（独立行政法人情報処理推進機構）も、クラウドAIへの営業秘密入力禁止など、利用者向けに最低限の対策を啓発しています。
社内では「何を入力してよいか」「どのツールを公式とするか」「参照できる文書はどこまでか」をルールと技術の両面で整えることが大切です。

企業が直面する生成AIリスク

生成AIリスクは、入力データの外部流出、誤回答による判断ミス、権限外文書への接触に大きく分かれます。対策の優先順位を決めるため、まずはどのようなリスクがあるのか具体的に見ていきましょう。

入力データが外部に出る

入力データの外部流出とは、プロンプトやアップロードファイルに含まれる機密情報が、学習データやログ経由で組織外に出るリスクのこと です。これは生成AIリスクの問題ともいえ、情報漏洩対策の起点になります。

対策の第一歩は、入力禁止データの定義とマスキングです。加えて、利用する生成AIサービスが、入力されたプロンプトや添付ファイルを学習に利用しないかを利用規約・データ取り扱いポリシーで確認しましょう。Azure OpenAI ServiceやGoogle WorkspaceのGeminiなど、企業向け契約では入力データを学習に利用しないと明記しているサービスを選ぶのが一般的です。
規約だけでは不安が残る場合は、閉域網内での生成AI利用（オンプレミス環境にインストール可能なLLM）を検討する判断もあります。機密情報の公開サービスへの安易な貼り付けは禁止し、文書の所在と機密度を棚卸することが大切です。

誤回答で判断を誤る

誤回答リスクとは、ハルシネーション（もっともらしい誤回答）により、業務判断や対外説明を誤る可能性のこと です。生成AIは確信度の高い文体で誤情報を返すことがあり、アウトプットされた情報を確認せずに活用することは避けましょう。
ハルシネーションが起きる主な理由には、下記のようなものが挙げられます。

＜ハルシネーションが起こる主な理由＞

• LLMの学習にはカットオフがあり、学習時点以降の情報が反映されない
• 企業内の文書や最新の社内事情は、一般公開モデルの学習対象に含まれていない
• モデル性能や推論・生成の仕組み上、確証があるかのような文章を優先して組み立ててしまう

ハルシネーションは完全にゼロにはできません。ただし、根拠文書を示すRAGや原本確認を組み合わせることで、リスクは低減できます。生成AIの回答は確定情報ではなく、手がかりとして扱う運用が有効です。

権限外の文書に触れる

権限外参照とは、検索・RAGの参照範囲が広すぎる結果、閲覧権限のない文書が回答に含まれる可能性のこと です。社内情報を横断するほど、便利さと引き換えにこの権限逸脱のリスクが上がります。

アクセス権の設定または継承による参照範囲の制御は、社内RAGの利用では必須です。閲覧権限が検索結果やAIの回答生成に反映されているかも確認しましょう。

シャドーAIへの対応のポイント

シャドーAIとは、従業員が社内承認なくChatGPT等のAIサービスを業務で使う状態のことです。
シャドーAIは、単に従業員に禁止するだけでは完全に防ぐことはできません。把握・ルール・代替の三つをセットにして対応しましょう。

無許可利用を把握する

生成AIを利用する当人は業務効率のために使っているものの、機密情報の入力により生成AIサービスへの情報漏洩リスクが高まります。

まずは、どのツールがどの部門で使われているかを正確に把握することが大切です。把握できない利用には対策が届かないため、可視化を第一ステップに据えましょう。

利用ポリシーでルールを明示する

シャドーAIに対応するには、利用ポリシーを設けてルールを明示することがポイント となります。具体的には、使えるツールや入力禁止データ、違反時の対応を文書化し周知しましょう。利用状況を把握したら、機密データの入力といったリスクの高い利用を特定していきます。

なお、ポリシーだけでは不十分なため、違反時の対応ルールもセットで整備します。情シス・法務・現場の合意を取り、更新可能な運用ルールにすることが大切です。

公式ツールへ利用を集約する

公式ツールへの集約とは、禁止だけでなく、安全な代替を提供し、特定のツールに利用を集中させる ことです。禁止だけでは生成AIの利用は止まりにくいため、入力データを学習に利用しない契約の生成AIサービスや、権限付きの社内RAGなど、安全な代替が有効となります。

ここで重要なのは、生成AIサービス側が入力された機密情報を学習に利用するか否かです。接続先の生成AIがデータを学習に利用する設定・契約であれば漏洩リスクを封じきれません。そのため、「どの生成AIサービスを、どの契約条件で使うか」をセットで決めましょう。「Neuron ES（Neuron エンタープライズサーチ）」の生成AI連携オプションは、既存ストレージからデータを取得し、都度アップロード不要でRAGを実現できます。現場が使いたい公式の経路を用意することが、シャドーAI抑制の実効性を高めます。

RAG導入時のセキュリティ

RAGセキュリティは、参照範囲の限定、回答への権限反映、プロンプト攻撃への備えが柱です。利便性を保ちつつ情報漏洩と権限逸脱を防ぐ設計が求められます。

参照範囲を限定する

参照範囲の限定とは、どのフォルダ・ストレージをインデックス対象にするかを最初に決めること です。RAGのセキュリティでは、検索対象の境界設計が最優先になります。

また、公開用と機密用のデータを混在させない設計も大切です。正式版のデータのみを置く領域や下書きを対象外にするなど、データの置き方と検索範囲もセットで決めましょう。

回答への権限を反映する

回答への権限反映とは、Active DirectoryやEntra IDなどで設定した情報のアクセス権を継承し、参照できない文書を検索・回答対象外とすること であり、社内RAGでは必須の要件といえます。

Neuron ESは閲覧権限の継承に対応し、ファイルサーバーやMicrosoft SharePoint Online、Boxなどの横断検索も可能です。

プロンプト攻撃に備える（プロンプトインジェクション）

プロンプト攻撃への備えとなるプロンプトインジェクションとは、意図しない情報出力を防ぐ多層防御のこと です。外部からプロンプト攻撃を受けると悪意ある指示や文書内の仕掛けにより、想定外の情報が出力されるリスクがあります。

そのため、入力検証や出力フィルタ、利用ログの監査など、単一対策に頼らない考え方が有効です。完全な防止は難しいため、検知と監査も併せて検討しましょう。

生成AIの社内利用環境を構築する際のチェックポイント

生成AIの社内利用環境を構築する際は、セキュアな基盤や検索とRAGの一体運用、PoCによる実環境検証を確認します。ここでは、生成AIの社内利用環境を構築する際のチェックポイントを見ていきましょう。

セキュアに運用できる基盤か確認する

生成AIの社内利用環境を構築する際は、セキュアに運用できる基盤か確認することが大切です。具体的には、 オンプレミス環境での構築の可否や、動作環境、データの外部持ち出し水準を点検していきます。 一般的な生成AIサービスはインターネットを介してプロンプト内容の送信と結果の回答を得ますが、セキュリティ上接続が不可能な場合、オンプレLLMなどの選択肢があります。いずれにせよ、生成AIを社内利用する際は、組織のセキュリティポリシーに合う提供形態かを先に確認することが必要です。

なお、Neuron ESはクラウドSaaSではなく、社内のオンプレミス環境等に構築するエンタープライズサーチ製品です。同製品の生成AI連携機能（RAG）は、社内データのキーワード検索をもとに、生成AIとの対話が可能となっており、Azure Open AIやAmazon Bedrockなどの主要な生成AIサービスとの連携はもちろん、オンプレLLMの利用も可能です。また、ベクトル検索（Embedding処理）を必要とする場合には「Chat EI」のような製品を利用するアプローチもあります。

アクセス権を考慮した回答生成が可能か確かめる

アクセス権を考慮した回答生成とは、検索結果だけでなく、生成AIの回答にも閲覧権限が反映されるかを確かめる ことです。その際、参照文書の質と権限制御を一貫できるかがポイントとなります。

どの業種・業界でも、部署や役職に応じた閲覧権限の制御は大切です。検索とAI（RAG）が分断されると、権限外の文書が回答根拠に混入しやすくなります。閲覧権限を回答生成時にも継承・制御できるかを、選定時にチェックしましょう。

生成AIセキュリティのガイドライン作成に役立つ参考情報

自社ポリシーをゼロから作るより、公的機関や専門団体の公開資料をベンチマークにすると、セキュリティ対策の抜け漏れを減らせます。ここでは、生成AIセキュリティのガイドライン作成に役立つ参考情報を紹介します。

学習に利用しないと明記した企業向け生成AIサービスを確認する

入力したプロンプトやファイルを学習に利用しないと明記している企業向け生成AIサービスか確かめることは重要です。代表例として、下記のような公式の説明を参照できます。なお、契約形態やプランにより条件が異なる場合もあるため、最新の利用規約をご確認ください。

＜学習に利用しないと明記している企業向け生成AIサービスの例＞

• Azure OpenAI Service「Microsoft Foundry でAzureによって販売されるモデルのデータ、プライバシー、セキュリティ」
• Microsoft 365 Copilot「Microsoft 365 Copilot のデータ、プライバシー、セキュリティ」
• Google Workspace向け生成AI「Google Workspace の生成 AI に関するプライバシー ハブ」
• Anthropic「私のデータはモデル学習に使用されますか？」

公的機関の指針やセキュリティ専門企業の公開情報をベンチマークに

ガイドライン作成の第一歩は、公開されている啓発資料や先進事例を参照し、自社のリスクに合わせて取捨選択すること です。その際、インターネット上の公的機関資料や、セキュリティ先進企業の情報を参考にすると効率的かつ確実といえるでしょう。

自社の業界・データ分類・利用シーンに合わせ、禁止事項や許可ツール、例外申請の流れへと落とし込んでいってください。

ガイドライン作成時に参照したい情報源

参照したい情報源は、公的機関の利用者向け啓発と、事業者向けガイドラインです。 代表例は下記のとおりです。

＜ガイドライン作成時における参照情報の例＞

• IPA（独立行政法人 情報処理推進機構）「AI利用者のためのセキュリティ豆知識」
• デジタル庁「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」
• 総務省・経済産業省「AI事業者ガイドライン」
• 一般社団法人日本ディープラーニング協会「生成AI開発契約ガイドライン」

ここでご紹介したガイドラインをたたき台に、入力禁止データやシャドーAI対応、RAGの参照範囲と権限を自社ルールへ具体化すると、生成AIセキュリティの実効性は高まっていきます。

社内生成AIはデータの所在や権限継承を選定の軸にしましょう

生成AIセキュリティは、情報漏洩や誤回答、権限外参照などの生成AIリスクを組織で管理する取り組みです。シャドーAIへの対応と、RAGのセキュリティ（参照範囲・権限・監査）をセットで設計することが大切です。

また、社内生成AIは、データの所在や権限継承を選定の軸にしておきましょう。最終的にPoC・評価版で検証した上で、自社に合った基盤を選ぶことが安全な導入につながります。

社内の生成AI・RAG導入、ベクトル検索を安全に進めたい場合は、当社の製品をご検討ください。

FAQ

著者

Neuronマーケティングチーム
Neuronマーケティングチームは、ブレインズテクノロジー株式会社が提供するエンタープライズサーチ「Neuron ES」の情報を発信しています。AI検索、ベクトル検索、RAG、生成AI、AIエージェント、ナレッジマネジメントなど、企業のDXや業務効率化に関する最新トレンドや活用方法を、製品開発・導入支援の知見を交えながらわかりやすく解説します。

< AI技術の記事一覧へ戻る