情報管理
生成AIの情報管理
漏洩を防ぐルール・確認項目・例文
生成AIで情報が漏れる原因は、AIそのものより「何を入れてよいか」「どのサービスなら使ってよいか」が決まっていないことにあります。この記事では、イベント制作のようにクライアントの未公開情報と参加者の個人情報を日常的に扱う現場を例に、決めておくことを順に整理します。
結論
生成AIの情報管理で押さえるのは①入れない情報を決める ②入力が学習に使われない環境を選ぶ ③出力は人が確認してから外に出す ④誰が何をしたかの記録を残すの4つです。ツールを選ぶときは、学習利用・保存場所と期間・認証情報の扱い・監査ログ・解約時のデータの5項目を確認します。
結論:入力してよい情報の区分表
最初に決めるのは「どの情報を、どの条件なら入れてよいか」です。区分が決まっていれば、現場で迷う時間も事故も減ります。イベント業務での例を並べます。
| 区分 | 例(イベント業務) | 扱い |
|---|---|---|
| 入れてよい | 公開済みの告知文、自社の業務手順、汎用的な進行表の型、匿名化した過去の反省点 | どのツールでも可(社内で許可したものに限る) |
| 条件付き | クライアント名入りの企画書、予算の内訳、取引条件、未発表の出演者名 | 契約上問題がなく、学習に使われない設定・プランのツールのみ。固有名詞は伏せる |
| 入れない | 参加者名簿・連絡先・顔写真、健康状態などの配慮が必要な情報、他社から機密として預かった資料、パスワードやAPIキー | 原則入力しない。必要な場合は社内の承認と専用の環境を用意する |
Point
迷ったら「この内容をクライアントの担当者に見られて説明できるか」で判断してください。説明できない入力は、条件付き以上の区分として扱います。
生成AIで情報が漏れる8つの経路と対策
「AIに入れると漏れる」とひとまとめにせず、経路ごとに分けると対策が具体的になります。
| 経路 | 起きること | 対策 |
|---|---|---|
| 入力の学習利用 | 入力内容がモデルの改善に使われ、利用者の管理の外に出る | 学習に使わない旨が規約に書かれたプラン・設定を選ぶ |
| 履歴の共有 | 会話の共有リンクや共有フォルダから、意図しない相手が閲覧する | 共有機能の利用ルールを決め、不要な共有リンクを定期的に削除する |
| 外部連携・拡張機能 | メールやストレージとの連携で、必要以上の範囲にAIがアクセスする | 権限を読み取り専用・必要なフォルダだけに絞る |
| アカウントの乗っ取り | 個人のパスワード流出から、会話履歴や連携先が丸ごと見られる | 多要素認証、退職・異動時のアカウント停止 |
| シャドーAI | 会社が把握していないAIサービスを個人判断で業務に使う | 使ってよいツールを明示し、申請の窓口を用意する |
| プロンプトインジェクション | AIに読ませたメールや資料に紛れた指示で、AIが意図しない操作をする | 外部から届いた文書を読ませるときは、送信・削除などの操作を人の承認制にする |
| 誤った出力の流用 | 事実と異なる内容(人名・金額・法令)が、そのまま対外文書に載る | 固有名詞・数値・法令は一次情報で確認してから使う |
| サービス側の障害・不具合 | 提供者側の不具合で、データが見えたり消えたりする | 原本は社内に保管し、AIの中だけにデータを置かない |
注意
8つのうち、入力の学習利用以外の7つは「学習オフ」にしても防げません。学習オフはスタート地点であって、情報管理の完了ではありません。
公的な注意点と法律の押さえどころ
個人情報保護委員会の注意喚起
個人情報保護委員会は令和5年6月2日に「生成AIサービスの利用に関する注意喚起等」を公表しています。事業者向けには、個人情報を含むプロンプトを入力する場合は利用目的の達成に必要な範囲内かを十分に確認すること、本人の同意なく個人データを入力し、それが応答の出力以外の目的で扱われる場合は法に違反する可能性があるため、提供事業者が機械学習に利用しないこと等を十分に確認すること、が示されています。
一般の利用者向けの留意点としても、次のように書かれています。
生成AIサービスを提供する事業者の利用規約やプライバシーポリシー等を十分に確認し(個人情報保護委員会「生成AIサービスの利用に関する注意喚起等」(3)③)
参加者名簿など個人情報の扱い全般はイベントの個人情報の扱いに、漏えいしたときの対応は個人情報が漏れたときの初動にまとめています。
営業秘密は「管理していること」が前提
不正競争防止法第2条第6項は、営業秘密を「秘密として管理されている」事業活動に有用な技術上・営業上の情報で、公然と知られていないもの、と定めています。社内で区分を決めず、誰でも自由にAIへ入力できる状態のままだと、その情報が「秘密として管理されている」と示しにくくなるおそれがあります。区分表とルールを作ることは、漏洩を防ぐだけでなく、自社の情報を守る前提づくりでもあります。
秘密保持契約を確認する
クライアントとの秘密保持契約に第三者への開示を禁じる条項がある場合、外部のAIサービスへの入力が該当するかは契約の文言によります。判断がつかない場合は、法務担当に確認するか、クライアントに事前に相談してください(相談の例文は後述)。
ツール選定で確認する5項目
| 項目 | 確認すること | 望ましい状態 |
|---|---|---|
| 学習利用 | 入力したデータがAIモデルの学習に使われるか | 使われない旨が利用規約・設定で明示されている |
| 保存場所と期間 | データがどの国・地域に、いつまで保存されるか | 保存場所が明示され、削除の手段がある |
| 認証情報 | メール等の連携で、認証情報を誰が扱うか | 利用者自身が接続し、運営側は扱わない |
| 監査ログ | 誰が・いつ・何をしたかが記録されるか | AIが実行した操作も含めて記録される |
| 解約時 | データを取り出せるか、削除されるか | 取り出しと削除の手段が明示されている |
あわせて、管理者がアカウントを一括で発行・停止できるか、会話の共有機能を管理者が制限できるかも確認しておくと、退職時や異動時の抜け漏れを防げます。
利用形態ごとの確認の重点
| 利用形態 | 確認の重点 | 向いている用途 |
|---|---|---|
| 個人向けの無料プラン | 学習利用の扱い、履歴の保存、業務利用の可否を規約で確認 | 公開情報だけを使う下調べ・文章の言い換え |
| 個人向けの有料プラン | 学習利用の設定、アカウントが個人の管理になる点 | 社内で許可した範囲の文章作成 |
| 法人・チーム向けプラン | 管理者機能、学習利用の扱い、ログの取得範囲 | 条件付き区分の情報を含む業務 |
| API・自社環境での利用 | 提供者のデータ保持の条件、社内での保管・権限設計 | 社内システムへの組み込み |
| 業務特化のSaaS | 上の5項目に加え、連携先への権限と操作の承認の仕組み | 案件情報と結びついた継続業務 |
注意
プランごとの条件は改定されます。導入時に規約の該当箇所を保存し、半年に一度は読み直す運用にしてください。
クライアントの機密を扱うときの伏せ方
固有名詞と数値を置き換えるだけで、企画の骨子や段取りの検討はAIで進められます。置き換えの例です。
| そのままの入力 | 伏せた入力 |
|---|---|
| ◯◯自動車の新型EV発表会、予算1,800万円、来年3月 | A社(製造業)の新製品発表会、予算は中規模、春開催 |
| 出演予定の△△さん(未発表)の楽屋要件を整理して | 出演者1名(未発表)の楽屋要件を整理して |
| 参加者リスト(氏名・会社・メール)から座席表を作って | 「参加者1〜120」の番号と所属区分だけで座席の配置案を作って |
実名が必要な作業(会場への照会メールの清書など)は、AIで型を作り、固有名詞は最後に人が書き入れる分担にすると安全です。
そのまま使える社内ルールのひな形
社内のAI利用ルール(ガイドライン)は、次の8項目で1枚にまとめられます。自社の規程・契約に合わせて書き換えてください。
1.目的:業務の効率化と情報の保護を両立するため、生成AIの使い方を定める。
2.対象者:役員・社員・業務委託先のうち、◯◯部が利用を許可した者。
3.使ってよいツール:別表に記載したツールのみ。追加は◯◯部に申請する。
4.入力の区分:「入れてよい/条件付き/入れない」の区分表に従う。区分が不明な情報は入力しない。
5.出力の確認:固有名詞・数値・法令・金額は一次情報で確認する。対外文書は担当者が全文を確認してから出す。
6.連携と権限:メール・ストレージ等との連携は本人が接続し、必要な範囲の権限に限る。
7.事故時の報告:誤って入力した、または漏洩のおそれに気づいた場合は、直ちに◯◯部へ報告する。
8.見直し:このルールは◯か月ごとに見直す。
問い合わせ先:◯◯部 ◯◯(内線◯◯)
人の対策と仕組みの対策を組み合わせる
| 種類 | 具体策 | 防げること |
|---|---|---|
| 人の対策 | 区分表の周知、入社時・ルール改定時の説明、迷ったときの相談窓口 | うっかりの入力、シャドーAI |
| 人の対策 | 利用者の範囲を決め、責任者を置く | 誰も判断しない状態 |
| 仕組みの対策 | 法人向けプランでのアカウント一括管理、多要素認証 | 退職者・乗っ取りからの流出 |
| 仕組みの対策 | 連携権限の最小化、送信・削除の承認制 | 連携経由の流出、意図しない操作 |
| 仕組みの対策 | 操作ログの保存と定期的な確認 | 事故後に原因が分からない状態 |
例文6本:申請・確認・周知・報告
①社内への利用申請
◯◯部 ◯◯様
イベント制作部の◯◯です。下記のとおり、生成AIツールの業務利用を申請します。
・用途:企画書のたたき台作成、会場への照会メールの下書き
・入力する情報:公開済みの情報、固有名詞を伏せた企画内容(個人情報は入力しません)
・利用者:イベント制作部の◯名
・期間:◯月◯日から◯か月の試行
・確認5項目への回答:別紙のとおり(規約の該当箇所を添付します)
試行後に、作業時間の変化と問題の有無をご報告します。ご確認のほどよろしくお願いいたします。
②サービス提供者への確認
◯◯株式会社 ご担当者様
◯◯株式会社の◯◯と申します。貴社サービスの導入を検討しており、社内審査のため次の点をご教示いただけますでしょうか。
1.入力したデータをAIモデルの学習に利用するか(利用しない場合はその旨の記載箇所)
2.データの保存場所(国・地域)と保存期間、削除の方法
3.外部サービスとの連携時に、認証情報を貴社が保持するか
4.利用者とAIの操作の記録(ログ)の有無と保存期間
5.解約時のデータの取り出しと削除の方法
公開資料がございましたら、URLをお知らせいただけますと幸いです。何卒よろしくお願いいたします。
③クライアントへの事前相談
◯◯株式会社 ◯◯様
いつもお世話になっております。◯◯の◯◯です。
今回の案件の資料作成で、生成AIツールの利用を考えております。秘密保持契約との関係で、事前にご相談させてください。
・使うツール:◯◯(入力内容を学習に利用しない設定で使用します)
・入力する情報:貴社名・製品名を伏せた企画の骨子のみ
・入力しない情報:未発表の情報、ご提供いただいた資料の原本、個人情報
・最終確認:提出前に担当者が全文を確認します
ご懸念がございましたら、利用を控えますのでお知らせください。よろしくお願いいたします。
④社内への周知
各位
◯◯部の◯◯です。生成AIの業務利用について、ルールを定めました。
要点は3つです。
・使ってよいのは別表のツールだけです
・参加者の個人情報、クライアントから預かった資料、パスワードは入力しないでください
・対外的に出す文章は、必ずご自身で全文を確認してください
区分に迷う情報は、入力する前に◯◯までご相談ください。ルール本文は◯◯に掲載しています。
⑤誤って入力したときの報告
◯◯部 ◯◯様
◯◯です。誤入力がありましたので、ご報告いたします。
・日時:◯月◯日 ◯時ごろ
・ツールとアカウント:◯◯(個人の無料アカウント/会社のアカウント)
・入力した情報:◯◯の参加者リストの一部(◯件、氏名と会社名)
・現在の状態:以降の入力は停止済み、共有リンクの作成なし、会話履歴は削除せずに残しています
ご迷惑をおかけし、申し訳ございません。履歴の扱いを含め、今後の対応についてご指示をお願いいたします。
⑥外部の協力会社への依頼
◯◯株式会社 ◯◯様
お世話になっております。◯◯の◯◯です。
本案件でお渡しする資料は、クライアントとの秘密保持契約の対象です。生成AIツールへの入力は、事前にご相談いただいたうえで、学習に利用されない環境に限っていただけますでしょうか。
お手数をおかけしますが、ご協力をお願いいたします。
社内承認を通す資料の作り方
情報システム部門や法務に相談するときは、次の構成で1枚にまとめると論点が絞られます。
- 01
何に使うか(具体的に)
「AIを使いたい」ではなく「企画書のたたき台生成と、会場への照会メールの下書きに使う」と業務を特定します。用途が広いほど審査は厳しくなります。
- 02
どのデータを送るか
区分表のどこまでを入力するかを明記します。個人情報を含まないことが明確であれば、審査の論点が大きく減ります。
- 03
5項目の回答
確認5項目について、サービス提供者の回答と規約の該当箇所を添えます。
- 04
使わない場合との比較
「使わない場合、この作業に月◯時間かかる」という比較を入れます。リスクだけでなく、使わないコストも判断材料です。
- 05
段階的な導入案
「機密性の低い1案件で試し、◯か月後に評価する」という提案にすると、決裁者が判断しやすくなります。
よくある失敗と対処
| 失敗 | なぜ起きるか | 対処 |
|---|---|---|
| 全面禁止にしたら、個人のスマホで使われていた | 禁止だけで代わりの手段がない | 許可ツールと区分表を用意し、使える範囲を示す |
| 学習オフにしたので安心していた | 共有リンクや連携権限は別の経路 | 8つの経路ごとに対策を確認する |
| 議事録の文字起こしをそのまま入れた | 録音に参加者の氏名や未発表情報が含まれていた | 文字起こしは条件付き区分として扱い、許可されたツールで処理する |
| AIの出した会場名・金額をそのまま提案書に載せた | 出力をもっともらしく感じて確認を省いた | 固有名詞・数値は一次情報で確認する手順をルールに入れる |
| 退職者のアカウントが残っていた | 個人契約のアカウントで業務をしていた | 法人向けプランで一括管理し、退職手続きに停止を入れる |
| ルールを作ったが誰も読んでいない | 長文で、現場の判断に使えない | 1枚の区分表と、迷ったときの相談先を前面に出す |
誤って入力してしまったときの初動
- 01
追加の入力を止める
同じ会話で続けて作業せず、何を入力したかを画面で確認します。
- 02
共有と連携を確認する
共有リンクを作っていないか、連携先に同じ情報が送られていないかを確認します。
- 03
責任者に報告する
日時・ツール・入力した情報・現在の状態を、上の例文⑤の形で報告します。自己判断で終わらせません。
- 04
履歴の扱いを決める
削除するかどうかは、記録として残す必要も含めて責任者と決めます。削除しても提供者側の保存が消えるとは限らないため、規約の保存期間も確認します。
- 05
個人情報なら漏えい時の手順へ
個人データが含まれる場合は、個人情報が漏れたときの初動の手順で、報告や本人への通知が必要かを確認します。
運用チェックリスト
- 入力の区分表(入れてよい/条件付き/入れない)を全員が見られる場所に置いた
- 使ってよいツールを一覧にし、追加の申請窓口を決めた
- 業務で使うアカウントは会社の管理下にある(退職時に停止できる)
- 多要素認証を設定した
- 連携の権限を必要な範囲に絞った
- 送信・提出・発注など対外的な操作は、人の承認なしに実行されない
- 固有名詞・数値・法令は一次情報で確認してから使う
- 秘密保持契約とAI利用の関係を、案件の開始時に確認している
- 誤入力時の報告先と報告の項目を決めた
- 規約と運用ルールを定期的に見直す日を決めた
ルールより確実なのは設計で防ぐこと
ルールだけに頼ると、繁忙期に破られます。設計で防げるものは設計で防ぐのが確実です。ツールを選ぶ段階で次を確認してください。
- 対外送信の承認必須化:送信・提出・発注・支払の前に人の承認を求め、その承認が設定で解除できないか。
- 認証情報の非保持:運営側が利用者の認証情報を入力・保管しない設計か。
- 読み取り専用の連携:クラウドストレージへの接続が読み取り専用に限定されているか。
- 全操作の記録:誰が・いつ・何をしたかが、AIの操作も含めて記録されるか。
PRODUCER AGENTはこの4点を設計で担保しています。詳しくはイベントAIとはをご覧ください。
この記事の要点
- 生成AIの情報管理は、入れない情報を決める・学習に使われない環境を選ぶ・出力を人が確認する・記録を残す、の4本柱。
- 漏洩の経路は8つ。学習オフで防げるのは1つだけなので、共有・連携・アカウント・シャドーAIも対策する。
- 個人情報を含む入力は、個人情報保護委員会の注意喚起に沿って利用目的の範囲と学習利用の有無を確認する。
- 区分表・ひな形・例文を用意し、誤入力時の報告先まで決めておくと、現場が迷わない。
FAQ
よくある質問
入力内容の学習利用だけでなく、会話の共有リンク、外部連携の権限の広さ、アカウントの乗っ取り、会社が把握していないツールの利用、読ませた文書に紛れた指示による誤操作、誤った出力の流用、サービス側の不具合と、複数の経路があります。経路ごとに対策を分けて考えてください。
入力してよい情報の区分表と、使ってよいツールの一覧の2つです。この2つがあれば、現場は「入れてよいか」を自分で判断できます。その後に、アカウントの会社管理と多要素認証を整えます。
利用規約で、入力の学習利用の扱いと業務利用の可否を確認してください。条件付き区分以上の情報を扱うなら、学習に使わないことが明示されたプランや法人向けサービスを選び、アカウントを会社の管理下に置くのが安全です。
個人情報保護委員会の注意喚起では、事業者が個人情報を含むプロンプトを入力する場合、利用目的の達成に必要な範囲内かを十分に確認すること、提供事業者が機械学習に利用しないこと等を十分に確認することが示されています。まず番号や区分に置き換えて済まないかを検討してください。
サービスによります。会話履歴を削除できるもの、一定期間後に自動削除されるもの、保持期間が明示されていないものがあります。画面上で削除しても提供者側の保存が残る場合があるため、契約前に削除の手段と期間を確認してください。
AIに読ませたメールやWebページ、資料の中に紛れ込ませた指示によって、AIが利用者の意図しない動作をすることです。外部から届いた文書をAIに処理させる場合は、送信や削除などの操作を人の承認なしに実行できない設計にしておくことが有効です。
必要かどうかは、秘密保持契約などクライアントとの取り決めの内容によります。契約で第三者への開示や目的外の利用が制限されている場合は、事前の同意が求められることがあります。どのツールに、何を入れ、何を入れないかを説明できる状態にし、判断がつかない場合は事前に相談してください。
用途の特定、送信するデータの区分、確認5項目の回答、使わない場合との比較、段階的な導入案の5点を1枚にまとめてください。抽象的な相談は、リスクだけが議論されて止まりやすくなります。