生成AIに個人情報を入れてはいけない？ 「学習されるか」だけでは決まらない理由

「個人情報か」と「生成AIへ入力してよいか」は、同じ質問ではない

生成AIへ何かを入力するとき、「これは個人情報だからダメ」「名前を消したから大丈夫」と二択で考えると判断を誤る原因となりえます。

まず分けたいのは、その情報が個人情報に当たるかという問題と、その情報をその生成AIサービスへ入力してよいかという問題です。

入力の可否には、情報の内容だけでなく、利用目的、サービスのデータ取扱い、契約しているプラン、組織のルール、守秘義務なども関係します。個人情報ではなくても社外秘の案件情報なら入力できないことがありますし、逆に本人が自分の情報を個人利用で入力する場面と、会社が顧客データを業務で入力する場面では考えるべき条件が異なります。

公開されている情報でも、「自由にAIへ入れてよい」とは限らない

インターネットで公開されている氏名、所属、役職などを見ると、「すでに公開済みだから問題ない」と考えがちです。

しかし個人情報保護委員会は、既に公表されている個人情報も、他の個人情報と区別せず保護の対象になると説明しています。公開情報でも、利用目的や他の情報との組み合わせによって扱いの意味が変わるためです。

また、氏名を消した文章でも、会社名、部署、案件名、日時、地域、役職などを組み合わせると対象者が推測できる場合があります。「名前を消した」だけではなく、相談の目的に本当に必要な情報だけになっているかを見る方が実用的です。

「学習に使われない」ことは重要だが、それだけで入力可否は決まらない

生成AIの安全性を考えるとき、「入力内容がモデル学習に使われるか」がよく話題になります。これは重要な確認項目ですが、学習利用の有無だけで安全性や入力可否が決まるわけではありません。

確認したいのは、会話やファイルがどのように保存されるか、履歴や共有機能がどうなっているか、外部サービスとの接続があるか、管理者や組織の設定がどうなっているか、契約上どのように扱われるか、といった点です。

たとえばOpenAIでも、個人向けワークスペースとBusiness・Enterprise・Eduなどの管理対象ワークスペースでは、モデル改善へのデータ利用の扱いが異なります。個人向けでもデータコントロールで新しい会話をモデル改善へ使わない設定を選べます。つまり、「生成AIなら全部同じ」ではなく、サービス・プラン・設定を確認する必要があります。

仕事で個人データを扱う場合は、本人の情報を扱う目的とサービス側の利用まで確認する

業務で顧客や従業員などの個人データを生成AIへ入力する場合は、個人利用より慎重な確認が必要です。

個人情報保護委員会は、個人情報取扱事業者が生成AIサービスへ個人情報を含むプロンプトを入力する場合、特定された利用目的を達成するために必要な範囲かを確認すること、個人データを入力する場合には、サービス提供者がその個人データを機械学習に利用しないこと等を十分に確認することを示しています。

さらに、会社の利用規程、顧客との契約、秘密保持義務、委託先やクラウド利用のルールなどが別に存在することがあります。「法律上の個人情報か」だけを見て入力可否を決めない方が安全です。

氏名よりも、組み合わせる内容の方が重大なこともある

同じ氏名でも、「イベント参加者名簿」と「病歴・人事評価・相談内容・取引内容・認証情報」が結び付いた場合では、漏れたときの影響が大きく違います。

また、顧客番号、契約番号、メールアドレス、内部ID、案件名などは、それ単独で意味が分かりにくくても、別の情報と照合すると個人や案件に結び付くことがあります。

生成AIへ入力するときは、個人情報かどうかだけではなく、漏れたり誤共有された場合の影響が大きい情報かも確認します。医療、人事、法律相談、未公表の業務情報、認証情報などは特に慎重に扱いましょう。

迷ったら「入力してよい理由」を探すより、まず情報を減らす

生成AIを使う目的が、文章の言い換え、構成案、一般的な相談、コード例の作成などであれば、実在する氏名や顧客番号、具体的な案件名がなくても目的を達成できることがあります。

• 氏名を「Aさん」「担当者」に置き換える
• 実際の顧客番号や契約番号を架空の値にする
• 会社名・案件名を一般化する
• 必要な一部分だけ抜き出す
• 実データの代わりに架空例を作る

このように入力前に最小化・抽象化すると、サービス設定や契約を確認するときの判断も簡単になります。入力前の具体的な確認は、生成AIにこの情報を入力して大丈夫？で整理しています。

判断軸は「個人情報か」だけでなく、目的・情報・サービス・契約・ルールの組み合わせ

生成AIと個人情報の問題が難しいのは、単純な禁止リストでは判断できないからです。

確認する順番を、何のために使うか → 本当に必要な情報か → 入力先のサービス・プランはどう扱うか → 仕事や契約上のルールに反しないかと分けると整理しやすくなります。

「学習OFFだから安全」「公開情報だから自由」「匿名化したから必ず大丈夫」と一つの条件だけで決めず、必要な情報を減らしたうえで残る条件を確認します。実際に生成AIを使う流れ全体は、生成AIを安全に使う基本ガイドで順番にまとめています。