PERSPECTIVES読了目安 7分
生成AIに個人情報を渡す前に、経営が決めること
生成AIの業務利用で「個人情報は入力禁止」とするだけでは、業務への組み込みは進まない。利用目的、入力の経路、情報の区分、出力の扱いの4点を経営として先に決め、個人情報を扱う業務にこそAIを安全に届ける設計を示す。
AT A GLANCE概略
- 生成AIの利用が広がる一方、導入の懸念として情報漏えいのリスクが上位に挙がり、「入力禁止」で止まっている企業は少なくない。
- 個人情報保護委員会の注意喚起が求めるのは禁止ではなく、利用目的の範囲と、入力した情報が応答以外に使われないことの確認である。
- 目的・経路・区分・出力の4点を先に決め、医療・介護のように機微な情報を扱う業務では委託の責任分界まで設計してから組み込む。
生成AIの業務利用は、試行の段階を越えつつあります。総務省『令和7年版 情報通信白書』が紹介する、日本・米国・ドイツ・中国の4か国の企業を対象にしたアンケート調査によれば、日本で生成AIを「積極的に活用する方針」または「活用する領域を限定して利用する方針」を定めている企業の比率は、2024年度調査で49.7%となり、2023年度調査の42.7%から増加しました。[1] 何らかの業務で生成AIを使用していると答えた割合も、日本で55.2%に達しています。[1]
一方で、同じ調査で生成AI導入に際しての懸念事項を尋ねると、日本では「効果的な活用方法がわからない」が最も多く、次いで「社内情報の漏えい等のセキュリティリスク」が挙げられています。[1] 情報の扱いへの不安は、活用の範囲を決める大きな要因になっています。
その結果として多くの企業が採っているのが、「個人情報や機密情報は入力しない」というルールです。利用の初期段階では妥当な判断ですが、このルールのまま業務への組み込みを進めようとすると、壁に突き当たります。顧客対応、人事、医療・介護の記録など、生成AIの効果が大きい業務ほど、個人情報を避けて通れないからです。
本稿の主張は次のとおりです。生成AIと個人情報の問題は、「入れるか、入れないか」ではなく、「どの目的で、どの経路を通し、どの区分の情報を、どう出力させるか」を経営として決める問題です。
「入力禁止」のままでは、価値の大きい業務に届かない
入力禁止のルールには、2つの副作用があります。
- 対象業務の偏り:個人情報を含まない業務、たとえば一般的な文章の下書きや社内資料の要約にAIの利用が限られます。個人の作業は速くなっても、顧客や患者、従業員に関わる中核の業務は手つかずのまま残ります。
- ルールの空洞化:現場では、個人情報を含む業務にもAIを使いたいという要請が続きます。正規の手段が用意されていなければ、氏名を消したつもりの文章を個人の判断で入力する、といった運用が生まれ、統制の及ばない利用がかえって増えます。
ここで押さえておくべきは、規制当局の立場も「禁止」ではないという点です。個人情報保護委員会は2023年6月2日、生成AIサービスの利用に関する注意喚起を公表し、個人情報の適正な取扱いによる個人の権利利益の確保と、イノベーションの促進や生産性の向上といった公共的な利益との「バランスに留意しつつ」注意点を取りまとめたとしています。[2] 求められているのは、使わないことではなく、使い方を確かめることです。
決めるべきは「目的」「経路」「区分」「出力」の4点
同委員会の注意喚起は、個人情報取扱事業者が生成AIサービスを利用する際の注意点として、2つを挙げています。[2] 第一に、個人情報を含むプロンプトを入力する場合には、特定された利用目的を達成するために必要な範囲内であることを十分に確認すること。第二に、本人の同意を得ずに個人データを含むプロンプトを入力し、その個人データが応答結果の出力以外の目的で取り扱われる場合には、個人情報保護法の規定に違反する可能性があるため、提供事業者が個人データを機械学習に利用しないこと等を十分に確認すること、です。[2]
あわせて、一般の利用者に向けた留意点として、入力された個人情報が機械学習に利用されて出力されるリスクや、応答結果に不正確な内容の個人情報が含まれるリスク、提供事業者の利用規約やプライバシーポリシーを確認する必要性が示されています。[2] これらを経営の判断事項に置き換えると、次の4点に整理できます。
| 論点 | 確かめること | 決める主体 |
|---|---|---|
| 目的 | その業務での利用が、本人に示している利用目的の範囲に収まっているか | 事業部門と法務・個人情報保護の責任者 |
| 経路 | 入力した情報が、応答の生成以外に使われない契約と設定になっているか | 情報システム部門と調達 |
| 区分 | どの区分の情報を、どの経路に流してよいか | 個人情報保護の責任者と事業部門 |
| 出力 | 出力に含まれる個人情報の正確さを、誰がどこで確かめるか | 業務の責任者 |
出典:個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」をもとにDeer作成
4点のうち「目的」と「出力」は業務の設計の問題であり、「経路」と「区分」は仕組みと調達の問題です。前者を事業部門に、後者を情報システム部門に任せきりにすると、両者の判断が噛み合いません。4点を一つの判断の枠組みとして扱い、業務ごとに一度に決めることが重要です。
経路と区分:応答以外に使われないことを、契約と設定で確かめる
4点のうち、最も手戻りが大きいのが「経路」です。同じ生成AIでも、個人向けの無料サービス、法人向けの契約、自社の環境に組み込んだAPI経由の利用では、入力した情報の扱いが異なります。注意喚起が求める「機械学習に利用しないこと等」の確認は、利用規約を一度読めば終わるものではありません。[2]
- 契約で確かめる:入力データの保存期間、学習への利用の有無、再委託先、データを処理する地域を、法人向けの契約条件として確認します。個人の判断で同意した利用規約に、組織の個人データを委ねる状態をなくすことが出発点です。
- 設定で固定する:学習への利用を止める設定や、ログの保存範囲は、利用者ごとの選択に任せず、管理者の側で固定します。設定が変えられる限り、ルールは守られている前提で運用することになります。
- 経路を一本化する:個人情報を扱う業務は、確認済みの経路だけを通すようにし、その経路の利用記録を残します。入力禁止の代わりに「この経路なら入れてよい」という受け皿を示すことが、統制の及ばない利用を減らす近道です。
経路が決まると、「区分」の設計に移れます。氏名や連絡先のような一般的な個人情報と、病歴などの機微な情報とでは、許容できる経路が異なります。同委員会がChatGPTの提供事業者に対して要配慮個人情報の取得について注意喚起を行ったように、機微な情報の扱いは、とりわけ慎重な確認が求められる領域です。[2] 情報の区分ごとに流してよい経路を一覧にし、業務の設計者がそれを見て判断できる状態をつくります。
最後の「出力」は、見落とされやすい論点です。生成AIの応答は確率的に生成されるため、不正確な内容の個人情報が含まれるリスクがあると注意喚起は指摘しています。[2] 顧客への回答や記録として残る文書にAIの出力を使うのであれば、誰がどの時点で内容を確かめるのかを、業務の手順として定めておく必要があります。
医療・介護:委託の責任分界を、AIの導入より先に設計する
この論点が最も先鋭に表れるのが、医療・介護です。記録や説明文書の作成には専門職の時間が多く割かれており、生成AIの効果が期待される領域ですが、扱う情報は患者や利用者の機微な個人情報です。
厚生労働省は2026年6月、『医療情報システムの安全管理に関するガイドライン』の第7.0版を公表しました。[3] 同ガイドラインは生成AIに特化したものではありませんが、外部のサービスに医療情報を扱わせる際の考え方は、生成AIの導入にもそのまま関わります。第7.0版では、クラウドサービスの積極的な活用を推進する旨が追記され、医療機関等とシステム・サービスの提供事業者との役割分担についても記述が加えられました。[3]
経営管理編は、医療機関等の経営層が閲読し、理解したうえで必要な措置を講じることを求めています。[3] その遵守事項には、業務等を委託する場合に委託する内容や役割分担などの責任分界を明確にし、書面等で可視化して保管することや、医療情報を第三者提供する場合にそれぞれが負う責任範囲をあらかじめ明確にすることが含まれます。[3] また、安全管理対策を「コスト」ではなく、質の高い医療の提供等に不可欠な「投資」と捉え、必要な予算や人材の確保に努めることが重要だとしています。[3]
ここから導かれる順序は明快です。医療・介護の領域では、どのAIを使うかを選ぶ前に、AIの提供事業者を委託先としてどう位置づけ、どこまでを自組織が、どこからを事業者が担うのかという責任分界を決めておく必要があります。責任分界が書面で示せる経路だけが、患者や利用者の情報を流してよい経路になります。この整理を先に済ませた組織ほど、記録業務へのAIの組み込みを速く進められます。
次の一手:入力のルールを、業務ごとの判断の枠組みに置き換える
生成AIと個人情報の問題は、情報システム部門が利用ルールを定めれば済むものではありません。どの業務に、どの経路で、どの情報を流すかは、事業の優先順位とリスクの許容度に関わる経営の判断です。取り組みの段階に応じて、次の手を打ちます。
- これから業務への組み込みに着手する企業:個人向けサービスの利用を前提にした「入力禁止」のルールを維持しつつ、法人向けの契約で学習への利用や保存の条件を確かめた経路を一つ用意します。個人情報を扱う候補業務を挙げ、目的・経路・区分・出力の4点で整理します。
- 利用が部門ごとに広がっている企業:部門ごとに異なるサービスと設定を棚卸しし、個人情報を扱う業務の経路を一本化します。情報の区分ごとに流してよい経路を一覧にし、出力を確かめる手順を業務の手順書に組み込みます。
- 全社展開や機微な情報への適用を進める企業:提供事業者との責任分界を書面で定め、利用記録の監査を定期的に行う体制を置きます。医療・介護のように機微な情報を扱う業務では、所管省庁のガイドラインの改定を追い、責任分界と経路の見直しを継続的に行います。
個人情報を扱う業務は、多くの組織にとって最も人手がかかり、最も価値の大きい業務です。そこにAIを届けられるかどうかは、技術の選択ではなく、判断の枠組みを先につくれるかどうかで決まります。
Deerは、生成AIの業務利用に関するガバナンスの設計と、個人情報を扱う業務へのAIの組み込みを支援しています。利用ルールの見直しや、提供事業者との責任分界の整理からご相談ください。
SOURCES出典
- [1]総務省『令和7年版 情報通信白書(第Ⅰ部 第1章 第2節「企業におけるAI利用の現状」)』(2025年7月)
https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r07/html/nd112220.html(2026年11月10日閲覧) - [2]個人情報保護委員会『生成AIサービスの利用に関する注意喚起等について』(2023年6月2日)
https://www.ppc.go.jp/news/careful_information/230602_AI_utilize_alert/(2026年11月10日閲覧) - [3]厚生労働省『医療情報システムの安全管理に関するガイドライン 第7.0版』(2026年6月)
https://www.mhlw.go.jp/stf/shingi/0000516275_00006.html(2026年11月10日閲覧)
Related Insights
関連するインサイト
- PERSPECTIVES2026年11月19日データの品質は、所有者を決めない限り上がらないデータ品質の問題は、ツールや人材の不足として語られることが多いが、根本は責任の配分にある。所有者を「名前」ではなく権限と負担を伴う役割として設計し、データが生まれる業務に置き直すことで、品質を継続的に保つ仕組みを示す。
- PERSPECTIVES2026年11月18日配車の最適化は、アルゴリズムより「制約」で決まる輸送力不足を前に配車・庫内計画へのAI導入が語られるが、非効率の多くは計画の外にある制約から生まれている。予測・計画・調整の3層で最適化とAIの役割を分け、荷主と一体で制約を設計し直す道筋を示す。
- PERSPECTIVES2026年11月16日AI投資はROIではなく「オプション価値」で判断する生成AIへの投資は増えているが、投資対効果を確認できている企業は少ない。最初に精緻なROIを求める判断は、AI投資の性格に合っていない。投資を「選択肢を買う投資」として設計し、段階ごとに拡大・縮小・撤退を決める判断の枠組みを示す。