福祉現場でAIを使うときの、個人情報とリスクの考え方
法律のどこを見て決めるか

「AIに個人情報を入れてはいけない」。福祉の現場で、この一文だけは共有できている事業所が増えました。 けれど手を動かしはじめると、その一文では足りない場面にすぐぶつかります。 診断名は書いていいのか。契約書のどこを見れば安心していいのか。 誰かが間違えて入力してしまったら、翌朝いちばんに何をすればいいのか。

こうした迷いは、注意深さが足りないから起きるのではなく、 判断のよりどころが現場の感覚の側にしか置かれていないから起きます。 この記事では、条文と公的な資料の側から確認すべき場所を並べます。「何を入れないか」の手前にある、なぜそう決めるのかのほうです。

Quick answer

確認する順番は、記録の区分 → 利用目的 → 学習利用 → 事故時の連絡先。

判断は、ツール選びではなく、手元の記録がどの区分に入るかから始まります。

• 障害があることは要配慮個人情報にあたる（法第2条第3項、施行令第2条第1号）。
• 入力は、特定した利用目的の範囲内かを先に確かめる。
• そのサービスが入力を機械学習に利用しないか、契約と設定で確かめる。
• 漏えい等は、1件でも報告対象になり得る。連絡先を先に決めておく。

現場でそのまま使える確認項目は 福祉AI導入チェックリスト、 入力してよい情報の線引きは 福祉AIの個人情報ルール にまとめています。この記事は、その根拠にあたる部分です。

その記録は、法律上いちばん慎重な区分から始まっています

個人情報保護法には、ふつうの個人情報より慎重に扱うことが求められる要配慮個人情報という区分があります。 本人に対する不当な差別や偏見、その他の不利益が生じないように、特に配慮を要するものとして定められた情報です（法第2条第3項）。 そして政令は、その中身のひとつとして「身体障害、知的障害、精神障害（発達障害を含む）その他の心身の機能の障害があること」を挙げています（施行令第2条第1号）。

つまり、放課後等デイサービスや児童発達支援、障害福祉サービスの事業所が日々書いている記録は、 氏名を伏せる前からその多くがすでに要配慮個人情報を含んでいることになります。 受給者証番号や診断名だけの話ではなく、「この方には障害がある」という事実そのものが、この区分に入ります。

扱いは二つの点で変わります。取得は原則あらかじめ本人の同意が必要で（法第20条第2項。法令に基づく場合など例外もあります）、 本人の求めがあれば止めますという告知で提供できるオプトアウトの仕組みは、要配慮個人情報には使えません（法第27条第2項ただし書）。 現場が「福祉の情報は重い」と感じてきたことは、法律の側でも重く置かれています。

入力する前に、法律が求めている確認は2つあります

その情報を生成AIに渡すとき、何をどこまで確かめればよいのか。 個人情報保護委員会は令和5年6月2日の「生成AIサービスの利用に関する注意喚起等」で、事業者向けの注意点として次の2点を挙げています。

1. 利用目的の範囲内かどうか。 個人情報を含むプロンプトを入力する場合は、特定されたその個人情報の利用目的を達成するために必要な範囲内であることを、十分に確認すること。
2. 機械学習に使われないかどうか。 あらかじめ本人の同意を得ずに個人データを含むプロンプトを入力し、それが応答結果の出力以外の目的で取り扱われる場合、 個人情報保護法の規定に違反することとなる可能性がある。そのため、そのサービスを提供する事業者が当該個人データを機械学習に利用しないこと等を十分に確認すること。

この順番には意味があります。「学習に使われない設定にしたから大丈夫」が先に来がちですが、法律が先に置いているのは利用目的のほうです。 利用目的から外れた使い方は、学習設定を切っても正当化されません。

契約と設定は、この5か所を見ていただけます

「機械学習に利用しないこと等を十分に確認する」と言われても、どこを読むかまでは書かれていません。 実務では次の5か所を見ると判断がつきます。1枚のメモにしておけば、導入のたびに同じ順で確認できます。

• 1. 学習利用の有無。入力内容がモデルの学習に使われないと、利用規約や契約で明記されているか。無料版と法人向けで扱いが違うことがあるので、プラン名まで記録します。
• 2. 保持期間。入力や出力がサーバー上にどれだけ残るか。監視目的の一定期間の保存も「取り扱い」に含まれます。
• 3. 個人データを取り扱わない旨の定め。個人情報保護委員会のQ&A（Q7-53）は、分かれ目を、保存データに個人データが含まれるかではなく、その事業者において個人データを取り扱うこととなっているかどうかだと整理しています。契約条項で取り扱わない旨が定められ、適切にアクセス制御が行われている場合等には、第三者提供にあたらず委託先の監督義務も課されないとされています。
• 4. 自分たちの側の安全管理措置。上にあてはまる場合でも、自らの安全管理措置は別に必要です。誰のアカウントで、どの端末から、どこまで扱うか。事業所の運用で決めます。
• 5. 事故時の連絡先と手順。サービス側の窓口と、事業所側の責任者。この2つが空欄のまま導入が進むのが、いちばん多い抜けです。

もし何かあったとき、時計はいつから動くのか

導入の話し合いでいちばん後回しになりやすく、けれど決めるのがいちばん早く済むのがここでした。 個人情報保護法施行規則は、報告が必要になる事態を4つ定めています。 ①要配慮個人情報が含まれる個人データの漏えい等（高度な暗号化その他の必要な措置を講じたものを除く）、 ②不正に利用されると財産的被害が生じるおそれがあるもの、 ③不正の目的をもって行われたおそれがある行為によるもの、 ④本人の数が1,000人を超えるもの（施行規則第7条）。

福祉の現場にとって大きいのは、①に人数の要件がないことです。 1,000人という数字を見ると「うちは関係ない」と読めてしまいますが、要配慮個人情報が含まれる場合は1件でも対象になり得ますし、発生したおそれがある段階も含まれます。

報告は二段階です。速報は事態を知った後速やかに——個人情報保護委員会は目安として概ね3〜5日以内と示しています。 確報は知った日から30日以内、③の不正の目的をもって行われたおそれがある行為による場合は60日以内とされています（施行規則第8条第2項）。 あわせて、本人への通知も必要です（法第26条第2項）。

現場でやることは、この期限より前にあります。気づいた人が、止めて、記録して、責任者に渡す。 この3つが決まっていれば、時計に追われずに済みます。

出力が正しいかどうかは、法律ではなく現場が守ります

同じ注意喚起は、生成AIの応答は確率的な相関関係に基づいて生成されるため、不正確な内容の個人情報が含まれるリスクがあるとも述べています。 実際、記録には書かれていない家庭の事情を、AIがそれらしく補ってしまうことがあります。自然な文章であるほど、誤りは見つけにくくなります。

この部分について、条文が守ってくれる範囲は限られています。守るのは現場の手順です。 AIには記録とアセスメントにある事実だけを渡し、出てきた文章は一文ずつ元の記録と照らす。 AIに事実を作らせず、人が事実を保証する——書類の種類が変わっても、この分担は変わりません。 進め方は 個別支援計画書を、AIで作成する方法と 放課後等デイサービスの書類業務を、AIで軽くするで扱っています。

本人への説明の形も、先に決めておけます

最後に、障害福祉ならではの論点をひとつ。 個人情報保護委員会は、障害福祉サービス事業者等について、手話や点字といった方法で本人に利用目的を明示すること、 知的障害のある方に平易な表現を用いて説明することなど、障害の特性に応じた配慮が望ましいという考え方を示しています。

AIの利用を説明するときも、同じ配慮が要ります。「業務効率化のため生成AIを活用しております」という一文は、多くの人に何も伝えていません。 何を入れないか、誰が確認するか、間違いがあったらどこに言えばよいか。この3つを、読む人に合わせた言葉で置き直す。 私たちが認知アクセシビリティと呼んでいるのは、こういう場面です。

個人情報の話は、始める理由ではなく止める理由として使われがちです。 けれど条文を順番に見ていくと、そこにあるのは「使ってはいけない」ではなく、確かめる場所はここですという並びでした。 職員が安心して手を動かせる状態をつくることも、支援の質を守る仕事のうちだと、私たちは考えています。