福祉AIの個人情報ルール。入れない情報と確認フロー。

まず「入れない情報」を決める

氏名、住所、電話番号、具体的な学校名、きょうだい構成、詳細な診断情報など、本人を直接または組み合わせで特定できる情報は、原則としてAIに入れません。

入力前に匿名化するだけでなく、職員が迷ったときに立ち止まれる一覧を用意します。迷うものは入れない、というルールにしておくと現場が判断しやすくなります。

AI出力は、必ず人が確認する

AIは事実を補ってしまうことがあります。福祉現場では、この補完が支援記録や保護者説明の誤りにつながる可能性があります。

そのため、AIの出力は下書きとして扱い、事実、支援方針、表現の温度を人が確認します。特に個別支援計画書や行政提出書類では、根拠記録に戻れることが重要です。

保護者・職員への説明も運用に含める

AIを導入するなら、職員だけでなく保護者への説明も考えておく必要があります。AIが支援を決めるのではなく、書類の下書きや表現整理に使うこと、最終確認は人が行うことを説明できるようにします。

詳しいチェック項目は、福祉AI導入の個人情報リスク・ハルシネーション対策チェックリストにもまとめています。

現場で始めるときの順番

1. AIに入れない情報の一覧を作る
2. 匿名化した入力例を職員に配る
3. AI出力を確認する責任者と確認観点を決める
4. 保護者説明と事故時の連絡フローを用意する

入れない情報と、置き換え方の一覧

置き換えは、記録を書いた職員が渡す前に行います。この1枚を記録の置き場所に貼っておくと、判断が要らなくなります。詳しい考え方は福祉現場でAIを使うときの、個人情報とリスクの考え方に、法律のどこを見て決めるかまで含めてまとめています。

確認フローは、3つの役割で回します

1. 書いた職員: 入力前に置き換え表で個人情報を外す。出力を元のメモと照らして、事実が変わっていないか、推測が足されていないかを見る
2. サービス管理責任者・児童発達支援管理責任者: 解釈や次の支援が、その人を見ていた職員の言葉になっているかを見る。AIの出力をそのまま正式な記録にしない
3. 管理者: 利用するツールの設定（学習に使わない、保存期間、アクセス権）を四半期に1回確認し、確認した日を残す

この3段を、書類ごとに表にしておきます。福祉AI導入チェックリストに、確認項目と記録用のCSVを置いています。

事故が起きたときの考え方

入力してはいけない情報を入れてしまった、出力に別の利用者の情報が混ざっていた。そうした事故は、起きたときの手順が決まっているかどうかで影響が変わります。

• 気づいた職員が、その日のうちに管理者へ報告する（責める仕組みにしない）
• 入力した内容・時刻・ツールを記録し、ツール側で削除できるものは削除する
• 本人・家族への説明と、自治体への報告が必要かを、事業所の個人情報保護規程と所管の窓口の案内に沿って判断する
• 置き換え表と確認フローのどこが抜けていたかを見直す

報告の要否や手順は、事業所の規程と自治体の案内で異なります。事前に規程へAI利用の項目を足しておくと、当日に迷いません。

導入後1か月で見直すこと

• 置き換え表で外し忘れた情報の種類と件数。多いものは表の先頭に移します
• ツールの設定確認の記録が残っているか
• 職員が確認フローを飛ばした場面がなかったか。あれば、飛ばさずに済む置き場所を考えます

AIに任せる範囲の線引きは療育の現場で、AIに任せていい仕事・任せてはいけない仕事で、支援記録の分け方は支援記録をAIで整理する方法で扱っています。