福祉現場でAIに個人情報を入れないための運用ルール

個人情報を入れない運用は、注意喚起だけでは続かない

福祉現場でAIを使うとき、「個人情報を入れないでください」と言うだけでは足りません。忙しい現場では、どこまでが個人情報なのか、どの粒度なら相談してよいのかが曖昧になりやすいからです。運用ルールは、禁止事項の羅列ではなく、入力前にどう置き換えるか、迷ったら誰に確認するか、使ってよい例は何かまで決めておく必要があります。

禁止入力リストを、現場の言葉で作る

氏名、住所、電話番号、学校名、医療機関名、写真、音声、帳票の全文、家庭の具体事情は、原則として入力しない対象にします。ただし、リストを法律用語だけで作ると現場では使われません。「送迎表をそのまま貼らない」「学校名は書かない」「保護者の職業や家庭状況は入れない」のように、日々の業務で出る言葉に落とします。

入力前の置き換え表を作る

現場で使う表は、難しくしない方が続きます。左列に「入れない情報」、右列に「置き換え後」を書きます。例: 氏名は「Aさん」、学校名は「通学先」、町名は「近隣地域」、診断名は「支援上見られる特徴」、家庭事情は「家庭での負荷が高い時期」のように変換します。

プロンプト例: 次のメモから、個人を特定できる情報を削り、AIに入力してよい支援上の抽象情報に置き換えてください。氏名、学校名、地域名、医療機関名、家族の具体情報は残さないでください。置き換え後の文章と、削除した情報の種類を分けて出してください。

このプロンプト自体にも元の個人情報を入れすぎないことが前提です。実運用では、職員が先に固有名詞を伏せ、AIには伏せた後のメモを渡します。迷う情報は入力せず、確認責任者に回すルールにします。

匿名化ではなく、支援上必要な情報へ置き換える

単に名前をAさんに変えるだけでは不十分な場合があります。学校名、地域、家族構成、珍しい事情が組み合わさると、個人が推測できることがあるからです。AIに入れる情報は、個人の属性ではなく支援上必要な特徴に置き換えます。「小学生」「集団活動前に不安が強い」「視覚提示が入りやすい」のように、支援の検討に必要な粒度へ下げます。

AI出力にも、個人情報が混ざっていないか確認する

入力で伏せても、過去の文例や職員の追記によって、出力に固有名詞が戻ることがあります。送信前、保存前、保護者へ渡す前に、個人を特定できる情報が混ざっていないかを確認します。確認者を決めずに各自の注意に任せると、忙しい日に抜けます。文書ごとに確認責任者を決めることが、AI活用の最低限の安全策です。

月1回、ヒヤリとした入力を共有する

個人情報の事故は、いきなり起きるより前に、迷った入力や危ない文例として現れます。月1回、入力しそうになった情報、判断に迷った場面、修正したプロンプトを共有します。責める場ではなく、ルールを更新する場として扱います。AI内製化では、ルールを作って終わりではなく、現場の実例で安全な型を育て続けることが重要です。