AIが子どもを守る可能性と限界： 海外導入事例から考える課題
AIが求められる児童相談所の厳しい現実
児童虐待の通告を受けた職員は、限られた情報と時間の中で、家庭への調査が必要か、子どもをすぐに保護すべきかを判断します。日本の児童相談所が2022年度に対応した虐待相談は21万9,170件に達しました。ただし、この数字は虐待そのものの増加だけを示すものではありません。警察からの通告が増えたことや、子どもの前で家族に暴力を振るう「面前DV」が心理的虐待として広く認識されるようになったことも影響していると考えられます。
相談件数が増える一方、現場の職員や予算には限りがあります。すべての家庭を同じ深さで調査することは難しく、どのケースを優先するかという判断が避けられません。そこで注目されているのが、過去の行政記録を分析し、リスクの高い家庭を数値で示すAIです。虐待の事実を直接見抜く技術ではなく、通告履歴、福祉制度の利用状況、警察との接触、家族構成などから、詳しく確認すべき家庭を選び出します。AIは子どもを守る万能な装置というより、限られた人員をどこに振り向けるかを支える仕組みといえるでしょう。
海外導入で見えてきた効果と限界
米国ペンシルベニア州アレゲニー郡では、児童虐待の通告を受けた際に、詳しい調査へ進むべきかを判断するシステムが使われています。福祉や行政が保有する過去の記録をもとにリスクスコアを算出し、担当者が調査の優先度を決める際の参考にします。複数の機関に分散していた情報を短時間で整理できるため、職員の経験や記憶だけに頼らずに判断できる点には利点があります。人間の判断にも思い込みや経験差があるため、AIを使わない方法が常に公平とは限りません。
一方、英国の一部自治体では、教育、住宅、福祉などの情報から支援が必要になりそうな家庭を予測する仕組みが試されましたが、費用に見合う成果を示せず、運用をやめた事例もあります。導入した自治体と中止した自治体を比べるには、見逃しが減ったか、不要な調査が増えなかったか、職員の負担がどの程度変わったかを見る必要があります。しかし、こうした数字が十分に公開されないまま、AI導入そのものが成果として語られるケースも少なくありません。システムの有無ではなく、子どもの安全や現場の対応が実際にどう変化したかで評価すべきだと考えられます。
支援を求めた家庭ほど疑われる仕組み
児童虐待検知AIが抱える大きな問題は、学習に使う行政データが社会全体の虐待を均等に記録しているわけではない点です。生活保護や福祉サービスを利用する家庭は、行政と接触する機会が多いため、家族構成や生活状況に関する記録が残りやすくなります。経済的に余裕がある家庭では、虐待があっても外部から見えにくく、行政の記録に表れない場合があります。その結果、貧困や福祉の利用歴を持つ家庭ほど高いリスクがあるように見える可能性があります。
支援を受けた履歴が危険性の根拠として扱われれば、困ったときに行政へ相談した家庭ほど繰り返し調査される循環が生まれかねません。AIは過去のデータを正しい事実として学習するため、人間社会にある偏りまで引き継ぎます。高リスクと判定された家庭には訪問や聞き取りが増え、そこから新しい記録が作られ、次の判定でも再び高いスコアが出やすくなるでしょう。こうした運用が続けば、支援を受ける場所だった行政が監視する存在に変わり、本当に助けが必要な家庭が相談を避ける事態も見込まれます。
子どもを守る仕組みにするための条件
AIによる誤判定は、画面上の数字だけでは終わりません。危険性の低い家庭を高リスクと判断すれば、突然の家庭訪問や学校への聞き取りが行われ、場合によっては親子が一時的に離れる可能性もあります。反対に、危険な家庭を低リスクと判断すれば、忙しい現場で確認が後回しになり、虐待が続く恐れがあります。職員がAIの判定に逆らって問題が起きれば責任を問われると感じた場合、高リスクという結果を過度に重視することも考えられます。
日本で導入するなら、AIが出したスコアだけで調査や一時保護を決めず、職員が根拠を確認できる仕組みが必要です。誰がどの情報を入力し、誤判定が起きた際に誰が責任を負うのかも明確にしなければなりません。AIは人手不足や孤立、経済的困窮、保護者の心身の不調を直接解決できるものではありません。相談窓口や訪問支援を充実させ、人が子どもの表情や言葉に向き合う時間を確保するために使うことで、AIは初めて子どもを守る道具として機能するのではないでしょうか。
- カテゴリ
- インターネット・Webサービス
