1. トップ
  2. 恋愛
  3. なぜ三重県女児虐待死は防げなかったのか…元児童相談所職員が指摘する「AI導入の盲点」

なぜ三重県女児虐待死は防げなかったのか…元児童相談所職員が指摘する「AI導入の盲点」

  • 2023.7.21

2023年5月26日、三重県津市で4歳の女児が実母の暴行によって死亡した。東京都内の児童相談所に心理の専門家として勤務していたカウンセラーの山脇由貴子さんは「三重県の児童相談所が全国に先駆けて導入したAI(人工知能)のリスク評価システムで、当該女児のケースで保護する確率は39%と出た。しかし、職員がAIに入力したデータ自体が間違っていることも考えられ、やはり職員による家庭訪問をためらうべきではない」という――。

4歳女児が虐待死する前に一時保護されなかった経緯

三重県津市で、当時4歳だった娘をテーブルから床に落とすなどして死亡させたとして、42歳の母親が逮捕された。この事件では、三重県の児童相談所が、AIを活用した独自のシステムで分析し、AIの評価もひとつの参考として、一時保護を見送っていたことが分かった。

AIが過去の事例を基に出した一時保護の確率は39%だった。39%という数字が高いのか低いのかについては児童相談所職員の判断となる。三重県が発表した資料内にも「何%以上であれば保護」など基準の説明はない。

現役の首都圏の児童相談所(AI導入前)職員にこの数字の印象を聞いてみたところ、「39%では緊急性が高いという意識にはならない」ということだった。厚生労働省の「子ども虐待対応の手引き」にある「一時保護に向けてのフローチャート」(図表1)を参照すれば、緊急性がA、B、C、Dにランク分けされている中でのBの「発生前の一時保護を検討」までは行かず、C「集中的な援助。場合によっては一時保護を検討」と同等の印象だという。

【図表】一時保護に向けてのフローチャート
出典=厚生労働省の「子ども虐待対応の手引き」にある「一時保護に向けてのフローチャート」より


(解説)
A=[1][2][3]のいずれかで「はい」がある時→緊急一時保護の必要性を検討

B=[4]に該当項目があり、かつ[5]にも該当項目があるとき→次の虐待が発生しないうちに保護する必要性を検討

C=[1]~[5]いずれにも該当項目がないが[6][7]のいずれかで「はい」がある場合
→ 表面化していなくても深刻な虐待が起きている可能性
→ あるいは虐待が深刻化する可能性
→ 虐待リスクを低減するための集中的援助。その見通しによっては一時保護を検討

D=A~Cのいずれにも該当がなく、[8]のみに「はい」がある場合
→ 家族への継続的・総合的援助が必要。場合によっては、社会的養護のための一時保護の必要性を検討する

出典=厚生労働省「子ども虐待対応の手引き」

それでは、この事件は防ぐことはできなかったのか。AI導入によって虐待死を防ぐことはできるのか。この事件を検証し、全国の児童相談所にAIを導入するにあたって、必要なことを整理したい。

1年の虐待死事件は約50件で実母が加害したものが過半数

令和3年度に児童相談所が対応した児童虐待は20万7659件で過去最多。令和2年度の心中事件を除く虐待死は49人で、そのうち実母が主な加害者となったケースが約60%だった。

児童相談所は、虐待通告や虐待に関する相談を受けた場合、まず児童福祉司が調査を行う。家庭訪問による子どもの確認、親からの聞き取りや、内容によっては親子を児童相談所に呼び、それぞれの面接、必要に応じて心理テストも行う。また、保育園、幼稚園、学校など子どもに所属がある場合は、登園、登校状況や親子の様子についての聞き取り、保健所に過去の健診の結果の聞き取りも行う。

この調査結果を基に、会議が行われ、今後の方針が決定される。この方針決定に関して、AIを導入し、その評価を参考にする、というのが三重県児童相談所の取り組みである。三重県の発表した「三重県におけるAIを活用した児童虐待支援システムの導入について」によると、三重県児童相談所は平成24年度の死亡事例を検証し、26年からAIによるアセスメントツールの運用を開始している。

病院で生まれたばかりの新生児
※写真はイメージです
虐待した母親は出産後「育てられない」と児相に伝えた

なぜ虐待死は防げなかったのかを検証する前に、この事件の経過を振り返っておきたい。

まず、この母親は、平成31年に「子どもを養育できない」と児童相談所に相談し、児童相談所は子どもを一時保護した後、乳児院に措置している。しかし一部報道では、母親はそれ以前に、熊本の赤ちゃんポストに子どもを預けたことがあるとされている。

乳児院措置後、令和3年に母親の希望によって子どもは家に帰ったが、令和4年2月に保育園から子どもの両ほおと耳にあざがある、との通告があり、児童相談所は家庭訪問により、あざを確認した。この際、児童相談所は一時保護も検討したが、あざが軽微だったことと、母親が指導に従う姿勢がある、との理由で一時保護しなかった。

その後、児童相談所は国のガイドラインにより、3カ月に1度、保育園や親族からの聞き取りは行ったが、子どもはあざが確認された2カ月後の昨年7月から登園しなくなった。児童相談所は長期欠席を知りながら、かつ「要保護児童」としながらも事件の起こった今年5月まで約1年間、家庭訪問等によって子どもと母親に直接会って話を聞くことはしなかった。

三重県の児相はAI導入前に保護の重要性を理解していたはず

こうして児童相談所の関わりの経緯を見るだけで、対応に問題があったことは明らかである。ひとり親家庭、過去に一時保護歴、施設入所歴があり、それ以前に赤ちゃんポストに預けている。加えて家庭復帰後に再度の通告。その後の長期の保育園欠席。AIの評価など必要なく、即、子どもの現認、そして一時保護に踏み切るべきだった。

では、三重県のAIシステム導入の内容を参照して、児相の対応を見ていきたい。三重県は死亡検証を通し、AIによるリスクアセスメント開始前に、虐待対応ポリシーを変更している。「確信がなく児童を保護せずに死亡」を×、「結果的に保護は必要なかったと後に判明」を○としている。まさに、今回の事件はこのポリシーで禁じられていることをした結果起こったと言える。

保育園を10カ月欠席という情報がAIに入っていれば…

ツール開始にあたっては、「緊急出動を検討する6項目」のうちの1項目として「関係機関の情報で、現在児童の安全を確定させることができない」が挙げられている。子どもは長期間保育園を欠席しているという情報がAIの評価の判断材料に入っていれば、緊急出動、すなわち一時保護のパーセンテージは上がったはずだ。少なくとも、家庭訪問による子どもの安全確認を行うべき、と出ただろう。

私が児童相談所に勤務していた頃も、過去に一時保護歴や施設入所歴がある子どもが、長期間欠席しているという情報が入ったら、すぐに家庭訪問し、子どもの身体の傷・あざの確認、子どもからの聞き取りは必ず行っていた。そこから即保護となった事例もあった。それだけ、長期欠席は危険で虐待を疑うべきなのだ。

園庭を駆け回る園児たち
※写真はイメージです

また、「システム導入により、判断が難しい外傷や居室内の様子を写真で児童相談所内と共有でき、速やかな意思決定ができるようになった」ともある。報道によると、女児の遺体に複数の傷・あざがあった。家庭訪問をしていれば、傷・あざを確認でき、一時保護となり、子どもの命は救えただろう。

資料内の現場の声として、「AI支援機能を利用していくことで、現場で『不明』となっているリスク項目から優先的に調査し、効果的に危険因子をつぶしていくことができた」ともある。この事件において、「不明」だった危険因子は子どもの安全だ。優先的に調査すべき危険因子が調査できていなかったということだ。

児相に通告が入って女児の傷やあざが確認されていたのに

さらに、「既存のシステムとAIシステムを併用している為、日々の経過記録やリスクアセスメントシートの同期作業が必要だった」とも資料にはあるが、同期していたのであれば、長期欠席をAIは「リスク高」と評価しなかったのか? そんなはずはない。累積1万件を超えるデータが蓄積されており、「AIが過去の知見に基づき、総合リスク、再発確率、過去の類似ケースを即座に導きます」とあり、かつ、再発率との関係において「過去に通告歴がある」という場合は再発率が上昇する、とシステムには入っているのだ。この家庭は施設からの家庭復帰後に通告が入り、傷・あざが確認されている。これだけでも虐待リスクは高いと言えるのだ。

さらなる大きな疑問は、三重県議会全員協議会での報告の中で、県担当者がAIの評価について「感覚的にもしっくりくる評価だった。違和感はなかった」と述べている点だ。まさにこの担当者の認識が、AIの数字に反映されたということだ。担当者の経験年数は分からないが、児童相談所で長年経験を積んだ福祉司、あるいは心理司なら、大きな違和感を抱いたはずだ。「こんなに数字が低いはずがない」と。

【図表】子ども虐待による死亡事例等を防ぐためのリスクとして留意すべきポイント
出典=厚生労働省「子ども虐待による死亡事例等の検証結果等について(第18次報告)の概要」社会保障審議会児童部会児童虐待等要保護事例の検証に関する専門委員会、2022年9月
やはり児相職員が家庭訪問をしてリスクを把握すべき

繰り返しになるが、ひとり親、母からの「育てられない」という相談、一時保護歴、施設入所歴、家庭復帰後の通告、傷・あざを確認、保育園の長期欠席。そして児童相談所は1年近く、子どもの安全確認をしていないし、母親の話も聞いていない。これだけの材料が揃っていたら、虐待を疑うのは当然であり、少なくとも即家庭訪問の実施を児相職員は判断すべきだ。

前述の通り、私はそうしてきたし、管理職もそう判断した。どれだけ忙しくても、担当者が行けない場合は別部署の人間が訪問し、子どもの安全確認をしてきた。傷・あざがあれば、程度によっては写真を送って判断を仰がずとも現場の判断で子どもを保護したし、管理職もそれを良し、としていた。経験豊富な児相職員は、それが児相の仕事だと自負していたし、親の許可を取る必要がないことも当然分かっているので、親が抵抗しても子どもを保護した。

「保護したが必要なかった」と判明するぐらいでいい

そしてまさに三重県のポリシーにあるように、保護した結果、虐待がなかったと判明したら、それは「良かった」と判断すべきことだ。児相は親との信頼関係を築くことも求められるが、それよりも子どもの安全を優先すべきであり、保護したことで親と敵対してしまったらその後、修復に努力するしかない。その時、気をつけなければならないのは、親が子どもに会わせてくれなくなった時の子どもの安全確認の方法である。年齢が低い子どもは自分から助けを求められない。だからこそ、保育園などの関係機関での安全確認が重要であり、そこで安全確認できなくなった時に、虐待を疑わなくてはならないのだ。

さらに、家庭復帰後の通告により、児童相談所が子どもの傷・あざを確認しながらも保護しなかった理由として「母親に指導に従う姿勢があった」とあったが、これは児童相談所の一時保護をしない判断理由としてありがちな考えである。「何かあればこの母親は相談してくるだろう」と考えるから保護しないのだが、この考えは非常に危険だ。もちろん、虐待で児童相談所が関わっている母親で、自分が子どもを虐待してしまうことに悩んでいて、「また子どもを叩いてしまいました」と相談してくる母親もいるし、実際私も「このままでは子どもを殺してしまうかもしれません」という相談を受けたこともあった。

息子の手をひいて歩く母親
※写真はイメージです
子を保護されたくない親は嘘もつくし隠しごともする

しかしながら、自分の虐待を隠そうとする親の方が当然多い。確かに、母親自身が本当に困れば相談してくるだろう。私の経験では、母親が「子どもを預かってほしい」と相談してきた理由が「実は彼氏と一緒に住みたいから」ということもあった。つまり、「母親が困っている」というのは、「子どもが傷ついている、苦しんでいる」とイコールではないということを児相職員は知っておかなくてはならない。

子どもを虐待しながらも保護されたくない親は、嘘もつくし、隠しごともする。「なぜ自分が虐待してしまうのに、保護してほしくないのか」と疑問に思う方もいるだろう。実は虐待というのは中毒性が非常に高い。親は、子どもがいなくなると虐待できなくなるから困るのだ。だから子どもに執着する。つまり、「親が指導に従う姿勢がある」は、保護しない理由であってはならないのだ。

AI導入によって救える命は増えないのか?

では、AI導入によって児童相談所の専門性は向上しないのか。救える命は増えないのか。三重県の事件に関して言えば、子どもを救えなかった原因の一つは、AIが評価する為に必要な情報が入力されていなかった、ということだ。つまり、実際に親と子どもに直接会った職員が「虐待リスクはそれほど高くない」と判断していれば、重要な情報が入力されない可能性があるのだ。担当者が「この情報は重要だ」と思わなければ、調査すらしない、あるいは入力しないからだ。

三重県は、この事件の重要な情報を全て入れた場合、AIがどんな数字を出すのか再検証してみてはどうだろうか。

そして三重県が「AIの評価は参考、最終的な判断は人」と述べている通り、AIの評価を1つの材料にしつつ、最終的には職員が正しい判断をできることが重要となる。

結局は、「AIを活用するにしても、職員の専門性の向上が必須」ということに他ならない。私はその為には、育成体制を強化することと、経験年数を積ませることしかないと思っている。現在は、自治体によるが、児童相談所勤務を希望しない、知識も経験もない職員が児童相談所に配属される現実がある。

【図表】虐待死に至ってしまった事例の関係機関の関与状況
出典=厚生労働省「子ども虐待による死亡事例等の検証結果等について(第18次報告)の概要」社会保障審議会児童部会児童虐待等要保護事例の検証に関する専門委員会、2022年9月
児相のマンパワーの問題もあり、現場の改革が急務

少なくとも、児童相談所勤務を希望している職員を採用すること、そして、警察官、家庭裁判所調査官、麻薬取締官のように、育成の為の学校を作り、最低でも1年は育成、そして現場に出ても1年程度は先輩の下での研修、さらに、児童相談所勤務を継続させること。その体制を作らない限り、児童虐待の専門家は育たない。

子ども家庭庁によると、一時保護の必要性の判断にAIを活用する予定で、国としてのシステムを設計開発中だ。来年度の全国での運用開始を目指している。来年度開始は確実ではないが、今後AIを活用する児童相談所が増えるのであれば、システム開発には三重県の事例の検証は必須である。

また、AIの導入によって虐待死を減らす為には、職員の入念な調査、迅速な記録の入力の徹底、また評価の為の必須項目の特定も必要である。その必須項目には、現認による子どもの安否確認はトップであるべきだ。そしてAIの評価が間違っていることもあるはずだ。その判断の間違いを見抜ける職員の育成も並行して行う必要がある。

山脇 由貴子(やまわき・ゆきこ)
家族問題カウンセラー
1969年、東京都生まれ。横浜市立大学心理学専攻。大学卒業後、東京都に心理職として入都。児童相談所に19年間勤務。現在は家族問題のカウンセラーとして活動。著書に『告発 児童相談所が子供を殺す』『夫のLINEはなぜ不愉快なのか』などがある。

元記事で読む
の記事をもっとみる