Case: Gracie AI

インターネットの普及により、世界各地で子供を対象にした人身売買が拡大しています。アメリカでもその被害は深刻ですが、事件に関するデータを正確に把握するのは不可能に近く、取り締まりも難しいのだといいます。

このような状況を受け、子供を性的搾取から守る活動を行っているアメリカの非営利団体・Street Graceは、児童買春を未然に防ぐための取り組みを実施しました。

同団体が開発したのは『グレイシー』と名付けたAI。これは過去に起きた事件の資料から、加害者と被害者のチャットの内容をAIに学習させ、出会い系サイトに訪れた人とやり取りを行うというものです。

未成年と知りながら性的な内容をうかがわせる発言をしてきた時には「この会話は全て記録され、警察に送られます」との警告が表示され、その後小児性愛の治療を紹介するHPへと遷移する仕掛けになっています。

このAIは25の州と78の都市で採用され、4か月間で約1,000人が買春目的で接触してきたとのこと。ジョージア州の警察も今後取り締まりの強化をすると発表するなど、一定の成果をあげました。

子供が犠牲になる犯罪を未然に防ぐという意味で、非常に画期的な本施策は、カンヌライオンズのSDGs部門で金賞を受賞しています。