警告: この記事には実際の虐待の例が含まれています。
BBCの調査で、インスタグラムが児童性的虐待素材（CSAM）を宣伝する有料広告を承認し、インドのユーザーに表示していたことが判明し、メタのモデレーションシステムの有効性と、ソーシャルメディア上の違法コンテンツを管理するという増大する課題について新たな疑問が生じている。
BBC Eyeの調査により、「レイプビデオ」や「児童ビデオ」という用語を含む数十の広告が明らかになった。これらの広告はユーザーを Telegram チャンネルに誘導し、そこで違法コンテンツが 99 インドルピー (約 1 ドル) で販売されていたとされています。
有料広告がメタのモデレーションシステムをすり抜けた
BBC によると、広告は、プラットフォームがエロティックなコンテンツをどのように推奨しているかを調査するために特別に設定された、新しく作成された Instagram アカウントに表示されました。挑発的だがそれ以外は通常のコンテンツを投稿するいくつかのアカウントをフォローした後、そのアカウントはますます露骨な広告を受け取るようになりました。
数日以内に、Instagram は、CSAM を販売するテレグラム チャネルに直接リンクするアダルト ポルノを含む広告を表示し始め、その後、性的に思わせぶりな状況にある子供を描いた広告に移行しました。 BBC は合計で、児童の性的虐待を宣伝する独自の広告約 30 件と、成人ポルノを含む広告約 20 件を文書化しました。
一例として、BBC は、性的暴行を受けたというメッセージとともに、苦悩する少女を特集した広告について報じた。 24時間後、インスタグラムは、広告はコミュニティガイドラインに違反しておらず、オンラインのままにすると回答した。 BBC が Meta にコメントを求めるよう連絡した後、同社はいくつかの広告を無効にし、関連するアカウントを停止し、追加の侵害コンテンツを削除し、問題の URL をブロックしました。
メタ社は「完璧なシステムはない」ことを認め、法律に従って国立行方不明・搾取児童センター（NCMEC）に児童搾取と思われる事件を報告する際の自動検出技術の改善を続けていると述べた。同社は、そのような広告を意図的にユーザーに向けたという指摘を否定し、児童搾取は「恐ろしい犯罪」であり、積極的に取り組んでいると述べた。
テレグラムも監視の対象となる中、批評家は節度を疑問視
この調査では、コンテンツ配信におけるテレグラムの役割も浮き彫りになった。 BBC は、テレグラム 2 チャンネルで児童虐待ビデオが販売されていたと報じた。 1 つは報告後に削除されましたが、もう 1 つは新しいコンテンツをアップロードし続けました。 TelegramはBBCに対し、CSAMを削除するために自動システムと人間のモデレータの両方を使用し、2026年にそのようなコンテンツに関連する274,000以上のグループとチャンネルを削除したと主張した。
この調査結果は、法律専門家や元メタ関係者らから強い反応を集めた。元インド最高裁判所判事のマダン・ロクル氏は、この問題はインド最高裁判所が介入しなければならなかったほど深刻だと述べ、ユーザーが違法コンテンツをアップロードしたという理由だけでソーシャルメディアプラットフォームは責任を逃れることはできないと主張した。
2020年に退任するまで同社の広告事業の立ち上げに貢献した元フェイスブック幹部のブライアン・ボーランド氏は、この調査結果に「ぞっとし、驚いた」とBBCに語った。ボーランド氏は、Instagramのレコメンデーションシステムはエンゲージメントと収益を優先していると主張し、強力な保護策がなければ、そのようなシステムはますます過激なコンテンツを意図せず増幅する可能性があると警告した。
この調査では、インドにおける問題の規模にも注目が集まっている。報告書によると、2025年にこの国が受け取った児童性的虐待関連のサイバー通報は190万件で、これは米国に次いで2位となっている。インドのサイバー犯罪当局と児童保護団体はBBCに対し、メタ社のプラットフォームがこうした報告の大部分を生み出していると語る一方、コンテンツの制作と配布を担う犯罪ネットワークを解体するにはより強力な国際協力が必要だとも指摘した。
Leave a Reply