TikTokのAIスロップ問題はあなたが思っているよりも深刻です – そして子供たちが最もそれに直面しています

TikTok は、ユーザーが次に見たいものを見つける技術を完成させるために何年も費やしてきました。アプリを開いて数回スクロールすると、突然、あなたの興味に合わせた奇妙なビデオが表示され始めます。しかし、TikTokがあなたのことを知る前に何が起こるでしょうか?ビデオ編集プラットフォーム Kapwing の新しい調査によると、その答えは急速な AI のずさんさです。

この調査では、新しい TikTok アカウントで表示される動画の約 60% が、AI によって生成された低品質のコンテンツであることが判明しました。これは、プラットフォームの目立たない隅に埋もれている特別な問題ではありません。これは、アルゴリズムがフィードのパーソナライズを開始する前であっても、TikTokが新規ユーザーに与える第一印象です。それが心配に聞こえるかもしれないが、子供向けコンテンツに関する調査結果を無視するのはさらに難しい。

アルゴリズムのジャンクフード時代

TikTok のレコメンデーションエンジンは、すぐに適応できるように設計されています。このプラットフォームは、次に何を表示するかを決定する前に、「いいね！」やフォローから視聴時間、スクロール習慣まであらゆるものを調べます。手つかずの TikTok エクスペリエンスがどのようなものかを理解するために、研究者たちは新しいアカウントを作成し、For You ページで提供される最初の 500 本の動画を調査しました。その結果は衝撃的でした。そのうち 294 本のビデオが AI のスロップとして分類されました。これは、TikTokがユーザーの好みに関する意味のあるデータを取得する前であっても、新規ユーザーは人間が生成したコンテンツよりもAIが生成したジャンクに遭遇する可能性が高いことを意味します。

おそらく、さらに重要なのは、TikTokが他のプラットフォームとどのように比較されるかということです。 Kapwing 氏は以前、YouTube ショートでも同様の実験を実施し、AI によって生成された乱雑さが大幅に減少していることを発見しました。 TikTokは単に悪かっただけではなく、劇的に悪かった。現時点では、AI コンテンツは単にプラットフォームに浸透しているだけではありません。それはプラットフォームのデフォルトの美しさの一部になりつつあります。そして、これがここでの本当の話かもしれません。多くのユーザー、特に若者にとって、AI が生成したビデオはもはや珍しいことではありません。それらは正常になりつつあります。

セサミストリートと不気味の谷の出会い

報告書の中で最も懸念されるのは、子供を対象としたコンテンツに焦点を当てていることだ。研究者らは、TikTokのキッズカテゴリーにある動画の半数以上がAI生成の「スロップ」に該当することを発見した。特にハッシュタグの 1 つである #cartoonkids は、AI が生成したコンテンツによってほぼ完全に圧倒され、人間が作成したと思われる動画はわずか数本だけでした。これらのビデオを見た人なら誰でも、その公式をすぐに認識するでしょう。おなじみの漫画のキャラクターが奇妙なシナリオで登場し、教育的な授業は間違いだらけで、キャラクターはイライラするような合成音声で話し、アニメーションは意味不明な方法で変化し変形します。

内容は一見すると子供向けのプログラミングに似ていますが、注意すると崩れてしまうこともよくあります。これが彼を悩ませているのだ。幼い子供たちは、高品質の教育コンテンツと、偽の情報を自信を持って提示する AI が生成した模倣品とを区別することができません。数字を間違える数え方の授業は、大人にとってはばかげているように思えるかもしれませんが、未就学児には同じ状況はありません。インターネット上には、子供向けに疑わしいコンテンツが常に存在します。変わったのはスケールです。ジェネレーティブ AI を使用すると、人間のクリエイターでは決して太刀打ちできない速度で、無限のビデオストリームを作成できます。そして、TikTokのレコメンデーションシステムは、それらを積極的に提供しようとしているようだ。

問題は子供向けコンテンツを超えて広がっている。この調査では、教育、科学、健康、歴史のビデオが、AI のスリッページによって最も影響を受けるカテゴリの 1 つであることが判明しました。これらは正確さが最も重要な主題であるため、これは特に残念です。出来の悪いコメディコントをスクロールして通り過ぎるのは簡単です。捏造された詳細が詰まった歴史の授業や、誤解を招くアドバイスを提供する健康ビデオは、まったく別の話です。公平を期すために言うと、AI を使用しているすべてのメーカーが廃棄物を出しているわけではありません。クリエイターの中には、教育トピックをより魅力的なものにするために、AI が生成したプレゼンターやビジュアルを実験している人もいます。最良の場合、AI はクリエイターの仕事を置き換えるのではなく、サポートするツールとして機能します。しかしこのレポートは、ソーシャルメディア上で増大する現実を浮き彫りにしている。つまり、インセンティブはしばしば質よりも量に報いるというものだ。クリエイターが 1 つの動画を作成するのにかかる時間内に何十もの動画を作成できる場合、プラットフォームには、技術的には見る価値はあるものの、実質はほとんど提供されないコンテンツが溢れています。

TikTokはユーザーが飽きてきていることを認識しているようだ。同社は、ユーザーが表示する AI 生成コンテンツの量を減らすことができる制御を導入し、AI リテラシーへの取り組みに投資してきました。しかし調査によると、こうした取り組みは流入に追いつくのに苦労している可能性がある。皮肉なことに、ソーシャルメディアが人気になったのは、創造性、個性、専門知識、つながりといった人間特有のものを提供するためでした。 AI はこれらすべてを驚くほどうまくシミュレートできます。しかし、模倣は本物と同じではありません。新規ユーザーが視聴する動画 10 件のうちほぼ 6 件が AI によって生成されたものである場合、問題はもはや TikTok に AI の傾斜が存在するかどうかではありません。問題は、これがプラットフォームの特徴となるかどうかです。そして、このような食生活で育つ世代の子供たちにとって、その答えはこれまで以上に重要です。