AI 廢片有多失控?調查指TikTok近六成推薦為AI垃圾、兒童向影片直衝97%

重點摘要：

・AI 垃圾（AI Slop）影音內容到底有多氾濫？最新調查指出，光是在 TikTok 抖音平台的 For You 推薦就有將近 6 成是 AI 垃圾；針對兒童的 #CartoonKids 標籤，甚至直接來到了 97% 的可怕數字。

隨著可以透過幾個簡單的 AI 指令就生成影音內容的服務越來越容易取得。各大影音平台即便都端出了對應的機制，但幾乎都無法抑制使用者上傳這些內容來爭取流量的可怕潮流來襲。

對於使用者如你我來說，更是深刻感受到包括 YouTube、Instagram、Threads 與 TikTok 等影音或是社群平台，真的是非常容易就滑到所謂「AI Slop / AI 垃圾」影音內容出現在平台的推薦內容之中。

▲圖片來源：Kapwing

然而，即便「體感上」我們覺得這些 AI 垃圾真的很氾濫，不過到底這樣的問題到了什麼樣的程度？

最近有個調查揭露了相當令人擔憂的狀況 - 特別是這類內容鎖定的，幾乎都是很容易受到腦部發育影響的兒童族群。（編按：說真的，這真的是很值得政府單位注意的嚴重問題了。）

AI 垃圾全力瞄準身心都極容易受影響的「兒童」

根據影音編輯平台 Kapwing 近日釋出的 AI 垃圾的調查報告指出，TikTok（抖音）針對新用戶 For You 推薦頁面的 AI 垃圾影片出現機率，比 YouTube 要高出 3 倍之多。

這個調查將 AI 垃圾定義為「畫面明顯為 AI 生成」、「明顯 AI 腳本與配音拼湊而成的低品質剪輯影片」。除了標記熱門標籤裡出現的 10,742 支影片之外，更針對全新註冊使用者的推薦內容，分析統計 AI 垃圾影片出現的機率有多高。

▲圖片來源：spongebob.uk1（TikTok）

報告揭露在新用戶「為你推薦」的前 500 支影片中，有 59% 為 AI 垃圾影片。基本上就是對於新用戶而言，TikTok 每滑過 5 支影片，其中就有多達 3 支是低品質的 AI 內容。

更令人憂心的點在於，在這個低品質 AI 垃圾內容明顯失控的平台上，「以兒童為目標」所設計的影片裡，被此調查標記為 AI 垃圾內容的比例甚至以高達 57%，位居 20 個分類的榜首。

兒童的 Tag 標籤所涵蓋的 AI 垃圾比例更是超高 - 常見的「Cartoons」以 83% 位居第二，甚至「For Kids」也有 79%。甚至在 CartoonKids 的這個 Tag，更是有高達 97% 都是 AI 廢片。

這些 AI 垃圾影片粗枝濫造的程度，甚至就連簡單的數數字教學，都能發生語音與畫面上的餅乾數量對不上的問題 - 才數到 5 耶！至於直接挪用 Sesame Street 角色的問題，那就又是另一個故事了...


是「惡意」針對嗎？該如何保護兒童甚至是整個創作環境？

隨著《玩具總動員5》將「科技育兒」或是「科技玩具」的劇情融入其中，再加上本次 Apple WWDC 開發者大會大篇幅更深入介紹解決家長痛點的進化版「兒童安全」功能。

相信大家都能體會到，培養良好數位健康習慣的重要性已經越來越高，也越來越受到社會的重視。現階段像是兒科協會等組織都已經有明定各年齡層的每日螢幕時間上限以及皆需要家長陪同觀看等規範。

只是隨著 AI 內容的全面侵襲，這樣的問題的嚴重程度個人認為也急遽上升 - 畢竟先前的研究可能還沒有把這類垃圾內容「清洗」影音平台的問題納入其中。

▲圖片來源：Apple

不得不說，像是 AI 這樣的工具，在讓歷史與教育題材可以用更低的門檻輔助敘事說明等的用途方面，可以說是相當正面的應用方向。所以並不能以偏概全，將所有透過 AI 生成的影音創作都歸類為垃圾。

然而很可惜的是，直接被用來以假亂真／造假／仿製，以及以「自動化內容」來洗流量的用途，目前看來在各大平台缺乏真正品質過濾機制的前提下，已經造成了極大的問題。

其中最容易被瞄準以及顯而易見的受害者，就是比較難快速判斷 AI 內容，所以更容易創造大量觀看量的兒童。此外，針對認真確認事實維持品質的創作者而言，這種被 AI 垃圾廢片分流所造成的挫折感，更不是一種正向發展的方向。

▲圖片來源：Kapwing

然而令人感到有點悲觀的是，畢竟這些內容所定的對象還是人類。以這類內容所洗出來的流量的廣告商業利益來說，這些平台是否會這麼壯士斷腕地管制這類內容，可能還是會因為其中涉及收益的拉扯而有所拉扯。

個人猜測這也是為什麼目前各平台除了標註 AI 內容以及改進所謂的推薦演算法之外，還是沒能拿出什麼有效對應策略的阻力之一吧？只是這樣一來，會不會適得其反，導致政府等相關單位更加收緊孩童對於這類裝置／影音平台的限制，也會是很值得注意的發展。


--

延伸閱讀：

Siri AI「繁體中文」支援實測心得教學：每次用都超乎想像的蘋果 AI


--

TikTok, 抖音, 短影音, AI Slop, AI 垃圾,

感謝分享，別說Ai的壞，失控的往往都是那些想著流量的無知台主，帶來歡樂的雪山、醬板鴨多煩人｡

AI需耗費巨大算力(電力)
提供垃圾...........

...，甚至就連簡單的數數字教學，都能發生語音與畫面上的餅乾數量對不上的問題 - ...

光這幾句, 本身就是「廢」, 廢到誤人子弟.

感謝大大資訊分享~~

這APP一開始就沒有篩選機制，就是個廢垃圾APP  早該開鍘了
不然再ˋ這樣下去，社會體制遲早被為仲裁這類APP消耗資源殆盡

各平台AI垃圾影音確實氾濫到完全不想看了