人工智能生成內容快速普及之際，一個用來形容低質 AI 內容的新術語「AI 垃圾」（AI slop）正受到關注。這類內容通常由生成式 AI 大量製作，常見特徵包括文章語氣生硬、圖片失真或怪異，以及聲音缺乏自然感。據《紐約時報》報道，AI 垃圾已經出現在 Spotify、LinkedIn、YouTube 等主流平台，促使平台重新檢視內容審核與帳戶管理政策。
Spotify 與 LinkedIn 近期的應對，反映平台開始面對生成內容數量快速增加、低質節目影響使用者體驗，以及機器人帳戶散播不實或缺乏價值資訊等問題。不過，現有資料未顯示相關平台已經完全解決 AI 垃圾問題，偵測技術本身亦存在限制。
Spotify 收緊 AI Podcast 與有聲內容政策
Spotify 近期收緊內容政策，要求以 AI 生成的內容作出清楚標註，並加強對低質內容的審查。據報道，平台已開始清理部分被認為缺乏實質價值的 AI 生成 Podcast，以減少大量重複或低品質節目對使用者搜尋與收聽體驗造成的影響。
AI 生成 Podcast 與有聲書的門檻相對較低，製作者可以快速產生旁白、腳本及節目內容。當內容數量大幅增加，平台需要處理的不只是版權或違規問題，也包括節目是否具備原創性、資訊價值與足夠品質等較難以自動判斷的條件。
LinkedIn 面對假專業內容與機器人帳戶
LinkedIn 同樣被指平台上出現大量 AI 生成的「心靈雞湯」、假專業貼文，以及疑似由機器人操作的帳戶。這些內容表面上可能使用職場、管理或求職相關語言，但實際資訊密度有限，甚至可能被用來吸引互動、推廣服務或誤導其他使用者。
LinkedIn 母公司 Microsoft 最近引入 AI 偵測工具，希望協助阻擋垃圾內容及機器人帳戶。這類做法顯示，平台正嘗試將生成內容辨識、帳戶行為分析及內容審核結合起來，但偵測結果仍需要配合人工審查與其他風險判斷，不能單靠單一工具作出所有決定。
AI 偵測器可以協助辨識，但並非萬無一失
隨著 AI 垃圾增加，AI 生成內容偵測工具亦開始受到重視。《紐約時報》曾測試名為 Pangram 的 AI 偵測器，報道指其在分辨人工智能撰寫內容與人類撰寫內容方面有一定準確度。
然而，偵測器並非沒有弱點。相關測試亦指出，對圖片內容的 AI 偵測可靠性較低。由於生成模型不斷改進，文字經過人工修改或不同工具重新處理後，也可能增加辨識難度。因此，AI 偵測結果較適合作為審核流程中的參考，而不應被視為絕對結論。
香港與亞洲市場亦面對內容污染問題
來源報道指出，香港及亞洲部分網絡社群同樣受到 AI 垃圾影響。香港 LIHKG 討論區被指曾出現大量 AI 生成的帳戶貼文，部分內容疑似模仿真人使用者，以取得讚好、推廣商品或吸引互動；台灣的 PTT 亦被形容為受到相關內容影響的平台之一。
在短影片領域，TikTok 與 Kwai 等平台亦曾被發現出現大量 AI 生成的低質影片。這些影片往往以吸引點擊為主要目的，內容資訊價值有限，卻可能因為數量龐大而在推薦系統中獲得曝光。
本地廣告業亦開始使用 AI 生成文案與圖片。生成式工具可以降低製作門檻，但實際品質可能參差不齊，出現語法不自然、語意錯誤或視覺內容不合理等問題。部分中小企使用 ChatGPT 製作宣傳文案時，也可能因缺乏人工校對而產生不符合品牌語氣的內容。
AI 垃圾為何容易大量出現？
AI 垃圾能夠快速擴散，主要與生成成本下降、平台流量機制及使用者辨識能力有關。現時任何人都可以使用 ChatGPT、Claude 等工具，在短時間內產生大量文章、圖片或聲音內容。當生成成本接近於零，只要少量內容能夠換取流量、互動或商業回報，便可能形成持續生產的誘因。
另一方面，社交平台的推薦機制普遍重視互動數據，包括讚好、留言、分享及觀看時間。低質內容雖然缺乏資訊價值，但如果能夠透過大量發布取得少量互動，仍可能被演算法推送，令平台更難單純以內容質素作為排名依據。
使用者的媒體素養亦是重要因素。對於篇幅較短、語句看似流暢的貼文，普通使用者未必能夠立即分辨內容是由真人撰寫，還是由生成式 AI 製作。當內容涉及求職、健康、投資或公共議題時，錯誤資訊的影響可能更為明顯。
平台、使用者與監管機構需要共同應對
- 平台責任：平台需要加強低質內容、機器人帳戶及重複發布行為的識別，同時清楚說明 AI 生成內容的標註與處理方式。
- 使用者教育：提升公眾媒體素養，鼓勵使用者查核來源、比較不同資訊，並對過度公式化或缺乏具體細節的內容保持警覺。
- 偵測技術：持續改善文字、圖片、聲音及影片的辨識能力，但同時承認偵測結果可能出現誤判，並建立申訴與人工複核機制。
- 法規監管：政府可研究生成內容標註、虛假資訊、詐騙及冒認身份等範疇的監管方式，尤其需要平衡內容治理與正常創作使用之間的界線。
AI 內容治理仍處於起步階段
Spotify 與 LinkedIn 的措施，顯示大型平台已開始正面處理 AI 垃圾帶來的內容品質與信任問題。不過，生成式 AI 同時具備提高製作效率、降低內容創作門檻及協助不同創作者表達的價值，因此平台治理不能簡化為全面封鎖所有 AI 生成內容。
較可行的方向，是要求內容標註更透明、針對機器人與濫發行為進行管理，並利用自動化工具配合人工審查。對使用者而言，查核來源、避免盲目相信網上資訊，以及理解 AI 偵測工具的局限，將會是面對內容氾濫的重要能力。
Reference Link : techbuzz.hk
