如今的互聯(lián)網(wǎng)上充斥著大量由AI工具生成的劣質(zhì)信息。圖片由AI生成
如今的互聯(lián)網(wǎng)上，看似信息海量，但也充斥著大量單調(diào)、重復(fù)且缺乏質(zhì)量的內(nèi)容。
美國《紐約時報》網(wǎng)站在12月8日的報道中指出，當(dāng)前網(wǎng)絡(luò)，尤其社交平臺正泛濫一種被稱為“AI垃圾”（AI Slop）的內(nèi)容。英國《新科學(xué)家》網(wǎng)站10日也發(fā)表文章稱，今年，許多人感覺仿佛置身于一堆華而不實的“AI垃圾”中。英國《經(jīng)濟(jì)學(xué)人》雜志更是將“Slop”一詞選為2025年度詞匯。這類錯漏百出、古怪甚至令人尷尬的內(nèi)容遍布各平臺，也在悄然侵蝕著人們的思想。
“假冒偽劣”信息充斥網(wǎng)絡(luò)
“Slop”原指“豬食”“泔水”等廉價、粗糙、缺乏營養(yǎng)之物。如今，借由AI技術(shù)的浪潮，一些如同“Slop”的垃圾內(nèi)容正在互聯(lián)網(wǎng)上肆意蔓延。
“AI垃圾”特指由AI工具生成的大量劣質(zhì)、重復(fù)或無意義的文字、圖像或視頻，常見于社交媒體和自動化內(nèi)容農(nóng)場。
美國科技網(wǎng)站CNET在10月28日的報道中提到，如今社交平臺上“AI垃圾”五花八門：OpenAI的Sora可讓人幾秒內(nèi)生成滑稽荒誕的視頻；LinkedIn上滿是由AI包裝的“專家箴言”，例如“有時領(lǐng)導(dǎo)力就是保持沉默的能力”；谷歌搜索結(jié)果也宛如AI雜貨鋪，竟會出現(xiàn)“姜黃能治愈心碎”這類無稽之談。
“AI垃圾”與“深度偽造”或“AI幻覺”雖有重疊，卻并不相同，其區(qū)別在于意圖與質(zhì)量。
&sp; “深度偽造”指利用AI偽造或篡改影音，目的在于欺騙，從虛假政治演講到詐騙語音皆屬此類，其關(guān)鍵在于以假亂真?！癆I幻覺”則屬技術(shù)錯誤，聊天機(jī)器人可能引用不存在的研究，或編造法律案例，本質(zhì)是模型在預(yù)測詞語時出現(xiàn)了偏差。而“AI垃圾”范圍更廣，也更隨意：當(dāng)人們用AI批量生產(chǎn)內(nèi)容卻疏于核對準(zhǔn)確性與邏輯時，便會產(chǎn)生此類垃圾。它們堵塞信息渠道，抬高廣告收益，用重復(fù)無意義的內(nèi)容占據(jù)搜索結(jié)果。其錯誤源于敷衍，而非欺騙或技術(shù)局限。
技術(shù)濫用與貪婪心態(tài)成推手
“AI垃圾”之所以泛濫，一方面因為AI技術(shù)日益強(qiáng)大且成本低廉。AI公司開發(fā)這些模型，本意是降低創(chuàng)作門檻，讓有好點子卻缺乏技能或資源的人也能制作出更優(yōu)質(zhì)的內(nèi)容。然而，有些人卻濫用AI工具海量生成文本、圖片與視頻，只為博取點擊和廣告收入。
隨著ChatGPT、Gemini、Claude等工具，尤其是Sora、Veo這類新型生成器的出現(xiàn)，幾秒內(nèi)生成可讀文本、圖像與視頻已成為可能。于是，內(nèi)容農(nóng)場應(yīng)運(yùn)而生。一些人發(fā)現(xiàn)，用AI填充網(wǎng)站、社交動態(tài)和YouTube頻道，遠(yuǎn)比人工創(chuàng)作更快。
AI不在意真相、品位或原創(chuàng)性，它只關(guān)注概率。這使得“AI垃圾”易于制作，迅速傳播。例如，某個YouTube頻道僅憑4個視頻，就積累了420萬訂閱和數(shù)億播放量。
平臺也在無形中助推此風(fēng)。算法往往更看重內(nèi)容的點擊與互動數(shù)據(jù)，而非質(zhì)量。發(fā)布越頻繁，獲得關(guān)注就越多，哪怕內(nèi)容純屬胡扯。AI讓這類操作變得易如反掌。
另一方面，利益亦是幕后推手。有些創(chuàng)作者大量發(fā)布虛假名人消息或夾帶廣告的標(biāo)題黨視頻；也有人濫用AI內(nèi)容誤導(dǎo)用戶，將其引向劣質(zhì)網(wǎng)站。
乍看之下，“AI垃圾”似乎無傷大雅——無非是動態(tài)里幾條劣質(zhì)帖子，或許還能博人一笑。然而當(dāng)數(shù)量爆發(fā)，一切便會不同。隨著垃圾信息充斥網(wǎng)絡(luò)，可信來源在搜索結(jié)果中排名下降，真實與虛構(gòu)的界限也變得模糊。
這種信任危機(jī)帶來切實后果：當(dāng)無人能辨真假，錯誤信息便傳得更快。
應(yīng)珍視人類的真誠創(chuàng)作
目前尚未有完美解決方案，但一些企業(yè)已開始嘗試。
例如，Spotify等平臺開始為AI生成內(nèi)容添加標(biāo)簽，并調(diào)整算法以降低劣質(zhì)內(nèi)容的推薦權(quán)重。谷歌、抖音與OpenAI等公司也承諾推出水印系統(tǒng)，幫助用戶區(qū)分人工內(nèi)容與合成內(nèi)容。不過，若有人對內(nèi)容進(jìn)行截圖、轉(zhuǎn)碼或改寫，這些方法仍可能失效。
部分應(yīng)對措施基于一項名為C2PA（內(nèi)容來源與真實性聯(lián)盟）的行業(yè)標(biāo)準(zhǔn)。該標(biāo)準(zhǔn)由Adobe、亞馬遜、微軟、Meta等企業(yè)共同支持，通過將元數(shù)據(jù)嵌入數(shù)字文件，記錄其創(chuàng)建與編輯過程。若順利推行，C2PA可幫助追溯圖片、視頻或文章的來源，無論其來自可信人類創(chuàng)作者，還是AI生成器。然而難點在于普及：元數(shù)據(jù)可能被剝離或忽略，且多數(shù)平臺尚未形成一致的執(zhí)行規(guī)范。
當(dāng)然，最有效的防護(hù)，其實在于人類自身?！癆I垃圾”依賴自動化生產(chǎn)和人們無意識地刷屏與轉(zhuǎn)發(fā)——大多數(shù)人都曾有過這類體驗。因此，放慢節(jié)奏、核實來源、支持那些仍堅持用心創(chuàng)作的作者，雖不能立竿見影，卻是重要的開始。
垃圾泛濫在互聯(lián)網(wǎng)世界并非新事。人們曾對抗垃圾郵件、點擊誘餌、虛假信息……“AI垃圾”只是同一故事的新篇章：更快、更流暢，也更難察覺。網(wǎng)絡(luò)能否保持其應(yīng)有的品質(zhì)，取決于人們是否依然珍視人類的真誠創(chuàng)作，而非機(jī)器的機(jī)械輸出。（劉 霞）
（責(zé)任編輯：蔡文斌）
晉公網(wǎng)安備 14090202000008號 
