跳转到内容

AI垃圾

维基百科，自由的百科全书
A statue of a man, waist up, submerged underwater and covered in bright orange shrimp. There is a halo of shrimp above his head.
A statue of a man floating high over the ocean. Aside from the head and some of his torso, he is made up of shrimp and ocean plants that blend and meld with each other.
A crustacean man underwater, with a stone head, neck, and hands. His body and arms are a sort of lobster-crab shell, and he has a dozen long crab legs sprouting from his sides.
大量由 AI 生成的「蝦子耶穌」圖像常被用作粗製濫造的典型例子[1][2][3]

AI垃圾(英語：AI slop，其中「slop」原指廢棄液體) 是指由生成式人工智慧技術大量產出的低品質內容，其含意類似於「垃圾邮件」。[4]其形式包含文字、圖像、影片及內容農場網站等多個媒介。[4][5][6][1]

該詞最早出現於2020年代，它被定義為「數位雜亂」(英語：digital clutter)[7] ，「由 AI 工具生成但著重於速度與數量而非內容與品質」[7] ，以及「在社群媒體、藝術、書籍甚至搜尋結果中粗制滥造和不受歡迎的人工智慧內容」。[8]紐約市立大學哲學教授乔纳森·吉尔摩 (英語：Jonathan Gilmore) 描述 AI垃圾所呈現的「極其平凡、寫實的風格」為「非常容易處理」[9]

術語起源

[编辑]

由於大型語言模型(LLM) 和圖像擴散模型加速了大量低品質文字內容與圖像的產出，人们开始讨论如何恰当地称呼此现象。提出的詞彙包括「AI garbage」、「AI污染」(英語：AI pollution)以及「AI生成的渣滓」(英語：AI-generated dross)。 [6]最初使用「slop」這個詞來形容劣質AI材料，顯然是針對 2022年 AI 圖像生成器問世而產生的反應[8]此外，有評論指出，該詞在4chan 、Hacker News和YouTube的评论中已成为一種內部圈子俚語。[8]

英國電腦程式設計師西門·威利森（英语：Simon Willison）被認為是將「slop」這一詞推向主流的早期倡導者之一，[1][8]他於2024年5月在他的個人博客中采用了该词。[10]但他表示，該詞在他開始推廣之前就已經使用了。[8]

2024年第二季度，該詞随着Google使用其Gemini AI 模型生成的搜尋結果而人氣提升，[8]到 2024年第四季度時，該詞已廣泛出現在媒體標題中。[1][4]

研究發現，使用 AI 垃圾來訓練大型語言模型會導致模型崩潰（英语：Model collapse）：也就是說，在連續多次迭代中，模型輸出的詞彙、句法與語義多樣性持續下降，這一現象在要求高度創造力的任務中尤為明顯。[11]

社群媒體

[编辑]
A white man wearing military fatigues looks sad while sitting in a wheelchair holding a cardboard sign saying "Today's my birthday, please like." His right leg is wrapped in bandages and his wheelchair is in front of an American flag with missing stars.
一個旨在吸引美國觀眾的垃圾提示生成的圖像，來自印地語：「美國退伍軍人手持一塊寫著『今天是我的生日，請點贊』的紙板標語，戰鬥中受傷的退伍軍人，背後有美國國旗」 [4]

人工智慧生成的AI垃圾圖像和影片在社交媒體上大量流傳，部分原因在於這些內容能為Facebook和TikTok上的創作者帶來收入。进而激勵了來自发展中國家的使用者創作出迎合美國觀眾的圖像，以獲得更高的廣告收入。[12][13][14]

記者杰森·科布勒（Jason Koebler）推測，部分內容之所以怪異，可能是因為創作者使用印地語、烏爾都語和越南語等提示語（這些語言在模型的訓練數據中代表性不足），或者採用了不穩定的語音轉文字技术，將原意翻譯成英語而造成的。[12]

在接受《紐約雜誌》採訪時，一位來自肯亞的AI垃圾圖像創作者描述了他如何向ChatGPT輸入諸如「為我生成 10 個關於耶穌的圖片提示，能在Facebook上帶來高互動率。」(英語：WRITE ME 10 PROMPT picture OF JESUS WHICH WILLING BRING HIGH ENGAGEMENT ON FACEBOOK)這樣的提示，然後再將這些生成的提示交由如Midjourney這類文字轉圖像的AI处理。[4]

政治

[编辑]
2025年2月26日，唐納德·特朗普在社交媒體上發布的一段視頻展示了他所構想的「特朗普加薩」，該視頻將其描繪成一個擁有金色特朗普雕像、伊隆·馬斯克隨意揮金的度假村 [15]

2024年8月，《大西洋月刊》指出，AI垃圾內容正逐漸與美國右翼政治勢力掛鉤，這些勢力利用這類內容在社交媒體上發佈廢文及憤怒誘餌（英语：Rage-baiting），該技術提供「廉價、快速、隨需應變的內容原料」。[16]

在美国颶風海倫妮過後，共和黨員散佈了一張由人工智慧生成的圖片，該圖片顯示一名年輕女孩在洪水中抱著一隻小狗，並藉此指責總統喬·拜登未能妥善應對災情。[17][3]即使有人如艾米·克雷默(Amy Kremer)，承認該圖片並不真實，但仍在社群媒體上分享了該圖片。[18][19]

2025年2月，美國總統川普在极右翼社群媒体平台Truth Social和Instagram上分享了一段由人工智慧生成的影片，影片中展示了將加薩地帶轉變為豪華度假村的影像。視頻中包含了「川普加薩終於來了！」及「唐納德將來解放你們」等字句。這段低品質的由AI生成的影片被批評為支持對巴勒斯坦人進行種族清洗的宣傳工具而引起争议。[20][21]

活动列表

[编辑]

2024 年威利的巧克力体验活動的宣傳圖被形容為「人工智慧生成的垃圾內容」[22]，誤導觀眾參加一個只有廉價装饰的倉庫舉辦的活動。该活动的门票則透過Facebook廣告进行推廣，而廣告中展示的是人工智慧生成的圖像，沒有該場地的真實照片。[23]

2024年10月，有報導指出，由於聚合活動列表網站 MySpiritHalloween.com 使用了 AI 生成的內容，數千人因此在都柏林集結參加一場並不存在的萬聖節遊行[24][25]。該活動訊息在 TikTok 和 Instagram 上迅速走紅[26]。儘管戈尔韦曾舉辦過類似的遊行，而且都柏林在往年也曾舉辦過遊行，但2024年都柏林並未舉行遊行[25]。一位分析師認為，該網站看似使用 AI 生成員工照片，很可能是利用人工智慧「迅速且廉價地創造出內容以抓住機會」[27]。該網站所有者表示：「我們請ChatGPT幫忙撰寫文章，但並不是完全由ChatGPT自己完成的。」過去，當場地聯絡該網站時，网站会删除不存在的活动，但在都柏林遊行的情況下，該網站所有者表示「沒有人反映這個活動不會發生」。當 MySpiritHalloween.com發現這個問題後，他們更新了頁面，說明該遊行已被「取消」。[28]

廣告

[编辑]

2024年11月，可口可樂使用人工智慧创作了三支廣告片，作为其年度节日宣传活动的一部分。這些影片發布後，便立即遭到普通觀眾和藝術家的負面評價，[29]《神秘小鎮大冒險》創作者、動畫師亚历克斯·赫希（英语：Alex Hirsch）批評該公司未聘請人類藝術家來参与製作廣告。[30]

針對外界的負面反應，可口可樂為其使用生成式人工智慧的決定進行辯護，並表示：「可口可樂始終致力於在人工智慧與人類創意的交匯點上，打造最高水準的作品。」[31]

在2025年3月，派拉蒙影業因在Instagram影片中使用AI編劇與旁白來宣傳電影《無痛先生》而受到批評。[32]該廣告採用了機器人般的AI語音，其風格類似於內容農場生產的低品質AI垃圾影片。A24也因2024年電影《帝國浩劫：美國內戰》發布一系列AI生成的海報而遭受類似的批評。其中一張海報似乎描繪了一群士兵乘坐類似坦克的木筏準備向一隻巨大的天鵝開火，這幅畫面與電影內容毫無關聯。[33]義大利式腦腐（英语：Italian brainrot）AI風潮被廣泛採用於廣告中，以更好地迎合年輕族群。[34]

同月，動視在Facebook和Instagram等平台上發布了多款虛構遊戲的廣告與海報，例如《吉他英雄》、《袋狼大進擊：大亂鬥》和《決勝時刻：殭屍捍衛者》，這些全都是利用生成式AI製作的，許多人將其稱為AI垃圾。[35] 其目的是調查市場對這些遊戲是否有興趣，從而決定是否將其開發為真正的遊戲。[36]

書籍

[编辑]

现今，许多線上書商與圖書館供應商会提供由AI撰寫的書籍，而這些書籍並未經過圖書館員的篩選與整理。為圖書館提供電子書與可下載內容的數位媒體供應商Hoopla（英语：Hoopla）也包含由生成式 AI 創作的書籍，這些書籍不僅由虛構作者署名，品質也存疑，當不知情的讀者借閱時，可能會為圖書館帶來額外成本。[37]

電子遊戲

[编辑]

2024年推出的電子遊戲《決勝時刻：黑色行動6》包含由人工智慧生成的游戏資源。自該遊戲首次發布以來，許多玩家指控Treyarch與Raven Software利用人工智慧來製作遊戲內的資源，包括載入畫面、徽章和稱號卡。其中一個具體例子为，僵屍模式中的一個載入畫面展示了「Necroclaus」，這是一個殭屍化的聖誕老人，其一隻手有六根手指，該圖像還存在其他不規則之處。[38]此外，《使命召喚》系列的前作也曾被指控販售由人工智慧生成的虛擬裝飾品。[39]

2025年2月，動視為遵守維爾福在Steam平台上對AI生成或協助產品的政策，公開了《黑色行動6》中使用生成式人工智慧的情況。動視在該遊戲的Steam產品頁上聲明：「我們的團隊使用生成性 AI 工具來協助開發部分遊戲內資源。」[40]

參見

[编辑]

參考資料

[编辑]
  1. ^ 1.0 1.1 1.2 1.3 Hern, Alex; Milmo, Dan. Spam, junk … slop? The latest wave of AI behind the 'zombie internet'. The Guardian. 2024-05-19 [2024-09-28]. ISSN 0261-3077 （英国英语）. 
  2. ^ Notopoulos, Katie. Why doesn't Facebook just ban AI slop like Shrimp Jesus?. Business Insider. [4 October 2024]. 
  3. ^ 3.0 3.1 Field, Matthew. Why the internet is filling up with nonsense ‘AI slop’. The Telegraph. 1 January 2025 [3 January 2025]. 
  4. ^ 4.0 4.1 4.2 4.3 4.4 Read, Max. Drowning in Slop. Intelligencer. 2024-09-25 [2024-09-28] （英语）. 
  5. ^ 莊舒閔. 什麼是AI Slop？寫作平台Medium「AI廢文逼近40%」：它們該如何數位淨灘？. 數位時代. 2025-03-02 [2025-03-12] （中文（臺灣））. 
  6. ^ 6.0 6.1 How Long Will A.I.'s 'Slop' Era Last?. The New York Times. July 24, 2024. 
  7. ^ 7.0 7.1 Hughes, Johnny. How Businesses Can Avoid AI Slop. Entrepreneur. 2024-09-03 [2024-09-28] （英语）. 
  8. ^ 8.0 8.1 8.2 8.3 8.4 8.5 First Came 'Spam.' Now, With A.I., We've Got 'Slop'. The New York Times. June 11, 2024. 
  9. ^ The deluge of bonkers AI art is literally surreal. Washington Post. 2024-06-30 [2024-09-29] （英语）. 
  10. ^ Slop is the new name for unwanted AI-generated content. simonwillison.net. [2024-10-04] （英国英语）. 
  11. ^ Guo, Yanzhu; Shang, Guokan. The Curious Decline of Linguistic Diversity: Training Language Models on Synthetic Text. 2024-04-16. arXiv:2311.09807 可免费查阅 [cs.CL]. 
  12. ^ 12.0 12.1 Koebler, Jason. Where Facebook's AI Slop Comes From. 404 Media. 2024-08-06 [2024-09-29] （英语）. 
  13. ^ Tang, Jiaru; Wikström, Patrik. 'Side job, self-employed, high-paid': behind the AI slop flooding TikTok and Facebook. The Conversation. 2024-09-19 [2024-09-29] （美国英语）. 
  14. ^ Gault, Matthew. Facebook's Twisted Incentives Created Its AI Slop Era. Gizmodo. 2024-08-07 [2024-09-29] （美国英语）. 
  15. ^ Holmes, Oliver; Owen, Paul. Trump faces Truth Social backlash over AI video of Gaza with topless Netanyahu and bearded bellydancers. The Guardian. 2025-02-26 [2025-02-26]. ISSN 0261-3077 （英国英语）. 
  16. ^ Warzel, Charlie. The MAGA Aesthetic Is AI Slop. The Atlantic. 2024-08-21 [2024-09-29] （英语）. 
  17. ^ Gullible Trump Cronies Losing Their Minds Over Fake AI Slop on Twitter. Yahoo News. 2024-10-04 [2024-10-06] （美国英语）. 
  18. ^ Koebler, Jason. Hurricane Helene and the 'Fuck It' Era of AI-Generated Slop. 404 Media. October 8, 2024 [October 15, 2024]. 
  19. ^ Warzel, Charlie. I'M RUNNING OUT OF WAYS TO EXPLAIN HOW BAD THIS IS. The Atlantic. October 10, 2024 [October 15, 2024]. 
  20. ^ Hall, Richard. Trump shares AI video of him relaxing in Gaza. It’s a nightmare look inside his mind. The Independent. 27 February 2025 [2 March 2025] （英语）. 
  21. ^ Lanard, Noah. Trump posts AI video of ethnically cleansed Gaza. Mother Jones. [2 March 2025]. 
  22. ^ Currie, Richard. Willy Wonka event leaves bitter taste with artificially sweetened promises. The Register. 2024-02-28 [2024-11-04]. 
  23. ^ Murphy, Chris. "Willy's Chocolate Experience" Nightmare: What Went Wrong?. Vanity Fair. 2024-02-29 [2024-11-04]. 
  24. ^ Davis, Barney. Chaos in Dublin as thousands turn up for AI 'hoax' Halloween parade that didn't exist. The Independent. 2024-11-01 [2024-11-01] （英语）. 
  25. ^ 25.0 25.1 All Trick, No Treat: Dublin Crowds Turn Up for Halloween Parade That Wasn't. The New York Times. 2024-11-01. 
  26. ^ Fleck, Holly. Dublin: Halloween parade listing 'mistake' says website owner. BBC News. 2 November 2024 [2024-11-14]. 
  27. ^ O'Shea, Kerry. All trick no treat - "Hoax" Halloween parade draws big crowds to Dublin's O'Connell St. IrishCentral.com. 2024-10-31 [2024-11-01] （英语）. 
  28. ^ Knibbs, Kate. The Guy Behind the Fake AI Halloween Parade Listing Says You've Got It All Wrong. Wired. [2024-11-03]. ISSN 1059-1028 （美国英语）. 
  29. ^ Stedman, Alex. Coca-Cola's New AI-Generated Holiday Ad Slammed as 'Soulless' and 'Embarrassing': 'This Is Such Slop'. IGN. 2024-11-16 [2025-01-05] （英语）. 
  30. ^ Coca-Cola causes controversy with AI-generated ad. NBC News. 2024-11-18 [2025-01-05] （英语）. 
  31. ^ Vadukul, Alex. Coca-Cola’s Holiday Ads Trade the ‘Real Thing’ for Generative A.I.. The New York Times. 2024-11-20 [2025-01-05]. ISSN 0362-4331 （美国英语）. 
  32. ^ Paramount skips voice actors, opting for shockingly bad AI slop in 'Novocaine' film promo. TweakTown. 2025-03-10 [2025-03-24] （美国英语）. 
  33. ^ Maker, Paul. AI slop: what Labour, Spotify and Coca-Cola can teach us in 2025. Raconteur. 2025-01-09 [2025-03-24] （英国英语）. 
  34. ^ Why Brands Are Embracing 'Italian Brainrot' to Go Viral on TikTok and Win Over Gen Z. News 10 ABC. 15 April 2025. 
  35. ^ Editor-in-Chief, Tom Phillips. Activision accused of "AI slop" yet again, this time for new Guitar Hero. Eurogamer.net. 2025-03-03 [2025-03-27] （英语）. 
  36. ^ Editor-in-Chief, Tom Phillips. Activision "AI slop" Guitar Hero advert is market research for a fake game that doesn't exist and maybe never will. Eurogamer.net. 2025-03-04 [2025-03-27] （英语）. 
  37. ^ Maiberg, Emanuel. AI-Generated Slop Is Already In Your Public Library. 404 Media. 2025-02-04 [2025-02-06] （英语）. 
  38. ^ Yin-Poole, Wesley. Call of Duty Fans Give Black Ops 6's Zombie Santa Loading Screen the Finger Amid 'AI Slop' Backlash. IGN. 2024-12-09 [2025-02-26] （英语）. 
  39. ^ Yin-Poole, Wesley. Activision Reportedly Sold an AI-Generated Call of Duty: Modern Warfare 3 Cosmetic. IGN. 2024-07-24 [2025-02-26] （英语）. 
  40. ^ Call Of Duty Discloses AI Slop After Months Of Players Complaining. Kotaku. 2025-02-25 [2025-02-26] （英语）. 

外部連結

[编辑]
检索自“https://zh.wikipedia.org/w/index.php?title=AI垃圾&oldid=87161522”