跳转到内容

GPTZero

维基百科，自由的百科全书
GPTZero
開發者Edward Tian
Alex Cui
Yazan Mimi[1]
首次发布2023年1月3日，​2年前​（2023-01-03）
编程语言Python
平台雲端運算
网站gptzero.me[1][2]

GPTZero是一款人工智慧內容檢測軟體，旨在辨識由大型語言模型產生的文字內容。[3][4][5][6]

儘管GPTZero被認為有助於防止學術不誠實行為，但遭到多家媒體批評誤判率過高，特別是在學術環境中可能對無辜者造成傷害。[7]

歷史

[编辑]

GPTZero由普林斯頓大學本科生田艾德華（英語：Edward Tian開發，於2023年1月上線，其目的是為應對AI被濫用於學術抄襲的問題。[8][2]2023年5月，該公司宣布已籌得超過350萬美元的種子資金。[9][10]

上線首週，GPTZero使用次數超過3萬次，導致系統癱瘓。網站開發平台Streamlit隨後提供更多伺服器資源支援。[11]到了2024年7月，該平台用戶已突破400萬，較前一年成長四倍。[12]

2024年夏季，GPTZero 完成A輪融資，募得1000萬美元。[13]

2024年9月，GPTZero宣佈推出一套寫作過程追蹤工具，能記錄使用者的寫作歷程，包括複製貼上紀錄、編輯人數與花費時間等，期望提供一種更細緻的方式來理解AI寫作，而非全然的「人」或「AI」的二分法。[13]

運作機制

[编辑]

GPTZero透過兩項指標「困惑度」（英語：perplexity）與「爆發性（英语：burstiness）」（英語：burstiness）來判斷文字是否由AI產生。[14]根據官方說明，「困惑度」是評估語句對人工智慧而言是否難以預測。若語句在語法結構上對人工智慧模型來說較不常見，表示可能是人類所寫。[15]相對地，「爆發性」則是比較句子間的變化程度。人類寫作的句型變化通常比人工智慧大。[2]

應用

[编辑]

學界曾嘗試以GPTZero解決人工智慧生成內容可能帶來的抄襲問題。[16][15][14]包括普林斯頓大學在內的教育機構皆曾探討GPTZero的使用方式，但看法不一。[2][17]2023年10月，GPTZero與美國教師聯盟（AFT）建立合作關係。[18]

截至2024年，田艾德華表示GPTZero也廣泛應用於人力資源領域，如履歷與求職信的分析。[13]

功效

[编辑]

2023年3月，美國馬里蘭大學的電腦科學家維努·桑卡爾·薩達西萬（英語：Vinu Sankar Sadasivan）、昂農·庫馬爾（英語：Aounon Kumar）、斯裡拉姆·巴拉蘇布拉馬尼安（Sriram Balasubramanian）、王文曉（Wenxiao Wang） 以及索海爾·費茲（英語：Soheil Feizi）發表論文《AI生成文字是否可被可靠偵測？》（英語：Can AI-Generated Text be Reliably Detected?），理論與實證指出多數AI偵測器在實際應用上皆不可靠。[19][20][21]

科技網站Futurism測試該工具後指出，雖然GPTZero結果令人印象深刻，但其誤判率可能導致依賴該工具的教師錯誤指控近20%的清白學生有學術不當行為。[22]

《華盛頓郵報》於2023年8月的報導也指出GPTZero存在誤判問題，並強調即使GPTZero的誤判率很低，仍有可能導致無辜學生被錯誤指控（有學術不當行為）。[7]

科技媒體Ars Technica指出，人類有時也會寫出非常規律的句子，這會使GPTZero判定為AI所寫。作者本傑·愛德華茲（英語：Benj Edwards）指出，「困惑度」僅判斷哪些句子對人工智慧說是否「不尋常」，導致像《美國憲法》這類常見文本，也可能被誤判為 AI 生成。[23]

參見

[编辑]

參考資料

[编辑]
  1. ^ 1.0 1.1 Meet the Etobicoke-born inventor of the ChatGPT detector. Toronto Life. 2023-02-16. （原始内容存档于2024-04-24）. 
  2. ^ 2.0 2.1 2.2 2.3 Edward Tian's GPTZERO Software Aims to Detect AI-Generated Plagiarism. The Daily Princetonian. 
  3. ^ GPTZERO: A New Tool to Detect AI-Generated Content in ChatGPT. The Washington Post. 
  4. ^ How apps like GPTZero detect content written by A.I.. CNBC. July 24, 2023 [September 21, 2023]. 
  5. ^ GPTZero App Seeks to Thwart AI Plagiarism in Schools, Online Media. Bloomberg.com. May 8, 2023 [October 21, 2023] （英语）. 
  6. ^ American Federation of Teachers partners with AI identification platform, GPTZero. CBS News. October 17, 2023 [October 21, 2023] （美国英语）. 
  7. ^ 7.0 7.1 Fowler, Geoffrey. What to do when you're accused of AI cheating. The Washington Post. August 14, 2023 [October 20, 2023]. 
  8. ^ How a 23-year-old college student built one of the leading AI detection tools. Business Insider. [September 21, 2023] （英语）. 
  9. ^ This AI detection tool raised $3.5 million to check the internet for computer-generated work. Fast Company. 2023. 
  10. ^ Shrivastava, Rashi. With Seed Funding Secured, AI Detection Tool GPTZero Launches New Browser Plugin. Forbes. [May 17, 2023] （英语）. 
  11. ^ GPTZERO: A New AI Detector Aims to Combat ChatGPT Plagiarism. NPR. January 9, 2023. 
  12. ^ AI Detectors Falsely Accuse Students of Cheating—With Big Consequences. Bloomberg.com. 2024-10-18 [2024-10-19] （英语）. 
  13. ^ 13.0 13.1 13.2 Contreras, Brian. How Can You Detect AI-Generated Text? This Startup Has Some Compelling Ideas. September 18, 2024. 
  14. ^ 14.0 14.1 What is GPTZERO? The ChatGPT Detection Tool Explained. Tech Learning. January 27, 2023. 
  15. ^ 15.0 15.1 AI Detector for Educators: What is GPTZERO?. Jumpstart Magazine. March 2, 2023. 
  16. ^ Tribune.com.pk. GPTZero: A ChatGPT Detection Tool. The Express Tribune. February 22, 2023. 
  17. ^ GPTZero to help teachers deal with ChatGPT-generated student essays. The Indian Express. 2023-01-12 [2023-10-21]. 
  18. ^ US Teachers Union Bans ChatGPT and Deploys GPTZero To Detect Cheating. MobileAppAaily. [October 21, 2023] （英语）. 
  19. ^ Vinu Sankar Sadasivan; Kumar, Aounon; Balasubramanian, Sriram; Wang, Wenxiao; Feizi, Soheil. Can AI-Generated Text be Reliably Detected?. March 17, 2023. arXiv:2303.11156 可免费查阅 [cs.CL]. 
  20. ^ Knibbs, Kate. Researchers Tested AI Watermarks—and Broke All of Them. Wired. [October 21, 2023]. ISSN 1059-1028 （美国英语）. 
  21. ^ No reliable way to detect AI-generated text, boffins sigh. The Register. 2023-03-21 [September 25, 2023] （英语）. 
  22. ^ There's a Problem With That App That Detects GPT-Written Text: It's Not Very Accurate. Futurism. January 9, 2023 [October 21, 2023]. 
  23. ^ Edwards, Benj. Why AI detectors think the US Constitution was written by AI. Ars Technica. July 14, 2023 [December 14, 2023] （美国英语）. 

外部連結

[编辑]
检索自“https://zh.wikipedia.org/w/index.php?title=GPTZero&oldid=87180739”