跳转到内容

GPTZero

本页使用了标题或全文手工转换
维基百科，自由的百科全书
GPTZero
开发者Edward Tian
Alex Cui
Yazan Mimi[1]
首次发布2023年1月3日，​2年前​（2023-01-03）
编程语言Python
平台云端运算
网站gptzero.me[1][2]

GPTZero是一款人工智慧内容检测软体，旨在辨识由大型语言模型产生的文字内容。[3][4][5][6]

尽管GPTZero被认为有助于防止学术不诚实行为，但遭到多家媒体批评误判率过高，特别是在学术环境中可能对无辜者造成伤害。[7]

历史

[编辑]

GPTZero由普林斯顿大学本科生田艾德华（英语：Edward Tian开发，于2023年1月上线，其目的是为应对AI被滥用于学术抄袭的问题。[8][2]2023年5月，该公司宣布已筹得超过350万美元的种子资金。[9][10]

上线首周，GPTZero使用次数超过3万次，导致系统瘫痪。网站开发平台Streamlit随后提供更多伺服器资源支援。[11]到了2024年7月，该平台用户已突破400万，较前一年成长四倍。[12]

2024年夏季，GPTZero完成A轮融资，募得1000万美元。[13]

2024年9月，GPTZero宣布推出一套写作过程追踪工具，能记录使用者的写作历程，包括复制贴上纪录、编辑人数与花费时间等，期望提供一种更细致的方式来理解AI写作，而非全然的“人”或“AI”的二分法。[13]

运作机制

[编辑]

GPTZero透过两项指标“困惑度”（英语：perplexity）与“爆发性（英语：burstiness）”（英语：burstiness）来判断文字是否由AI产生。[14]根据官方说明，“困惑度”是评估语句对人工智慧而言是否难以预测。若语句在语法结构上对人工智慧模型来说较不常见，表示可能是人类所写。[15]相对地，“爆发性”则是比较句子间的变化程度。人类写作的句型变化通常比人工智慧大。[2]

应用

[编辑]

学界曾尝试以GPTZero解决人工智慧生成内容可能带来的抄袭问题。[16][15][14]包括普林斯顿大学在内的教育机构皆曾探讨GPTZero的使用方式，但看法不一。[2][17]2023年10月，GPTZero与美国教师联盟（AFT）建立合作关系。[18]

2024年，田艾德华表示GPTZero也广泛应用于人力资源领域，如履历与求职信的分析。[13]

功效

[编辑]

2023年3月，美国马里兰大学的电脑科学家维努·桑卡尔·萨达西万（英语：Vinu Sankar Sadasivan）、昂农·库马尔（英语：Aounon Kumar）、斯里拉姆·巴拉苏布拉马尼安（Sriram Balasubramanian）、王文晓（Wenxiao Wang） 以及索海尔·费兹（英语：Soheil Feizi）发表论文《AI生成文字是否可被可靠侦测？》（英语：Can AI-Generated Text be Reliably Detected?），理论与实证指出多数AI侦测器在实际应用上皆不可靠。[19][20][21]

科技网站Futurism测试该工具后指出，虽然GPTZero结果令人印象深刻，但其误判率可能导致依赖该工具的教师错误指控近20%的清白学生有学术不当行为。[22]

《华盛顿邮报》于2023年8月的报导也指出GPTZero存在误判问题，并强调即使GPTZero的误判率很低，仍有可能导致无辜学生被错误指控（有学术不当行为）。[7]

科技媒体Ars Technica指出，人类有时也会写出非常规律的句子，这会使GPTZero判定为AI所写。作者本杰·爱德华兹（英语：Benj Edwards）指出，“困惑度”仅判断哪些句子对人工智慧说是否“不寻常”，导致像《美国宪法》这类常见文本，也可能被误判为 AI 生成。[23]

参见

[编辑]

参考资料

[编辑]
  1. ^ 1.0 1.1 Meet the Etobicoke-born inventor of the ChatGPT detector. Toronto Life. 2023-02-16. （原始内容存档于2024-04-24）. 
  2. ^ 2.0 2.1 2.2 2.3 Edward Tian's GPTZERO Software Aims to Detect AI-Generated Plagiarism. The Daily Princetonian. 
  3. ^ GPTZERO: A New Tool to Detect AI-Generated Content in ChatGPT. The Washington Post. 
  4. ^ How apps like GPTZero detect content written by A.I.. CNBC. 2023-07-24 [2023-09-21]. 
  5. ^ GPTZero App Seeks to Thwart AI Plagiarism in Schools, Online Media. Bloomberg.com. 2023-05-08 [2023-10-21] （英语）. 
  6. ^ American Federation of Teachers partners with AI identification platform, GPTZero. CBS News. 2023-10-17 [2023-10-21] （美国英语）. 
  7. ^ 7.0 7.1 Fowler, Geoffrey. What to do when you're accused of AI cheating. The Washington Post. 2023-08-14 [2023-10-20]. 
  8. ^ How a 23-year-old college student built one of the leading AI detection tools. Business Insider. [2023-09-21] （英语）. 
  9. ^ This AI detection tool raised $3.5 million to check the internet for computer-generated work. Fast Company. 2023. 
  10. ^ Shrivastava, Rashi. With Seed Funding Secured, AI Detection Tool GPTZero Launches New Browser Plugin. Forbes. [2023-05-17] （英语）. 
  11. ^ GPTZERO: A New AI Detector Aims to Combat ChatGPT Plagiarism. NPR. 2023-01-09. 
  12. ^ AI Detectors Falsely Accuse Students of Cheating—With Big Consequences. Bloomberg.com. 2024-10-18 [2024-10-19] （英语）. 
  13. ^ 13.0 13.1 13.2 Contreras, Brian. How Can You Detect AI-Generated Text? This Startup Has Some Compelling Ideas. 2024-09-18. 
  14. ^ 14.0 14.1 What is GPTZERO? The ChatGPT Detection Tool Explained. Tech Learning. 2023-01-27. 
  15. ^ 15.0 15.1 AI Detector for Educators: What is GPTZERO?. Jumpstart Magazine. 2023-03-02. 
  16. ^ Tribune.com.pk. GPTZero: A ChatGPT Detection Tool. The Express Tribune. 2023-02-22. 
  17. ^ GPTZero to help teachers deal with ChatGPT-generated student essays. The Indian Express. 2023-01-12 [2023-10-21]. 
  18. ^ US Teachers Union Bans ChatGPT and Deploys GPTZero To Detect Cheating. MobileAppAaily. [2023-10-21] （英语）. 
  19. ^ Vinu Sankar Sadasivan; Kumar, Aounon; Balasubramanian, Sriram; Wang, Wenxiao; Feizi, Soheil. Can AI-Generated Text be Reliably Detected?. 2023-03-17. arXiv:2303.11156 可免费查阅 [cs.CL]. 
  20. ^ Knibbs, Kate. Researchers Tested AI Watermarks—and Broke All of Them. Wired. [2023-10-21]. ISSN 1059-1028 （美国英语）. 
  21. ^ No reliable way to detect AI-generated text, boffins sigh. The Register. 2023-03-21 [2023-09-25] （英语）. 
  22. ^ There's a Problem With That App That Detects GPT-Written Text: It's Not Very Accurate. Futurism. 2023-01-09 [2023-10-21]. 
  23. ^ Edwards, Benj. Why AI detectors think the US Constitution was written by AI. Ars Technica. 2023-07-14 [2023-12-14] （美国英语）. 

外部链接

[编辑]
检索自“https://zh.wikipedia.org/w/index.php?title=GPTZero&oldid=87190214”