AI写的文本难以辨别?OpenAI检测工具错误率高达74%!
原创
2023-07-26 14:44 星期三
财联社 周子意
①目前,OpenAI公司已经关闭了一款旨在区分人类写作和AI写作的工具AI classifier;
②从数据来看,识别AI生成内容的准确性仅为 26%。
③此外它还可能会产生误报,也就是人类编写的文本被标记为AI生成的。

财联社7月26日讯(编辑 周子意)目前,OpenAI公司已经关闭了一款旨在区分人类写作和人工智能(AI)写作的工具AI classifier,原因是准确率太低。

OpenAI在一篇博客文章中更新道,已经在7月20日结束其 AI 文本检测工具的运行。该公司表示,“我们正在努力整合反馈,目前正在研究更有效的文本来源检测技术。”

image

在关闭这个工具的同时,OpenAI还计划开发和部署一个新的机制,使用户能够辨别音频或视频内容是否由AI生成的。不过,目前还没有关于这一新机制的消息。

OpenAI方面承认,AI classifier在判断AI生成的文本方面向来都不是很好,并警告称,它可能会产生误报,也就是人类编写的文本被标记为AI生成的。

从数据来看,识别AI生成内容的准确率仅为 26%,意味着错误率高达74%,且该工具还会将9%人类撰写的文本错误标记为 AI 生成。

OpenAI还曾表示,若是拥有更多的数据,这款检测工具可以变得更好。

区分更加困难

要轻易区分AI和人类所创作的内容,未来只会变得越来越困难。

在OpenAI的ChatGPT进入市场并成为有史以来发展最快的应用程序之一后,人们争相掌握这项技术。然而一些行业对AI生成的文本和其他内容提出了警告,尤其是教育工作者,他们担心学生不再学习,只是让ChatGPT写作业。

出于对准确性、安全性和作弊的担忧,美国的一些高校甚至禁止在校园内使用ChatGPT。

此外,AI产生的错误信息令人担忧,研究表明,AI生成的文本可能比人类写的更有说服力。

目前,各国政府还没有找到完全监管AI的方法,就连开启这场AI热潮的科技公司也没有头绪。各个公司和行业组织正在制定自己的规则和保护措施,以应对AI生成文本的冲击。

收藏
100.6W
我要评论
图片
欢迎您发表有价值的评论,发布广告和不和谐的评论都将会被删除,您的账号将禁止评论。
发表评论
要闻
股市
关联话题
13.29W 人关注
6.01W 人关注