OpenAI开发高精AI内容检测工具,发布计划未定

发布时间: 2024-08-05 12:41:44

近年来,随着人工智能技术的发展,尤其是像ChatGPT这样的大型语言模型系统的出现,人们越来越担心AI生成的内容可能会被滥用,比如用于生成虚假信息。因此,OpenAI公司一直在开发一种新的工具,这个工具能够非常准确地检测到由ChatGPT生成的内容。由于担心这个工具可能被不良用家篡改,或者让非英语使用者对使用AI写作工具产生抵触,OpenAI迟迟没有推出这个工具。

今年5月,OpenAI在其博客文章中提到,公司正在研究各种方法来检测由其产品生成的内容。但在8月4日,华尔街日报独家报道指出,关于是否发布这些工具的讨论还在公司内部进行中。这篇报道之后,OpenAI更新了其5月的博客文章,增加了关于检测工具的新信息。尽管公司强调至少有一种工具可以非常准确地检测文本来源,并且对本地化的篡改也有效,但目前还没有确定的发布时间表。

不幸的是,公司声称仍然有方法可以绕过检测,因此他们不愿意将这个工具公之于众。

在另一个段落中,公司似乎暗示,由于存在一种将英语文本翻译成其他语言以绕过检测的漏洞,非英语使用者可能会因此对使用AI写作工具产生“抵触”情绪。

“我们正在权衡的另一个重要风险是,我们的研究显示,文本水印技术有可能对某些群体产生不成比例的影响。例如,它可能会使非英语母语使用者在使用AI作为写作工具时感到‘抵触’。”

目前市面上已经有一些产品和服务声称可以检测由AI生成的内容,但是据我们所知,这些产品和服务并没有在科学期刊上发表的同行评审研究中显示出在一般任务上的高准确性。

OpenAI的检测系统将是第一个使用隐形水印和专有检测方法来检测特定由公司模型生成的内容的系统。

相关报道指出,OpenAI目前的商业模式是不可持续的。

声明:文章不代表第一币讯的观点及立场,不构成本平台任何建议。新闻资讯仅供参考,投资决策应当理性谨慎。
警惕: 网上好友、短信、电话、群聊都是骗子,请大家注意防止受骗!

相关新闻

微软苹果公司退出OpenAI董事会,业内重组动态解析

科技巨头微软和苹果公司据报道已决定不在人工智能(AI)企业OpenAI董事会中占有一席之地,原因是监管审查力度不断增加。 微软据称在七月十日向OpenAI发出一... [详情]

OpenAI研发新AI模型,代号“Strawberry”,专业解析与权威预览

OpenAI,这个ChatGPT的制造者,据报道正在开发一个名为“Strawberry”的新人工智能模型,旨在通过高级推理能力使其AI工具达到人类级别的智能。Strawberry将能... [详情]

OpenAI与创造原子弹的实验室合作,进军生物科学领域

美国的一家名为OpenAI的公司正在与洛斯阿拉莫斯国家实验室(LANL)合作,该实验室曾负责建造世界上第一个核武器。幸运的是,这次合作是为了在生物科学研究中... [详情]

前OpenAI员工辞职以躲避“AI界的泰坦尼克号”

前OpenAI安全员工威廉·桑德斯最近在播客采访中解释了他为何辞去在AI公司的职位。他对OpenAI开发人工智能(AI)的方法表示担忧,将其发展轨迹比作泰坦尼克号... [详情]

WEMIX PLAY的演变:从REFLECT到PLAY代币的转型

重要的改动即将来临,WEMIX PLAY平台内的REFLECT服务即将迎来新的变化。REFLECT代币一直以来都是通过融合WEMIX PLAY生态系统中的各种代币来获得价值的。这... [详情]

专业解读:Solana ETF临近批准,影响分析揭秘

芝加哥期权交易所(CBOE)最近采取了重要步骤,准备推出与Solana相关的交易所交易基金(ETF),提交了由VanEck和21Shares提出的ETF注册申请。这一申请于7月8日... [详情]

衍生品助力MANTRA(OM)代币激增:有望迅速突破2美元大关

最近一个月以及2024年上半年,MANTRA币的价格持续保持强劲势头,价格继续攀升。显著的涨幅表明人们从中获利,最高价达到了1.41美元。然而,目前价格正形成回调... [详情]

XEM代币需求上涨:本周能否触及0.03美元?

XEM是NEM平台的原生代币,最近价格上涨并吸引了投资者的注意。在过去的两周内,XEM代币价格已经上涨超过150%,从低点0.01040美元开始反弹并积累上涨动能,随... [详情]

"权威解读: BIS 零点论坛关于互操作性的核心观点"

在苏黎世举行的零点论坛上,与国际清算银行(BIS)合作的行业领袖们就数字资产对金融服务的影响进行了深入探讨。来自摩根大通、新加坡金融管理局、淡马锡控股... [详情]

本周焦点文章综述 8/19-8/24

在这周的时间里,去中心化金融(DeFi)和加密货币世界经历了迅速的发展。想要紧跟这个领域的最新进展和趋势,了解必要的资讯至关重要。我们每周总结会为你提供... [详情]

全球市值十大币种

  1. Bitcoin 比特币BTC
  2. Ethereum 以太坊ETH
  3. Tether 泰达币USDT
  4. BNB 币安币BNB
  5. USDC USDC
  6. XRP 瑞波币XRP
  7. Dogecoin 狗币DOGE

意见反馈及报错将在两个工作日内及时处理 投诉举报

增值电信业务经营许可证备案号:京ICP备16030243号-1