人类生成 or 机器生成？ChatGPT 引发了一场真假辩论

原文：英国《金融时报》

像 ChatGPT 这样的大型言语模型是合理性的提供者。 许多谈天机器人根据所谓的生成式人工智能，通过练习能够通过在互联网上查找相关信息并搜集连贯的答案来答复用户的问题，然后生成令人信服的学生论文、威望的法令文件和可信的新闻报道。

可是，由于公开可用的数据包括过错信息和虚伪信息，一些机器生成的文本或许不精确或不真实。 这引发了人们争相开发工具来辨认文本是由人还是机器起草的。 科学也在尽力适应这个新时代，现场评论是否应该允许谈天机器人编撰科学论文，甚至发生新的假说。

区分人工智能和人类智能的重要性日积月累。 本月，瑞银分析师泄漏，ChatGPT 是历史上增长最快的网络应用程序，1 月份每月活跃用户到达 1 亿。 一些部门现已决定没有必要锁住安稳的大门：周一，国际文凭安排表示，学生将被允许运用 ChatGPT 编撰论文，条件是他们注明引证了它。

公私分明，这项技术的创造者坦率地指出了它的局限性。 OpenAI 首席执行官萨姆奥特曼 (Sam Altman) 去年 12 月警告说，ChatGPT“在某些方面足够超卓，足以给人一种伟大的误导印象”。 咱们在稳健性和真实性方面还有很多作业要做。” 该公司正在为其内容输出开发加密水印，这是一种机器可读的秘密标点符号、拼写和词序序列； 并且正在锻炼一个“分类器”来区分组成文本和人工生成的文本，运用两者的例子来练习它。

斯坦福大学的研究生 Eric Mitchell 认为分类器需要很多的练习数据。 他与同事一起提出了 DetectGPT，这是一种发现差异的“零样本”办法，这意味着该办法不需要事前学习。 相反，该办法会自行发动谈天机器人，以嗅探出自己的输出。

它是这样作业的：DetectGPT 问询谈天机器人它对示例文本的“喜爱”程度，“喜爱”是示例与其自己的创造有多相似的简写。 DetectGPT 然后更进一步——它“打乱”了文本，略微改变了遣词。 假定是谈天机器人在“喜爱”更改后的人工生成文本方面比更改后的机器文本更具可变性。 研究人员宣称，在早期测验中，该办法在 95% 的时间内正确区域分了人类和机器作者。

需要注意的是：这些成果没有通过同行评定； 该办法虽然优于随机猜想，但在所有生成式 AI 模型中的作业可靠性并不相同。 对组成文本进行人为调整或许会捉弄 DetectGPT。

这一切对科学意味着什么？ 科学出版是研究的命脉，将主意、假定、论据和证据注入全球科学经典。 一些人很快就将 ChatGPT 作为研究助理，一些有争议的论文将 AI 列为合著者。

Meta 甚至推出了一款名为 Galactica 的科学专用文本生成器。 三天后它被撤回了。 在它被运用的这段时间，构建了一段熊在太空旅行的虚构历史。

Tbingen 的马克斯普朗克智能体系研究所的迈克尔布莱克教授当时在推特上表示，他对 Galactica 对有关他自己研究领域的多项问询的答复感到“困扰”，包括将虚伪论文归咎于真实的研究人员。 “在所有情况下，[Galactica] 都是过错的或有偏见的，但听起来是正确和威望的。 我认为这很风险。”

风险来自于看似合理的文本滑入真实的科学提交，用虚伪引证充满文献并永久歪曲经典。 《科学》杂志现在完全禁止生成文本； 《自然》杂志则允许运用它，条件是有必要对运用进行了声明，但禁止将其列为共同作者。

话又说回来，大多数人不会查阅高端期刊来辅导他们的科学思想。 假如狡猾的人如此倾向，这些谈天机器人能够按需喷出很多引证伪科学，解释为什么疫苗不起作用，或者为什么全球变暖是个圈套。 在线发布的误导性资料或许会被未来的生成人工智能吞噬，发生新的谎言迭代，进一步污染公共话语。

贩卖置疑的商人肯定现已跃跃欲试，迫不及待了。

此时快讯

【CZ：Binance AI产品Bicasso Beta版本现已上线】3月1日消息，CZ 在社交媒体上宣布 Binance  AI 产品 Bicasso Beta 版本现已上线。Bicasso 可利用 AI 技术将用户的创意设想生成 NFT。