人工智能生成的文本越来越普遍

越来越难区分人工智能 (AI) 和人生成的句子。

好消息是，一篇新论文表明，人们可以学会辨别人工智能生成的文本和人类编写的文本之间的区别。随着 ChatGPT 等大规模语言模型的兴起，确定计算机是否制作在线信息的能力变得至关重要，许多人预测这将触及我们生活的几乎每个角落。

“如果你收到短信表明你的祖母急需医疗费用，你想知道这是一个大规模的 AI 骗局还是真正的家庭成员，”社区信息教授 Kentaro Toyama说道。密歇根大学和《极客异端：从技术崇拜中拯救社会变革》一书的作者在电子邮件采访中告诉 Lifewire。“而且，在真正的人际关系很重要的时刻，我们希望听到真实的人而不是机器的声音。”

区分 Real 和 ChatGPT

宾夕法尼亚大学的研究人员通过检查使用“真实文本还是虚假文本?”(一种基于网络的训练游戏)收集的数据来撰写论文。参与者被要求指出机器是否以是或否的方式生成了给定的文本。此任务涉及将文本分类为真实的或虚假的，并将响应评分为正确或不正确。研究发现，参与者的得分明显高于随机得分。

该研究的作者之一利亚姆·杜加 (Liam Duga) 在新闻发布会上表示：“我们的方法不仅将任务游戏化，使其更具吸引力，还为培训提供了更现实的环境。 ” “生成的文本，就像 ChatGPT 生成的文本一样，以人工提供的提示开始。”

在真正的人际关系很重要的时刻，我们希望听到真实的人而不是机器的声音。

Toyama 说，学习区分计算机生成的文本和人类书写的重要性有很多原因。例如，教师想知道学生提交的是他们自己写的论文，还是部分或全部由计算机编写的文本。他指出，最近，范德比尔特大学向其社区发送了一封由 ChatGPT 撰写的电子邮件，将密歇根州枪击案的悲剧与校园为实现包容所做的努力联系起来。有一个迅速的反弹。

“还有很多其他这样的情况，”他补充道。“事实上，我认为对人工智能进行监管的一种基本形式是，法律应该要求计算机生成的任何文本、图像、音频、视频或其他创造性输出都必须明确标记为此类。”

识别 AI 生成的文本

Toyama 对人们能够始终如一地发现 AI 生成的文本和人类生成的文本之间的差异持悲观态度，他说：“从长远来看，这几乎是不可能的，因为 AI 会变得越来越好。” 他指出非正式实验表明，即使是经验丰富的教师也难以区分学生写作与 ChatGPT。

“我有一位同事声称他发现了两个 ChatGPT 提交实例，因为学生的写作突然有了显着提高——但是，ChatGPT 可以被引导以不同的能力水平进行写作或引入错误，”他补充道。

计算机可用于识别特定文本是否是人造的。AI 内容系统Kwegg的首席执行官Parag Arora在接受电子邮件采访时告诉 Lifewire，正在研究开发识别机器生成的写作的程序。

“包括 OpenAI 本身在内的研究机构推出的人工智能分类器看起来很有前途，”他补充道。“然而，GPT 的进步似乎总是比它们领先一步，而且根据研究的性质，分类器总是比生成器至少落后一代。已经完成了一些工作，将加密签名作为每个 GPT 生成器的策略，这可以成为解决这个问题的可靠步骤。”

Tooltester的首席执行官Robert Brandl在接受电子邮件采访时说 ，用户可以通过一些方式来识别机器生成的文本。他建议尝试像 ChatGPT 这样的人工智能工具，看看它们生成什么样的内容，以便更加熟悉它们。其中的赠品是公式化的结构，其中句子以“首先”和“其次”等开头，并且文本中缺乏讽刺或幽默。

“然而，随着人工智能的发展，旨在识别人工智能文本的工具也会学习，”他补充道。“事实上，人们可能需要依靠这些工具来了解何时使用人工智能，也就是说，如果出版商不公开披露人工智能的使用情况。”