OpenAI推出AI分类器工具来检测AI生成的文本

ChatGPT背后的公司OpenAI推出了一种新的AI分类器工具，用于确定文本是由人还是人工智能编写的。该工具附带一个警告，它不是100%可靠的，并且可以将人工编写的文本标记为AI编写的，您可以在下面查看更多信息。

我们训练了一个分类器来区分人类编写的文本和来自各种提供商的AI编写的文本。虽然不可能可靠地检测所有人工智能编写的文本，但我们相信好的分类器可以为人工智能生成的文本是由人类编写的虚假声明提供缓解措施：例如，运行自动错误信息活动，使用人工智能工具进行学术不诚实，以及将AI聊天机器人定位为人类。

我们的分类器并不完全可靠。在我们对英语文本“挑战集”的评估中，我们的分类器正确地将26%的AI编写的文本(真阳性)识别为“可能是AI编写的”，同时错误地将9%的人类编写的文本标记为AI编写的时间(误报)。我们的分类器的可靠性通常会随着输入文本长度的增加而提高。与我们之前发布的分类器相比，这个新的分类器在来自更新的AI系统的文本上的可靠性要高得多。

我刚刚在昨天写的两篇文章上进行了测试，一篇的结果是不太可能是AI生成的，另一篇说很可能是AI生成的。因此，在成为识别AI生成内容的准确工具之前，它显然需要做一些工作