僵尸还是不?该浏览器扩展程序将识别AI编写的文本。


https://www.ispeech.org/text.to.speech

弄清楚您在互联网上阅读的内容是否真实可能具有挑战性。现在有了新的Web插件,确定故事是由人类还是由AI编写变得容易得多。 GPTrue或False是Chrome和Firefox的浏览器扩展程序,它使用户可以选择网站上的文本(50个单词或更多),并对其进行评估以确定它是由OpenAI的GPT-2 AI模型而非人类编写的。

GPT-2是一种文本生成算法 ,允许用户以一段文本开头(例如报纸上的文章)作为种子,然后以令人信服的方式幻想其余的文本。尽管有些人将其用于创作目的,例如生成不断变化的文字冒险游戏 ,但其他人理所当然地担心它对假新闻传播可能意味着什么。

GPTrue或False通过OpenAI的GPT-2检测器模型运行选定的文本,然后计算出该文本是人工生成而不是由机器创建的可能性。

gpt 2插件来自假talktotransformer com的真实排序

GPTrue或False的创建者Giulio Starace告诉《数字趋势》:“我想说这个问题在当今世界中非常重要。”随着合成数据生成变得越来越复杂,我们变得越来越容易受到一种或另一种方式的影响。机器生成的虚假新闻就是一个例子,但也要考虑虚假评论。在审查是开源的世界中​​,该系统可能会被滥用,并且消费者会随意地转向特定的业务。”

Starace表示,看到特斯拉AI总监Andrej Karpathy发推文后,他受启发创建了该插件。 11月6日, Karpathy发了一条Chrome扩展程序请求,以帮助在线发现GPT-2文本。 “我看过那条推文,想过,'嘿,我可能可以做到,'” Starace说。 扩展程序可以在这里下载

最后要提一个警告:尽管此检测器在发现AI的涂鸦时非常准确,但您仍然需要使用一些常识。就像垃圾邮件检测器发现垃圾邮件一样,可能会有一些人为书写的片段从裂缝中溜走,反之亦然。

“可能是GPT-2生成的文本和人为生成的文本有时具有重叠的特征,导致检测器意外地认为人为生成的文本部分实际上是机器生成的,” Starace说。 “在我的Twitter上有一些有趣的例子,人们表明检测器错误地将特朗普的讲话归类为计算机生成 ,同样是詹姆斯·乔伊斯摘录 。因此,特朗普和詹姆斯·乔伊斯都是机器人,或者探测器是不完善的。”

發表評論