为什么科技公司没有能力应对互联网的深陷问题


iSpeech

马克扎克伯格的深刻见解

你如何解决像deepfake这样的问题?这是一个问题,从科技公司到政治家的每个人都不得不问新的,越来越容易获得的工具的出现,这些工具允许创建人工智能操纵的视频,其中人们的肖像以一种难以想象的方式被重新占用。

这些视频有时是为了讽刺或有时是黑暗的喜剧目的而创作的。今年早些时候,一个深度视频显示首席执行官马克扎克伯格兴高采烈地吹嘘他对用户数据的所有权。一个关于假新闻的PSA,由Jordan Peele宣称,同时描述了巴拉克奥巴马称他的总统继任者是“完全彻底的蠢事。”随着2020年总统大选的临近,人们越来越关注如何滥用深层伪造来帮助他们传播错误的观点。

“我认为人们应该对深度技术深表关注,”三边研究部主任, 欧盟SHERPA项目的利益相关者David Wright对人工智能的道德使用问题告诉Digital Trends。 “它将继续发展,并且更难以区分真实和非真实。色情网站将继续利用深度技术利用名人 - 声音和图像。网络团伙将不可避免地使用deepfake技术进行超复杂的鱼叉式网络钓鱼。我们可以期待右翼政客和他们的追随者用它来欺骗选民并破坏他们对手的声誉。他们将受到外国势力干涉选举进程的帮助和怂恿。“

最近,民主党众议员亚当席夫向Facebook,Twitter和谷歌询问他们计划如何打击篡改视频和图像的传播,包括深度伪造。这三个人都表示他们正在解决这个问题。但这是一个甚至可以解决的问题吗?

狩猎深渊

幸运的是,深度炸药的传播并非孤立地发生。随着创建它们的工具得到改善并变得越来越普遍,也有研究人员正在研究这个问题的另一面。这些研究人员正在开发一种手段,通过这种手段,AI技术可以帮助高精度地发现深度伪造。 在德雷塞尔大学 ,多媒体和信息安全实验室的一个研究小组最近开发了一种深度神经网络,可以高精度地发现操纵图像。其他大学也开发了类似的工具,如德国慕尼黑技术大学

然而,这些工具还没有为黄金时间做好准备 - 正如德雷克塞尔大学深度研究人员背后的研究人员之一布莱恩·霍斯勒Brian Hosler)所承认的那样。 “在我们看到的探测器中,很多都是非常准确的,但只有在给定某些假设的情况下工作,”霍斯勒说。 “与这些假设的任何不同,例如使用不同的deepfake软件,或改变视频的宽高比,都可能使探测器瘫痪。”

一个主要问题是当前的假设围绕着用于创建深度伪造的软件留下的工件。这些怪癖现在是一个精明的人可能会注意到的,例如不一致的眨眼或奇怪的嘴唇运动;这些元素背叛了由此产生的视频存在于神秘山谷的某个地方。

但是深陷技术一直在变得越来越好,这意味着像早期深度浮雕的浮动头部(记住仅仅几年前)的视觉异常已经基本固定。虽然当脸部移动太快时,仍然存在像奇怪的面部深度和扭曲运动模糊的视觉标记,但这些越来越多的东西可能不会被普通观众发现。如果普通观众已经习惯于在线可变图像质量,那么尤其如此,他们没有理由相信他们正在观看的内容可能是伪造的。

“凭借目前生产新的深度技术的速度,法医研究人员几乎不可能跟上,”霍斯勒继续说道。 “创建广泛适用且可靠的深度探测器的最大障碍是视频本身的一致性。 Deepfakes最初是一个在线社区,是一个特定软件的名称,但现在指的是任何AI生成或编辑过的视频。用于创建这些视频的方法可能差异很大,并且难以进行可靠的检测。“

即使像重新压缩现有视频这样的事情也足以掩盖探测器用于发现深度伪造的任何痕迹。这是最广泛使用的视频分发平台的一个特殊问题,它重新压缩上传的图像和视频,以节省文件大小。结果,这些新压缩的文件经常引入额外的视频伪像,这些伪像会覆盖被deepfake检测器用作线索的伪像。

如何部署它们

但开发正确的探测器只是问题的一部分。更棘手的问题是如果这些工具足够强大,可以使用它们。现在,似乎没有人知道答案。禁止深度假货,虽然在技术上可行,但没有多大意义。禁止执行图像编辑的软件,因为它可能用于恶意目的,有点像试图禁止键盘,因为有人在互联网上写了一些讨厌的评论。

最近7月31日的一封信中 ,Twitter的公共政策和慈善事业负责人Carlos Monje表示,该平台努力保持在恶意的深刻基础之上。 “如果我们发现使用深层伪造品来传播错误信息违反我们关于选举完整性的政策,我们将删除这些内容,”Monje写道。

在实现这一目标方面存在两个挑战。第一个是主观的,在辨别传播错误信息的内容和为讽刺产生的内容之间进行区分。 2012年流行的YouTube视频显示,巴拉克•奥巴马(Barack Obama)“演唱”Carly Rae Jepsen的流行歌曲“Call Me Maybe。”这是通过编辑数百个奥巴马的微笑片段来形成的。在撰写本文时,它已经获得了超过5000万次观看。与此同时,最近一段被操纵的视频描绘了一个略微放慢的南希佩洛西,让她看起来好像正在嘟her她的话。它是由特朗普总统在5月24日发布的,到目前为止已经超过95,000个喜欢。奥巴马歌曲的5000万次观看和佩洛西视频的95,000次观看都远远高于上次总统选举的大约80,000次观看。

这些视频中的哪一个(我不应该添加,都是一个深刻的视频)旨在传播错误的信息?我们中的许多人会得出结论,后者更多的是一种比前者更有计划的政治举动。但向机器人解释为什么一种类型的声音操作很好(甚至是欢迎),而另一种可能不是很困难。如果第二个视频是由一个名为DrunkFakes的明确讽刺,无党派的帐户发推文怎么办?如果它被政治对手转移,没有背景,怎么样?是学徒的深刻见证 - 唐纳德特朗普罚款,但他的一个职位就职典礼不是吗?这些背景,微妙的论点很重要。

但是,如果要严肃对抗深陷战争,那么就需要迅速,权威地做出决策,而不要指责偏见。快速行动至关重要,但做出正确决定也是如此。

规模问题

这是两个巨大挑战中的第二个受到阻碍的因素:规模。 “如果社交媒体和科技公司可以自动扫描上传到他们网站的每一个视频,那将是很棒的,但事实是,鉴于每天上传的视频内容数量,这几乎是不可能的,”Hosler说。

根据2019年5月的统计数据,每天每分钟都会有大约500小时的视频上传到YouTube。这使得手动检测变得困难,但需要立即采取行动。 “我们不能依赖拥有无限资源的科技公司,”霍斯勒说。

最近,有更多的协同推动使像Facebook这样的平台对他们托管的内容负法律责任。这些建议是否适用于任何事情还有待观察。当涉及到Deepfakes时,要比监控帖子中的某些关键字或链接到不太理想的网站更具挑战性。

然而,政治家们正在迅速将深度伪造作为要解决的重大挑战之一。他们有理论上的解决方案可以提供帮助。例如,纽约民主党代表Yvette Clarke 建议改变的媒体必须使用水印标记。未正确标记视频会导致创作者或上传者受到民事和刑事处罚。

与此同时,加州立法机构正在考虑一项法案 ,禁止某个人或实体在选举后60天内故意散布候选人的欺骗性音频或视觉媒体。然而,再一次,意图的方面是难以量化的。正如该法案所指出的那样,它并不代表全面禁止政治上的深刻禁令,而是针对那些“意图损害候选人声誉或欺骗选民投票支持或反对候选人的人。”这也可能是难以用这个来对抗在美国以外创造的深度伪造

有很多关注,但没有解决方案已经准备好继续深陷战争的战斗将继续。什么是理想的解决方案?在技​​术方面,肯定需要某种强大的实时工具来阻止或引起对可疑视频的关注。但是,提高对深度假风险的认识的教育也很重要。虽然所有这一切都在继续,但希望研究人员能够开发出可能有朝一日被浏览器浏览器或内置到系统后端的工具,以确保深陷新闻不受阻碍。

“目前的技术尚未准备好被普通人使用,”霍斯勒说。 “好消息是,在专家手中,这些工具可以提供大量信息,并有效地对抗错误信息的传播。目前,我们将不得不逐个采取一切措施,但我们将继续寻求准确且易于所有人使用的工具。“

Previous Entries 2019年最佳产品关键发现者 Next Entries 如何恢复出厂重置Windows

發表評論