遇到正在与T恤进行大规模监视的颠覆性创业公司


https://www.ispeech.org

第4修正案男女通用飞行员夹克

如果您曾经观看过T台时装秀,那么您可能会因为感到困惑而被原谅。这是由Zoolander和Sacha Baron Cohen的角色Brüno讽刺的时尚界;在这里,除了疯狂的设计和艺术边界推动之外,可穿性甚至是裁缝的吸引力都被优先考虑。 Kate Rose的服装系列Adversarial Fashion与世界上任何时装表演中的任何东西一样令人困惑。唯一的区别是:它不是你的设计混淆。这是机器。

Adversarial Fashion的主要目标是创造一种装饰用于破坏监控系统的服装。如果你曾经在某人的T恤上阅读标语,只是意识到它有点愚蠢而且你在浪费你的时间,这种想法被对手使用。除了浪费你的时间,它的设计浪费了自动车牌阅读器的时间和计算火力。

Adversarial背后的创造力(其名称基于AI令人困惑的术语“ 对抗性例子 ”)是一位名叫Kate Rose的计算机安全专业人士和业余面料制造商。不久前,罗斯正在与电子前沿基金会的高级调查研究员戴夫马斯进行对话。他们正在讨论自动车牌识别技术的兴起,该技术已在美国的城市,县,州和联邦层面得到广泛采用。

这种间谍技术旨在通过识别车牌来跟踪人们的行​​踪,同时将其与特定的GPS位置联系起来。当一个人开车并被多个摄像头捕捉时,自动车牌识别系统提供了一种不断更新的监控其近似(甚至特定)位置的方法。只有马斯说,它并没有那么好用。

一个想法的火花诞生了。

创造她的设计

“他碰巧提到,当他们分析来自读板人的数据时,很明显数据不是很准确,”罗斯告诉Digital Trends。 “它从错误分类的东西中提取数据,如广告牌和栅栏。那里只有很多垃圾。我认为,如果技术的特异性真的那么低,也许我可以找到一种方法来创造一种可能故意引起类似混淆的结构。“

罗斯走了,开始进行一些实验。 “我设法弄清楚相机可以采取的信息量最少,这仍然会让它相信它正在看车牌,”她说。她将时尚和计算机安全系统的兴趣融合在一起,开始四处游荡;创造旨在困扰最勤奋的机器的设计。

自动牌照阅读器看到的Adversarial Fashion T恤。

美国心理学家亚伯拉罕·马斯洛(Abraham Maslow)曾指出,对于一个只有锤子的人来说,一切都看起来像钉子的倾向。对于一个训练有素的人工智能人员来说,只用潜在的车牌来观察世界,事实证明他们并不需要那么多的哄骗来制造错误。

“玩它很有趣,”罗斯继续道。 “你可以从时尚的角度看待看起来很酷的东西,就某个人想要穿的东西而言。”一旦她的设计完成,罗斯开始着手将它们先制成面料,然后将这些面料制成衣服。迄今为止,她创造了许多对抗性时尚产品,从衬衫和连帽衫到夹克,裙子和连衣裙。这些都可以在她的网站上购买,价格从25美元到55美元不等,具体取决于商品。

扩大谈话范围

但是,这实际上是否会造成破坏,或者这更像是一种政治声明,例如“F ***唐纳德特朗普”T恤的抗议时尚风格?

“这部分原因只是教人们如何运用这项技术,并提高他们对部分监控状态的理解,”她说。 “但确实有效。即使它只是一个人穿着其中一个,并且它导致这些相机摄取10到50个完全垃圾的盘子,那就是在做某事。这仍然是必须存储和分析的信息,所有这些都需要花钱。它使系统稍微有用。我很想想这些可以被整个社区采用的方式,他们说他们不想遵守这些系统。“

最终,罗斯将她正在做的事情视为有助于促进对话。正如她所指出的那样,许多人仍然不了解大规模监视技术的使用。它们的隐形性是一个让很多人不会注意到它的特征。从表面上看,至少。

“例如,我居住在加利福尼亚南部的地方,你可以停放的商场,当你把票放在[停车票]机器时,它会告诉你你的车停在哪里,”她继续道。 “我第一次看到我的想法,'噢,我的天哪,那太方便了。'但事实证明,商场在每个停车位都有一个车牌阅读器。然后,来自运营停车场的供应商的数据被打包并出售给ICE。当你提起这个区域时,你的视野中没有任何东西可以通过进入这个区域来表示你同意你的数据可以[以这种方式]使用。“

当涉及使用某些有争议的监视技术( 如面部识别)时,双方都有令人信服的论点。但是要讨论这些问题,必须先了解它们。 Adversarial Fashion通过使其正在使用的工具实现民主化而发挥其作用;将人工智能识别系统中的利基漏洞转变为任何人都可以尝试的尺寸。

凯特罗斯
设计师Kate Rose设计了她的一件Adversarial Fashion连衣裙。 照片:凯特罗斯

“你不必是计算机科学或网络安全专家就可以使用它,”她说。你可以买一件衬衫。它非常直观......这是你可以亲自握在手中的东西。它可以让您了解这些系统的工作原理。我不是一位从事计算机视觉布料工作10年的专家。我是一个有一些基本功能和一点点好奇心的人。这是我如何自学这些系统的方法。“

打造力量的时尚

当然,一个挑战是技术继续发展。无法保证能够愚弄今天的图像识别算法的设计能够适用于明年,下个月或明天的设计。

“用于人工识别任何类型图像的系统每天都会变得更好,”Rose承认道。 “计算机视觉领域正在不断进步。我知道我的衬衫可能在几年内不起作用。我见过其他反监视艺术家的旧项目,这些项目不再适用。“

通过这种方式,它与其他出于政治动机的时尚不一定有任何不同。即使广泛的信息可能保持不变,你的“Impeach George W. Bush”连帽衫在2019年也不再那么重要了。

但是,嘿,凯特罗斯并没有放慢速度。发现人工智能算法旨在识别图像中的人(甚至可能是某些类型的运动 ),她现在有兴趣创建块状设计,当它们穿在身上时,可以帮助打破人体形态。有一件事是肯定的:罗斯认为像这样的服装项目可以在反击大规模监视方面发挥关键作用。

“我认为我们在反监视时尚方面遇到的最大问题之一就是对计算机来说非显而易见的事情对人们来说非常明显,”她说。 “当你有反面部识别化妆时 ,这是一个非常大胆的声明。你需要勇敢的人才能穿上它。但随着时尚,你会有更多的余地。看到有人穿着非常大胆的印花或看起来像实验的东西并不是那么不寻常。“

它不会单独解决问题,但它可以帮助在教育人们方面发挥作用。甚至可能在此过程中引起一些麻烦。

“尽管我只是一个人,但我认为尽可能以任何一种方式向后推,这很重要,”罗斯说。

Previous Entries 在升级到千兆互联网之前要做的五件事 Next Entries 英特尔遇到了大麻烦 - AMD的Threadripper 3000在泄漏测试中破坏了它

發表評論