软件开发
公司历程 当前位置:首页 > 公司历程 > 正文

给照片穿上“隐身衣”,最强人脸识别算法也失灵!业界推出最新AI工具Fawkes,帮你保护照片隐私数据

社交媒体平台正在泄露你的个人隐私。

一张自拍照就能够识别出姓名、联系方式、家庭住址,这对于面部识别技术来说,可能已经不是什么难事儿。换句话说,只要能够获取到照片数据,面部识别技术就能轻松获取个人敏感信息。

如今,我们在社交媒体上的大量曝光,获取这些照片数据也变得很容易。此前,美国面部识别公司便创建了一个约有30 亿张图像的超大容量人脸数据库,而这些数据均从 Facebook,Venmo,YouTube 等社交媒体平台抓取而来。

无处不在的面部识别技术和未经授权的数据获取已经对个人隐私造成了严重威胁。面对这些威胁,芝加哥大学Sand Lab团队提出了一种新的解决思路——或许我们可以为照片添加一层“隐身衣”!

人脸识别的克星Fawkes

Fawkes ,已经让旷视、微软、亚马逊等公司的面部识别算法失灵。

来自芝加哥的调查团队称。Fawkes的正是为照片添加防识别“隐身衣”的AI软件,经检测,它已经在最先进的面部识别技术中取得了百分百的胜利。

我们先来看一组图片。

相信你很难看出两组照片有任何差别。事实上,后者已经过了Fawkes处理,并能够屏蔽任何人脸识别算法。

研究人员介绍,Fawkes软件对人脸图像进行了像素级的细微更改,肉眼几乎无法察觉到。而任何扫描这些图像的算法都会将这些“高度失真”的图片视为完全不同的人。

而且,Fwkes的处理速度很快,单个图像仅需要几分钟。

如此说来,经过Fawks快速处理的图像,可以在不改变原貌的基础上,随意分享在各大社交媒体平台,而不用担心照片被相关公司随意抓取或用于非法途径。

据了解,Fawkes的命名取自Guy Fawkes Mask(盖伊·福斯克面具)。该面具形象是英国插图画家大卫·劳埃德(David Lloyd)以16世纪英国阴谋家盖伊·福克斯的脸为原型而创造。最早出现在漫画《V 字仇杀队》中。研究人员以此表示,通过AI技术巧妙地,不可察觉地更改照片以欺骗面部识别系统。

研究团队表示,他们希望Fawkes能够被广泛部署和使用,以降低个人隐私泄露的风险。因此,Fawkes已经完全对外开放,任何人都可以下载和使用,Windows和Macs系统均可以支持。据统计,这款软件已经被下载超过100,000次。

Fawkes“隐身衣”的实现过程

目前Fawkes软件已经升级到V0.3版本。V0.3更新了目标选择算法,比此前的V0.1、V0.2相比,可显着降低伪装后摄动伪像的可能性。目前,关于它的技术论文已经对外开放。据了解,该论文将在8月12日至14日举行的USENIX安全研讨会上正式发表。

论文中表明,在此项研究取得了以下几个关键的发现。

•以肉眼无法察觉的扰动对图像的特征空间表示进行更改。

•不管跟踪器(Tracker )如何训练其模型,图像伪装都可为用户识别提供95%以上的保护。

对于以上的研究发现,论文中也给出了明确的说明。我们可以看到,整个系统分为用户图像和模型验证两个阶段。

前者是基于Fawkes算法来生成用户图像的伪装版本,后者是通过追踪器(Tracker )从网络资源中检索伪装的图像,并使用它们来训练未经授权的面部识别模型。最终可以发现模型输出的图像与原始图像并不相同。

其中,Fawkes算法整个系统的关键。在这里,研究人员利用特征提取器Φ和目标图像T,对原始图像进行伪装处理,这些目标图像T均来自可公开获得的数据集(均大于500K)。

为了确保伪装图像在视觉上与原始图像基本相似,研究人员采用DSSIM来衡量二者的差异,实验结果表示,DSSIM均小于0.007。(DSSIM是衡量用户感知图像失真程度的方法)。

此外,研究人员认为,通过提高用户特征提取器的鲁棒性来实现可移植性。这一目标需要通过对抗训练来完成。该训练采用扰动数据训练模型,可以使输入的目标图像不那么敏感。具体来说,对于每个特征提取器,使用PGD攻击(一种广泛用于对抗训练的方法)来生成对抗示例,然后将更新后的特征提取器用于在PubFig和FaceScrub数据集上生成用户伪装图像。

结果表明,每个健壮的特征提取器都会产生隐身衣(Cloaks),而且这些隐身衣几乎可以完美地转移到跟踪器的模型中。可以看到,跟踪器使用其他特征提取器时,其隐身衣的保护成功率均大于 95%。

这些是面部识别系统是全球最领先技术,被广泛用于美国和亚洲的企业,警察,私人实体以及政府。结果来看,Fawkes对图像的保护率达到了100%。

引用链接:雷锋网雷锋网(公众号:雷锋网)雷锋网

雷锋网原创文章,未经授权禁止转载。详情见转载须知。



Copyright ©1999- 2020 www.digitalforest.cn. All Rights Reserved 软件开发 备案:辽ICP备07009205号 | 网站地图