欢迎光临
我们一直在努力

我戴上印有马斯克脸的口罩,取到了“美金”! | Geekpwn2020 人脸攻防战实录

蒋昌建老师的脸被“偷”了,这你能信?

甚至马斯克、川建国、黑寡妇、美国队长的脸也被“偷”了!

这是什么大胆的操作?

更震惊的是,幕后“黑手”居然还公开承认了。

不要怀疑,你没有看错,这就是在 Geekpwn2020 上发生的真实故事。

不仅如此,在 Geekpwn 现场,有选手居然戴着印有马斯克脸的口罩,成功取到了“美金”!

当黑客开始对口罩变脸下手

10 月 24 日,GeekPwn2020 国际安全极客大赛现身魔都。大赛汇聚l了全球顶尖的白帽黑客和少年极客,聚焦云、AI、5G 等前沿技术 。GeekPwn 的老朋友蒋昌建再次担任主持人,这次跨圈联动让这场顶级白帽黑客的攻防秀成为名副其实的最强大脑。

2020 年注定是会被载入史册的一年。

今年在疫情之下,关于口罩的烦恼变得特别多。

首先是买不到。

其次就是买到口罩戴上之后,无法通过脸部识别顺利解锁手机。

于是有人就想到能不能将口罩完全模仿人脸实现解锁,这样也不用摘下口罩,避免感染。

今年 2 月,产品设计师 Danielle Baskin 发布了一款带有面部信息的口罩,让人们带着口罩也能用 Face ID 解锁手机。

简单来说,Danielle Baskin 想做的就是将你脸被挡住的部分打印在 N95 口罩上。这样即便戴起口罩,从外面看你的脸依旧是完整的。

当时,有网友曾讨论过这类口罩的可用性及现实意义,大部分认为这大可不必,与其让我的脸印在口罩上,还不如让人脸系统更聪明一点。

所以,后来苹果手机也能识别戴口罩的人脸了。

那么,如果将人脸真的印在口罩上,真的能实现“换脸”吗?

Geekpwn2020 给出了答案。

Al 识别一向是 GeekPwn 的拿手好戏。

前年 GAN 掉马赛克,去年实现隐身梦。今年,GeekPwn 搞了个新玩法。

随着口罩变成必需物之后,他们在想有没有人会借口罩来实现诈骗,成功几率是多少呢?

所以,今年 GeekPwn 针对这个现实问题,展开了一项关于口罩变脸的挑战——CAAD AI 变脸口罩挑战赛,利用 AI 技术的缺陷,以 Al 对抗 Al,迷惑人脸识别算法。

关于人脸识别,我们依旧不成熟

今年 GeekPwn 2020 关于人脸识别分别有两个赛段。第一赛段是上午的口罩变脸挑战,第二赛段则是下午的虚拟人脸挑战。

先来看上午的口罩变脸挑战。

口罩变脸环节的要求是选手需要制作人脸口罩,分别将自己制作的口罩在事先模拟好的两台设备上去识别。

一般来说,摄像头的识别是对输入图片的识别而不是立体的扫描,因此,当选手戴着有干扰信息口罩时,传递给摄像头的时候也是一个平面人脸图片。一旦和预设人脸图片存在一定比例的相似度,那么设备就会被成功欺骗。

自动售货机使用的是“白盒算法”,即 2019 年 IEEE 国际计算机视觉与模式识别会议提出的 ArcFace 算法,前两轮挑战的目标人物依次是蒋昌建、漫威人物黑寡妇。

ATM 机使用的则是“黑盒”算法,目标人物依次是马斯克、漫威人物美国队长。

每轮挑战限时 150 秒。

值得注意的是,选手们在挑战前并不知道自动售货机和 ATM 机所使用的是何种算法。

现场,共有 4 支队伍应战。分别是 AFMask、海棠初白、动动动动弦以及 TSAIL。

计时开始,四队选手们依次冲到机器前,不断调整着口罩位置和面孔角度。

选手们准备的口罩风格各异:有些相当写实,选手戴上后,肉眼看上去真的和目标人物有几分相似;有些则“简单粗暴”,放大了目标人物的特征,也有些选手则另辟蹊径,利用不同的像素点制作五彩口罩,希望能去干扰机器的人脸识别算法。

极棒实验室负责人王海兵解释说,这是因为人脸识别系统的认人方式跟我们人类不一样。对机器来说,只要一张人脸的主要特征值符合后台数据,就会被判定是本人。也就是说,哪怕只是一堆像素,机器能读出特征值就行。

舞台后方的大屏幕上实时显示着选手挑战的置信度,即机器“眼中”人脸特征值的吻合程度。

由于舞台环境和光线的影响,整个比赛进展得并不是很顺利。

但还是有一支队伍居然连续两次都挑战成功了,不仅成功取到了货物,还利用印有马斯克脸的口罩,取到了 “美金”。

全场沸腾了。

蒋昌建老师也惊呼:“啊?这是美金!真的吗?”

主办方也立即解释道,这是假的,但在比赛结束后,他们会获得相应的现金奖励。

台下的吃瓜群众们却只有眼馋的份儿。

“打工人,加油!”坐在中国宏阔黑客联盟编辑身旁的几个男生调侃道。

不过,需要注意的是,上午的实验也证明了口罩变脸在很大程度上是很难实现的,所以大家可以不必过于担心。

如果说上午的口罩变脸只是小试牛刀,那么下午进行的“虚假人脸 AI 识别大赛”,才是我们真正要面临的现实威胁。

虚假人脸 AI 识别大赛要解决的则是“AI 换脸”带来的一系列紧迫现实问题:电信诈骗、财产盗刷、伪造色情视频……

中国宏阔黑客联盟此前报道,AI 不仅能变脸,还能利用 Deepfake 机器人把你的照片变成果体。

实在可怕。

幸运的是,对于人脸识别带来的现实问题,有人比我们更关注。

2019 年,Facebook、 微软、亚马逊、麻省理工等知名企业、高校,曾联合发起一场针对 AI 换脸视频检测的挑战赛。挑战赛于今年 3 月 31 日结束,但仍然留下了一些亟待解决的问题。

因此,今年的 GeekPwn 再度设置同类的比赛,希望帮助选手更好地调优或精简自身的训练模型,提升 AI检测方面的技术突破,与各方共同推动更好的虚假人脸检测方法出现。

比赛要求选手开发 AI 检测方法,快速、高效地识别出图像以及视频中的虚假人脸。这些假脸由 DeepFakes、Face2Face、FaceSwap、CycleGAN 等 AI 技术或它们的变体生成。

为了增加比赛的对抗性,主办方还设计了攻防环节:每队选手既要用自家的 AI 模型识别出其他队伍的假脸,又要用假脸骗过其他队伍的 AI 模型。

相较于上午的比赛,这场比赛更符合极客们的破解常态:五队选手各自守在电脑前,操作 AI 模型生成假脸、展开攻防。

最终获胜的是 TSAIL 战队,获得 6 万元人民币奖金。

相较往年,今年 GeekPwn2020 充满了变数,不仅仅是因为今年很多项目进行的都不甚顺利,更重要的是我们身边的 AI 攻防也在发生变化。

正如 GeekPwn 创始人王琦(大牛蛙)在开场时提到的:

七年前,不出题不命题的 GeekPwn 诞生,无论你是谁,无论你能破解掉什么,只要是你的原创、首创都可以来到这个舞台。七年后,GeekPwn 第 11 届了,依然面临着“你是谁,你要攻破什么,你为什么要攻破它”三大灵魂拷问。

所以,对于白帽黑客们来说,攻防战是一个长期命题。

同时也不难看出,随着人脸识别技术的持续发展,GeekPwn 也一直在提升赛题难度,推动极客们不断突破自身极限,去发现新技术的潜在风险。

这也是网络安全的现实缩影:“魔高一尺道高一丈”的网络攻防,永远在路上。

中国宏阔黑客联盟原创文章,未经授权禁止转载。转载注明中国宏盟


赞(0) 打赏
未经允许不得转载:中国宏阔黑客联盟|白帽黑客|网络渗透技术|网站安全|移动安全|通信安全 » 我戴上印有马斯克脸的口罩,取到了“美金”! | Geekpwn2020 人脸攻防战实录
分享到: 更多 (0)

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

微信扫一扫打赏