人脸识别黑科技,真正的危险是什么?

人脸识别黑科技,真正的危险是什么?

来源:zh.lovepik.com

此前,AI换脸软件ZAO的一夜爆红,不仅让其服务器陷入了“满负荷至崩溃运行“的危机之中,也将用户的安全与隐私暴露在种种危险地带。

同样的情况,国外也不少见。

今年七月,一款“变容”软件让众多(美国)手机用户惶恐不安。大可称其为FaceApp,该修图软件凭借其能将拍摄的人脸赋予逼真的沧桑感而圈粉无数,自此一跃成为网上的“病毒”,无孔不入。

而且放眼各大社交平台和晒图网站,全是它的成果。

人脸识别黑科技,真正的危险是什么?

来源:dy.163.com

人脸识别究竟为何物?

在深入探讨人脸识别的风险之前,有必要先了解一下它是如何工作的。

人脸识别技术(FRT)的功能主要依靠于对人脸节点测量结果的识别和模型创建;包括但不限于鼻子的宽度、下巴的长度或双眼间的距离。这些测量结果最终会转录到一个拥有特定代码的模板中,之后便可以将图片与数据库中已有图像进行比对甚至可能进行匹配。

比如,赌场可能会用这种技术对入场玩家与列有问题赌者的内部资料进行比对。还有些调查人员可以通过驾照数据库、警方存档的嫌犯照片或脸书这种社交平台得到想要的资源。然而,照片库的使用宽限则取决于这些人拥有多少图片资源的使用权,这也是接下来会说到的——搜查的准确度。

人脸识别黑科技,真正的危险是什么?

来源:dy.163.com

亚马逊的一位发言人告诉the Verge网说,“80%的可信度对热狗、椅子、动物或其他社交媒体上的照片是可以接受的,但对于有面部特征的人是不够的”。

点评的很客观,也似乎有些打脸。因为公司已经下架Rekognition,并将其递交给了执法部门和ICE,但依然没有确立一个法定的FRT置信度。识别的一再不准确给FRT的前进道路布设了重重障碍,比如不能单凭技术作为逮捕嫌疑人的根据,它只可用于协助调查。

可别搞错了,虽说目前美国的FRT能力不能在模糊的监控片段中于漆黑道路上锁定目标,可获得这种能力只是时间的问题。中国以监督百姓生活闻名,近期因通过FRT在短短七分钟内追踪一名BBC记者,成为了新闻热点话题。这给美国未来如何使用该技术提供了先例。

不过有一点很明确:虽然当下美国的人脸识别技术无法做到一直保持准确,但国内的企业正致力于改进和使用它。目前为止存在的两大问题:

  • 第一,不可靠的技术也许会让人蒙受不实的斥责;
  • 第二,随着技术发展的更加准确,范围越广,监控趋势会向中国靠拢。

FaceApp的用户置身于何种境地?

FRT的发展是大势所趋,现在也许无法做到完全准确或者合理使用,但未来会实现。与此同时,人们需要开始思考该如何、何时、何种程度地使用该技术,在FRT超出监管之前制定严苛的限制。正如《华盛顿邮报》一名作者写的,“今天,人脸识别也许会让你开开心心地进到棒球赛场,但基于系统原先编写的视觉假设,你也有可能被认为具有暴力犯罪行为,那时可能就不太愉快了”

所以用户身处的境地更多是关于哲学意味的。一款滑稽的程序会给照片上的自己加一些逼真的皱纹,这兴许很有意思,但背后收集的数据可能早晚会用来对付人们自己。当然,这些照片可能会受困于某处的俄方供应商,无法触碰,或者作为参考实现一个更加高效准确的FRT系统,用于监督人民。该事件指向了数字世界不安全的核心问题,也促使人们发问:“长期以来我们如此信任的看似无辜的数据,是否会伤害我们自己?”

人脸识别黑科技,真正的危险是什么?

相关链接:

https://hackernoon.com/face-recognition-tech-with-all-the-press-what-are-the-real-risks-fnr32qy

编辑:黄继彦

—完—

关注清华-青岛数据科学研究院官方微信公众平台“ THU数据派 ”及姊妹号“ 数据派THU ”获取更多讲座福利及优质内容。

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注