多伦多大学“隐私过滤器”利用算法干扰社交巨头人脸识别

人脸识别技术利用基于人脸特征点的算法进行识别,因此人脸特征点是其中的一种主要的数据形式。每次你上传一张照片到 Facebook、Instagram,或者其他地方,你都会将照片中人的面部特征点和照片中其他物体的特征点提供给这些学习系统。

【安防在线 www.anfang.cn】过去几个月信息安全和数据隐私问题被人们热议,热议的内容中包括了英国数据分析公司 Cambridge Analytica 的数据收集策略和 Facebook 首席执行官马克・扎克伯格在美国参议院的证词。

人脸识别技术利用基于人脸特征点的算法进行识别,因此人脸特征点是其中的一种主要的数据形式。每次你上传一张照片到 Facebook、Instagram,或者其他地方,你都会将照片中人的面部特征点和照片中其他物体的特征点提供给这些学习系统。

为了解决这个问题,多伦多大学的 Parham Aarabi 教授和研究生 Avishek Bose 领导的研究小组开发了一种算法来动态干扰这项技术。

多伦多大学“隐私过滤器”利用算法干扰社交巨头人脸识别

这种技术原理基于“对抗性训练”,本质上是建立起两种相互对抗的算法。Aarabi 和 Bose 创建了两个神经网络,一个是识别人脸的网络,另一个是破坏其既定目标的神经网络。这两个网络互相学习,相互提升效果。

Bose 在接受 Eureka Alert 的采访时说:

“具有破坏性的人工智能可以‘攻击’人脸识别时神经网络所寻找的东西。例如,如果检测 AI 正在寻找眼角,它会调整眼角,这样眼睛就不那么明显了。它会在照片中产生非常细微的干扰,但对探测器来说,这些干扰足以愚弄整个系统。”

在实践中,这意味着用户可以使用一个过滤器 (比如 Instagram 或 Snapchat 上的普通视觉过滤器),改变图像中人眼无法察觉的特定像素,使人脸识别技术失效。

在一个包含 600 多张不同种族、光照和环境的人脸图像的测试集上,该系统能够将可检测的脸从 100% 降低到 0.5%。

研究小组将在 2018 年 IEEE 多媒体信号处理国际研讨会上展示他们的研究成果,之后他们希望通过一个应用程序或网站将该过滤器公之于众。

“十年前,这些算法必须是人类定义的,但现在神经网络可以在训练集上自己学习,”

Aarabi说。“最后,他们可以做一些非常令人惊奇的事情。这是一个令人着迷的领域,有巨大的潜力。”

该文观点仅代表作者,本站仅提供信息存储空间服务,转载请注明出处。若需了解详细的安防行业方案,或有其它建议反馈,欢迎联系我们

(0)
小安小安

相关推荐

  • 美电贝尔华山论剑,安防行业谁与争锋

    美电贝尔携手华山论剑开办第七届2010年智能建筑技术发展巡回论坛,首场论坛于2010年3月18日在南京市华美达怡华酒店隆重召开,主题为医院信息化建设及轨道交通安防技术探讨,来自南京及周边城市的建筑设计院、各家集成商工程商、南京市三级甲等医院信息中心的负责人、南京及江苏其他城市政府部门、银行、高校主管信息化建设的领导等近250人参加了此次论坛,现场的气氛、论坛规模与参会者的热烈响应,使此次论坛会议取得了极佳的效果。

    2023年4月9日
  • 浅析智能视频分析系统的发展应用

    从智能分析系统的产品形态来说,分为两类,一类是由智能算法+DSP来实现,常见于安装在前端的智能分析摄像机与智能分析视频服务器。目前,采用此种方式的系统较多,其是将具智能分析功能的软硬件前置在视频采集端。在常规视频监控系统中,视频占用了大量的存储空间和传输带宽,如何来解决这些问题是首要面临的难关。

    2024年4月14日
  • 海康摄像头怎么看像素(如何在海康摄像头上查看像素设置)

    海康威视是一家专业从事视频监控产品和解决方案的公司,其摄像头产品受到广泛应用。像素是衡量摄像头图像质量的重要指标之一,本文将介绍如何查看海康摄像头的像素。 在获取像素信息之前,首先…

    2023年7月16日
  • 公安与金融两大领域视频监控的发展趋势

    作为安防系统核心部分的视频监控技术发展经历了模拟监控、数字监控正在向大规模网络监控发展。视频安防监控系统的各组成部分DD前端视频采集、视频传输、视频记录、报警记录、控制、显示部分技术发展的速度很快。

    2024年4月15日
  • 海康威视监控机顶盒什么恢复出厂设置(海康威视监控机顶盒恢复出厂设置的步骤及注意事项)

    海康威视是全球领先的视频监控产品和解决方案提供商,在家庭和企业安防市场享有很高的声誉。当需要恢复海康威视监控机顶盒到出厂设置时,可以按照以下步骤进行操作: 步骤 1:准备工作首先,…

    2023年7月13日
  • 为什么人工智能和机器学习与物联网紧密结合

    物联网(IoT)的未来潜力无限。到2025年,全球物联网连接设备的总安装基数估计将增长到近310亿。从联网汽车、智能城市、智能家居设备到联网工业设备,一波激动人心的物联网应用浪潮即将涌现,带来通过直观的人机交互生活。

    2024年4月4日