ReaderMX.
返朴

窥视技术无孔不入，谁来保护我的隐私？

返都保杰约 11 分钟

从刷脸泄密到“手机偷听”，在AI技术应用爆炸式增长的时代，我们的个人数据正在全面遭到“围剿”；全球互联网犯罪的体量足以成为世界第三大经济体，与此同时，赖以保护我们的网络安全技术和法规，却总是落后于网络攻击技术。

撰文 | 都保杰
最近，上海市公安局关于严禁酒店对已出示身份证旅客进行“强制刷脸”核验的举措，在网络上收获了诸多称赞。事实上，不只是上海，包括深圳、杭州、苏州、西安、三亚等多个城市的酒店业均已开始推行相关政策。
据相关报道，入住酒店不得强制“刷脸”，是公安部去年就下发的通知，只是目前各地落实进度不一。早在2021年8月通过的《中华人民共和国个人信息保护法》中，就为保护人脸识别信息构建了严格的事前信息处理规则和行政、民事乃至刑事责任划分，其中要求信息处理者只有在满足“特定目的”和“充分必要”并采取严格保护措施的情况下才可处理人脸识别信息；2023年8月8日，国家网信办发布的《人脸识别技术应用安全管理规定（试行）（征求意见稿）》中再次进行了相关强调，并对人脸数据提出了最少使用、遵循自愿、最小存储等原则。
2024年全国两会期间，有代表提交《关于限制旅游场景过度使用“人脸识别”的提案》，直言酒店自行加装人脸识别设备没有相关法律依据，建议尽快作出排查和设备管理。将于2024年7月1日起施行的《消费者权益保护法实施条例》中也明确指出，经营者不得过度收集消费者个人信息，不得采用一次概括授权、默认授权等方式，强制或者变相强制消费者同意收集、使用与经营活动无直接关系的个人信息。
“刷脸”时代带来了很多方便，但也让人们苦“刷脸”久矣，于科技界而言这并非新鲜事。因为以AI为代表的相关技术自诞生起，就伴随着用户隐私问题。想要持续训练优化各类AI算法，获取各个场景下的大数据是基础，在技术野蛮生长的早期阶段，经济利益和用户体验为先，商家对隐私避重就轻或避而不谈，用户对隐私保护又不够敏感，这间接推进了整个技术产业的快速发展；而当技术发展到成熟阶段形成巨大产业规模效应，隐私防护却成了相对滞后的问题。
法律法规的更新一直在追赶技术发展的步伐，以“刷脸”为代表的计算机视觉技术，潜在的隐私安全隐患也只是冰山一角而已。
Image

人脸识别的阴影地带
目前主流的生物识别技术有很多种类，包括人脸、指纹、声纹、虹膜、步态识别、静脉识别等，这些技术已被广泛应用于身份识别，如安防、门禁、考勤、操作系统（电脑、手机和网络软件操作）、智能门锁等硬件、金融支付和公共安全管理（如飞机、高铁及各类酒店、公共场馆）等。
人脸识别作为其中应用广泛的技术分支之一，在我们现今生活中几乎无处不在，大到遍布城市各处的监控网络，小到智能手机、智能手表以及APP，我们每个人已将人脸图像和身份财产安全密切地绑定在一起，它带来了诸多方便，也产生了很多风险。近年来，国内外关于人脸识别的公司数据泄露问题频发，潜在隐患不容小觑。
2019年2月，国内安防上市公司东方网力旗下子公司SenseNet被曝出数据库遭黑客攻击，超过250万条个人数据被泄露；2020年2月，美国人脸识别应用程序Clearview AI发生重大数据泄露事件，更离谱的是，这家公司为600多家执法机构提供面部识别系统，包括警方和其他执法机构，以及银行系统。类似的数据泄露事件几乎年年都有发生，甚至一些安全防护能力较强的科技巨头也不例外。
人脸识别背后，伴随着日益强大的灰色产业链，不少人脸信息和用户隐私数据在地下市场买卖流通。好一点的用途可能是被卖给数据公司去做AI训练，分析用户属性、生成虚拟身份等；可怕的是数据也会流入不法渠道用来实施高科技诈骗，或者通过“照片活化”等手段破解金融客户端身份认证，冒用身份转款贷款，甚至被二次加工用于深度伪造视频通话、谣言传播和制作色情视频，对社会安全与信任构成极大威胁。很多遭泄露或者被交易的人脸相关数据，就来自诸如酒店、商超、门店等防护能力欠缺的薄弱环节。
Image
对个人隐私数据问题比较重视的欧美国家早已开始进行相关技术管控。2020 年1月，欧盟《人工智能白皮书》草案禁止未来3至5年在公共场所使用人脸识别技术，之后的2021年，欧盟委员会首次提出了《人工智能法案》，其中将人脸识别等实时远程生物识别技术从“高风险”级别调整为“被禁止”级别，并在2023年6月以压倒性投票结果通过了该法案，这部法案被业界视为世界上第一个全面的人工智能法律框架，为很多国家的AI法律法规制定提供了参考系。
AI科技比较领先、监控渗透能力也更强的美国，被认为是世界上最早颁布生物特征隐私保护法律的国家，但目前该国并没有统一而全面的联邦 AI法律来规范生物特征数据的收集和使用，不过从2020年开始，有很多州市级法规开始禁用公共场所人脸识别技术，在旧金山、波士顿等地率先得到了落实。2024年3月，拜登政府宣布了一份针对美国联邦政府机构使用人工智能（AI）的最新规定，以敦促联邦政府安全、可靠和负责任地使用人工智能，不得侵犯民众的权利和安全，但这一规定能否在实际管理中起到很好的约束作用还不好说。
此外，明枪易躲暗箭难防，除了那些能明显感知到的人脸采集过程，还不乏有一些恶意软件或应用采取“静默偷拍”的方式悄无声息地潜入设备窃取用户信息，一旦用户打开登录界面，软件就会立即检测设备机型，然后调用前置或后置摄像头进行静默拍照，整个过程不会发出提示音与闪光，可以轻松躲过用户的注意，还会大量采集用户相册、短信、通话记录、通讯录等数据。
Image
无论是对于个人还是国家，公民视觉身份隐私数据对于社会安全和稳定都已产生了不可估量的影响。出台相关法律法规之外，也有不少AI实验室和研究团队在跟进反制技术来保护人脸隐私安全，开发人脸匿名化技术或反人脸识别技术，目前已有的行动包括上海交通大学的IDeudemon方法、卡内基梅隆大学的K-Same和卢布尔雅那大学优化的K-Same-Net等人脸去识别算法，以及Facebook人工智能实验室开发的video de-identification技术。推动相关技术更好地产业化同样迫在眉睫。
隐蔽的手机偷听技术
除了担心人脸识别风险，日常使用频率最高的智能手机，很可能才是隐私泄露重灾区。许多人都有这样的经历：刚和家人聊天商量最近要买啥，打开购物软件就被精准推荐相关产品，手机APP是有读心术吗？还是某些软件在“偷听”？
从技术角度看，虽然目前并未发现主流合规APP的偷听行为，但手机偷听本身并不是多么神奇的技术，只要有电有网，即便手机处于锁屏或关机状态，厉害的黑客也能“监听”用户讲话内容，甚至你关闭了麦克风权限，它也在工作——这在技术上是完全可以实现的。
国内知名白帽子公司KEEN联合创始人、GeekPwn实验室安全专家宋宇昊曾在节目采访中表示，精准推荐的背后并不是语音监听，主要还是得益于用户大数据分析和AI所驱动的精准广告推荐，但如果APP厂商真想要监听你，从技术上来讲没有任何壁垒。
APP只要升级一些隐蔽组件设法打开手机的麦克风权限，就可以直接采集上传音频，也可以采取更为隐蔽的方式，比如先把采集到的语音数据识别转换成文本，然后通过提取文本关键词发送给云端，在云端分析文本特征结合用户身份、信息搜索浏览记录等进行需求画像，在大数据时代，这些技术目前都相当成熟。
早在2014年的GeekPwn安全极客大赛上，信息安全研究团队KeenTeam的技术人员就在现场演示了Android手机在关机状态下被黑客窃听的全过程，黑客可以设法让手机进入黑屏的“假关机”状态，外表看上去是关机了，但后台运行的监听程序还在默默窃取短信、联系人、通话记录、位置信息、通话录音乃至偷拍图像等操作，并上传到服务器。除非把手机电池、SIM卡等拿掉、物理掐断手机的所有器件功能，否则很多元器件都能以低功耗状态运行，继续为黑客提供可乘之机。
现如今的AI技术可识别数十种方言和多国语言，而一个人一天讲的话整理成文本，顶多也就写满几张纸，对于智能手机端的算力处理而言毫无压力，但正规的软件开发团队一般不至于冒“监听用户”的法律风险、承担巨大商业损失来进行这种“低级”操作，这些违法投机行为更多可能存在于一些未经安全认证的垃圾软件，所以有必要提醒大家，不要轻易被诱导下载垃圾软件和第三方恶意程序到自己的设备上。
Image
此外，还有很多神奇的监听方式。2019年，剑桥大学计算机实验室发表过一项研究，研究人员设计了一种AI算法，通过监听用户点击手机屏幕发出的声音，来还原出用户在手机上的输入内容。研究人员利用这一点，对人们点击屏幕不同位置的声音进行了监听，分析点击屏幕不同区域时所产生的音波数据，尽管该模型还处于试验阶段，但在实验中，重复输入4位密码20次后，算法的正确识别率就达61%。
2020年，来自浙江大学、加拿大麦吉尔大学、多伦多大学的研究人员曾合作发表一篇论文，其中提到基于深度学习加速度传感器信号的新型 “侧信道” 智能手机偷听工具，他们利用扬声器发出的声音震动信号，将加速器数据转换为语音信号，实验数据成功率达到90%。
Image
加速度计等传感器一般不受操作系统的权限控制限制，任何App均可申请使用，因此利用传感器获取语音数据成为一种新颖的偷听方式，只是这种技术门槛较高一些。
而更厉害的监听方式，可能让人细思恐极。还记得2013年被曝光的“棱镜门”事件吗？美国前中情局（CIA）职员斯诺登对外曝出美国国家安全局（NSA）和联邦调查局（FBI）从2007年就开始实施了一个代号为“棱镜”的绝密电子监听计划，对122名外国领导人目标实施监听，所用工具同时还能够侵入微软、谷歌、苹果、雅虎等科技巨头的服务器，监控目标公民的电子邮件、聊天记录、视频及照片等私密资料。
Image
这种国际间谍监听网络堪称现代化信息网络攻防战中的重要工具之一，可能无处不在，而随着人工智能技术的普及，这样的监听网络水平也变得更加厉害。
2021年，一个由以色列公司NSO Group开发的“飞马（Pegasus）”间谍软件就曾攻破当时最新版本的iOS和Android手机系统防护，隐蔽于手机中让手机变成“24小时监控装置”，黑客可以远程提取用户短信、照片和电子邮件，对通话进行录音，并在使用者不知情的情况下，远程启动手机的话筒和摄像头获取环境信息。
据了解，“飞马”软件至少在全球50多个国家被用于监视活动，波及人数可能高达5万人，尽管苹果公司在当时的回应中表示，上述攻击方式非常复杂，通常需要数百万美元成本才能监听特定目标，但据相关报道，NSO集团曾以数亿美元的价格向外出售软件服务，开发这类邪恶技术还是有利可图。
而在棱镜门事件之后，苹果手机也被很多国家政要部门列为禁用手机，无他，就是很多手机厂商和通信厂商拥有远程窥探手机和获取信息的能力，如果他们与情报间谍机构存在秘密合作，后果不堪设想。
不得不说，我们没有永远的安全防护，最多，也就是持续升级的安全防护技术和不断完善的信息安全法规、监管机构相互配合，来尽可能提供一份保障而已。对于广大普通消费者而言，安全风险意识也需要不断加强，尽量减少个人关键信息在陌生环境下的泄露、强化密码管理、定期软件更新、对不明要求和信息索取保持高度警惕等。
与邪恶力量的对垒无止境
于产业界而言，AI安全行业的发展规模目前还远远不够，从各方报告的预测数据看，当真有道高一尺魔高一丈的意味。
综合来自Techopedia和IDC的最新报告，预计到2030年，全球人工智能在网络安全市场的价值将达到1338亿美元，全球生成式AI的产业规模将突破1500亿美元。但令人担忧的对比数字是，预计2024年，网络犯罪将导致全球互联网用户损失总计达9.22万亿美元，这个数字到2028年或将接近14万亿美元，这是什么概念？如果以一个国家GDP来做衡量，那么全球网络犯罪的体量足以成为继美国和中国之后的世界第三大经济体。
Image
Cybersecurity Ventures的一份网络安全市场报告曾预测，2017 年至2021年期间，全球网络安全产品和服务支出将累计超过1万亿美元。而实际上，随着近年来人工智能产业的爆发式增长和渗透，很多分析师预计这类支出到2025年将远远超过每年1万亿美元的水平，而且不少钱可能还花在了错误的领域。
如今的网络安全威胁和隐私入侵早已从针对和损害计算机、网络和智能手机扩展到人、汽车、铁路、飞机、电网、工业设施以及任何有信号输出或电子脉冲的分布式物联网（IoT）设备，这些因素都使得网络安全情况面临日益庞大且复杂化的局面。
大数据是现如今AI产业和数字化经济的基石，围绕数据的创新机会和恶意行为都无法估量。就目前来看，大多数网络安全预算或法规都是跟随技术发展呈线性或跟进持平状态，但网络攻击的犯罪数量却呈指数级增长的特点。基于此，安全防护应从顶层设计尽早开始，从多方位、多维度提前预判技术风险，及早给出安全防护、风险规避、人才培育、犯罪打击等举措，才能避免陷入“枪战时带刀上阵”的窘境。

参考文献

[1]https://www.secrss.com/articles/25405
[2]https://zhuanlan.zhihu.com/p/150528851https://www.mittrchina.com/news/detail/4864https://www.jiemian.com/article/3090493.html
[3]http://cjc.ict.ac.cn/online/bfpub/pcl-2023413151919.pdf
[4]https://www.shanghai.gov.cn/nw4411/20240423/42496d66bfe0461e8740f8431906edf8.html
[5]https://www.spp.gov.cn/spp/llyj/202109/t20210908_528821.shtml
[6]https://zh.wikipedia.org/zh-cn/%E9%A3%9B%E9%A6%AC_(%E9%96%93%E8%AB%9C%E8%BB%9F%E4%BB%B6)
[7]https://cybersecurityventures.com/hackerpocalypse-cybercrime-report-2016/?ref=hackernoon.com
[8]https://www.techopedia.com/ai-names-biggest-cybersecurity-threats?ref=hackernoon.com
[9]https://www.idc.com/getdoc.jsp?containerId=prCHC51997124
[10]https://cybersecurityventures.com/cybersecurity-market-report/

本文经授权转载自微信公众号“科学中国”。

KEEP THE THREAD GOING

更多来源文章