隔墙有耳！你的小秘密，Siri都帮你记着呢

隔墙有耳！你的小秘密，Siri都帮你记着呢

你的 AI 助手……可能正在偷听你。

苹果、微软、…… 数家海外大公司被曝利用智能音箱/手机偷偷记录用户对话，并将部分包含用户隐私的录音发送给负责验证身份准确度的第三方承包商。

这些片段的内容五花八门：性的◾️录音、家庭八卦、亲友间的通话……甚至还有疑似毒品交易现场的对话。 外包团队除了负责核实外，还会在公司内部散播含有“笑话”的片段取乐。

一个AI背后，有多少人在偷听你？

隔墙有耳

第一个倒下的是亚马逊。

今年4月11日，彭博社的一篇报道拉开了“AI窃听门”的序幕：为了提升Alexa智能助手的性能，亚马逊在全球雇佣了数千名人类员工来录制Alexa智能音箱。 以下声音片段是人工审查和监控的。

一名人类员工每天将听到亚马逊发送的多达 1000 条用户录音。 他们需要转录录音，标记特定关键字，最后将转录的文本和音频存档。

问题在于，亚马逊发送的对话中有时会夹杂一些奇怪的东西：卫生间走调的歌声、孩子的尖叫、模糊不清的求救声……这些都是在语音助手被误叫醒时录制的如下内容分段。 据报道，负责审查的员工似乎并不太关心这些录音的隐私。 遇到特别有意思的片段，会在公司内部分享，取乐。

面对这一丑闻，亚马逊迅速做出回应，称对人类员工的录音进行标记，将有助于Alexa提高理解力。 而且，公司有严格的保密措施，员工无法直接获取与录音相关的账户信息。 标记的用户录音只是 Alexa 录制的片段中非常小的一部分。

7月，事情开始失控：公司的语音助手也被曝光，背后还有真人员工偷听智能音箱和手机APP的录音内容。 外媒甚至拿到了一段语音助手录制的片段，轻松找到了录音的原主人。

到月底，苹果的 Siri 也加入了窃听门的行列。 由于 Apple Watch 更容易发生意外触摸，评论者听到的声音更糟：拉拉链的声音（显然是刚上完厕所）、毒品交易场景，以及……Apple Watch 意外录制的性爱片段.

“你的什么，留在你的。”怎么样？

8月，更极端的事情来了：微软被曝监控用户Skype通话内容，以及用户之间的通话记录。 据外媒报道，微软在这里能听到的内容也是五花八门：详细的地址信息、非常露骨的搜索请求，以及一些无法详细描述但无论如何都带有颜色的Skype记录。

至于监控用户Skype通话的原因，微软后来回应说是为了改进2015年发布的Skype内置的AI同声传译服务。只是当时他们没有告诉你，除了AI之外，还有其他人在听你说话。

最后一个倒下的是。 虽然没有语音助手，但他们仍然将用户发送的语音转文本消息外包给第三方进行验证。 尽管事件的范围没有之前公司那么广泛，但消息人士仍然指出，部分录音“相当敏感”。

为什么大公司要做这种事？ 人工智能，是不是很聪明？

人工智能的B面

有多少人工智能，就有多少人工。

如今，所有的产品都讲究一个“增智”。 从AI摄影到AI助手，线上智能生活无处不在。 但很少有人知道，养人工智能就像养孩子。 需要有人不断教导他们什么是对的，什么是错的，以便获得越来越准确的结果。

图像分割、图像识别、语音转文本、语义分割……这些都需要人工辅助。 原始录音是问题，人工整理的转录是抽认卡背面的答案。

人工智能越来越火，越来越多的人给AI喂数据。 需要让人工智能理解人类语言吗？ 然后让人类按照规则拆解一个句子，然后交给程序去学习。 需要教 AI 看路？ 然后让真人把照片里的车、人、路灯……都标记出来，然后交给AI慢慢识别。

没错，用脱敏后的用户录音供人类收听，然后用结果对AI进行修正，其实是一种普遍的做法。 不信你可以看看百度的隐私政策：

而且，这是小爱的同学：

和天猫精灵的：

换句话说，你有权保持沉默（或拔掉插头），但你被记录下来的每一个字，无论是有意还是无意，都可能成为人工智能的素材。 而他们没有告诉你的是，“用于改进和增强产品”的潜台词是，你对扬声器说的话也可能被人类工作人员听到。

严格来说，这些信息只能在公司内部共享，员工有义务对录音保密。 虽然你意外录制的 AI 色情内容（或更糟糕的内容）被人类听到的可能性相当令人不快，但平心而论，这并不是侵犯隐私。

当然，这并不是说这些做法就可以了，这个我们以后再说。

“养AI”曾经催生出庞大的下游产业。 在智能音箱最火的时候，甚至出现了一大批专门做数据标注的外包团队。 不需要学位或经验。 经过简单的训练，一个人可以很快学会给图片加框、给脸加点、把语音转成文字……

不知道有没有人意识到这其中的荒谬：从出生的第一天起，这份工作的最高目标就是自我毁灭。

（这个验证码本质上是数据注解）

也有一些公司把这种“时间密集型”的工作变成了任何人在家都能赚到外快的网络任务。 他们需要做的可能是教 AI 理解人类语言，识别人体骨骼点，或者给聊天机器人写一些有趣的回复。

生产出来的材料，就像标注数据的人一样，只是完成AI所必需的工具。

大数据=没有隐私？

欢迎来到 21 世纪。

数据采集​​-脱敏-分析是当代大数据应用的普遍做法，也得到了很多国家监管部门的认可。 但研究表明，这种方法实际上并不奏效。

伦敦帝国理工学院的研究人员使用公开的匿名数据训练了一个人工智能。 结果，仅使用生日、性别、居住邮政编码和儿童数量，就从匿名数据集中定位了马萨诸塞州总人口的 79.4%。 . 如果进一步增加特征量，准确率甚至可以达到99%以上。

换句话说，即使去掉姓名、电话、身份证号码，仍然有办法从大数据中找到具体的人。 更重要的是，根据之前的报道，审查人员仍然可以听到用户所说的隐私内容。 从数据脱敏这一步开始，所谓的隐私控制似乎就失效了。

更可怕的是，集中存储的隐私数据本身就是一块闪闪发亮的肥肉：由于安全漏洞，一家海外指纹锁公司被曝光了超过100万人的指纹和人脸识别数据，其中大部分没有得到关键信息。 加密。 密码泄露可再次更改，人脸识别数据被盗。 恐怕只有换脸才能解决。

（泄露后台数据截图）

随着智能设备越来越深入家庭，我们在各个系统中留下和泄露的痕迹只会越来越多。 这样，在家洗澡跑调的歌声被数据标注者听到，已经是各种AI事故中危害最小的了。

数据就是力量

从某种意义上说，被大数据和人工智能包围的极其便利的现代生活是以我们自己的隐私数据传输为代价的。 麦克风、摄像头、GPS、指纹传感器……它们收集的数据可以成为随时跟踪和监控你的绝佳素材。 不同之处在于，它是一个没有感情的机器在看数据，还是一个活生生的人，有好意或坏意？

大多数人都没有意识到这一点，也无法控制它。 被曝光后，多家海外大公司相继宣布停止外包团队审核用户记录。 Alexa 和谷歌还提供访问权限，允许用户删除他们留在平台上的录音。 至少在海外，他们对自己的数据有更多的控制权。

但是在中国，想要删除自己的数据就没那么容易了。 小米、百度删除个人信息需要发邮件到指定邮箱申请，天猫精灵需要联系客服。 与海外不同的是，这些删除请求带有非常严格的附加限制。

这一切都隐藏在几乎没有人阅读的隐私政策中。 粗略看来，普通用户想要删除自己的个人信息是极其困难的。

与人工智能一起成熟的一代人不可避免地成为大公司为机器学习提供的数字饲料。 唯一的问题是，当AI足够聪明时，这种喂食会停止吗？

或者，下一代会关心它吗？