技术

Apple 震惊 Siri 监控需要迅速做出反应

117views

Siri 记录我们与语音助手的对话片段的消息并不新鲜,但声称这些简短的录音由人工代理收听是 – 特别是考虑到该公司对隐私的大力推动。

这些对苹果来说是糟糕的光学

我坚信隐私的重要性。

它不仅在维护来之不易的自由和保护公共话语方面很重要; 它在人类生活的各个方面也越来越重要——对于每所学校、医疗机构或企业。 历史表明,缺乏隐私会对社会产生腐蚀作用,使家庭成员相互反对并抑制创新。

苹果关于隐私的警告——包括苹果首席执行官蒂姆库克警告说,我们每天合作的许多科技公司正在将我们带入监控状态——很重要(如果对那些认为隐私只是我们应该牺牲的东西的人来说并不总是方便的话)我们制造的机器人很好)。

然而,苹果公司没有明确表示出于“质量控制”和“培训”目的与“承包商”共享我们私人谈话的录音,这对公司来说真的很糟糕。

苹果在说什么

苹果表示:

“分析一小部分 Siri 请求以改进 Siri 和听写。” 它还承诺“用户请求与用户 Apple ID 无关。 Siri 回复在安全设施中进行分析,所有审核人员都有义务遵守 Apple 严格的保密要求。”

这在某种程度上令人欣慰,但鉴于在某些情况下,据报道 Apple 的评论者听到人们分享个人信息,包括他们的地址,从相关 Apple ID 中分离录音的举措可能还不够。

苹果需要做更多的事情。

苹果如何补救这种情况

从透明开始

隐藏在 Apple 的条款和条件中,您会发现使用 Siri 录制的录音有时用于质量控制目的的警告。

您还会发现这些录音(与竞争对手不同)不会以任何方式与您的 Apple ID 或个人身份相关联。

这些承诺不是很清楚。

这就是为什么我说 Apple 应该针对在其设备上使用 Siri 引入更清晰、更易于理解的隐私警告。 它需要将这些警告放在前面和中间,并清楚地表明它不仅有时会使用这些录音,还包括它如何使用它们、在使用它们时如何保护身份以及这些录音的确切保留时间。

但让人们控制

苹果应该(我认为)让 Siri 录音选择退出。

也就是说,当在新设备上设置 Siri 时,用户应该有机会明确拒绝将他们的声音用于原始请求以外的任何目的。

您应该可以说您不希望您的数据用于培训或质量控制。

“但这样一来,苹果就无法如此迅速地训练助手,”有些人可能会抱怨道。 也许不会,但它将在隐私保护方面保持领先地位。

不仅如此,这些录音实际上有多大用处也是有争议的。

变得更有责任感

谁是苹果、谷歌、亚马逊和所有其他正在使用的“承包商”,谁来验证和收听我们所说的话的这些短录音?

他们是如何雇佣的?

他们的工作描述是什么? 他们还为谁工作?

在什么基础上他们可以被信任,如果他们滥用这种信任,个人如何获得赔偿?

为什么 Siri 用户还不知道所有这些问题的答案?

将这些承包商外包是没有意义的。

苹果应该在内部开展这项工作,对其语音工作人员和管理层对这些录音所做的事情完全负责,并确保客户有办法惩罚任何侵犯其数据隐私的行为。

确定您需要这些信息

Apple 表示它只记录和使用它听到的单词的一小部分,但它甚至需要保留或验证它选择的尽可能多的样本吗?

像这样思考:

如果您的手表或 HomePod 上的 Siri 听到它认为是“嘿,Siri”命令,但随后没有发出任何请求,那么它肯定应该足够聪明以识别发生了误报。

如果发生这种误报,那么设备上的 Siri 肯定足够聪明,可以了解导致意外调用的原因,并且将来对这种声音不那么敏感。

(一种 监护人 例如,报告声称拉链的声音有时会唤醒 Siri——当然 Siri 可以学会忽略拉链的声音作为回应。)

最重要的是,如果 Siri 被调用但没有发出特定请求,系统应该足够聪明以忽略交互并删除由于该交互而产生的任何记录,超过(可能)前三秒它以为它听到了触发命令。

采取这一步骤几乎可以防止 Siri 听到并与承包商分享的一些更恶劣的录音。

我不希望 Siri 在我不想听的时候更好地听我说的话。 我只是希望它在我提出请求时能够更好地倾听。

人类还有必要吗?

语音技术正在迅速发展。 这就引出了一个问题:“人类承包商甚至有必要听 Siri 相关的对话片段吗?”

我认为在很多情况下,它根本不是。

录音应首先通过 Siri 和其他语音识别技术进行自动检查以确保准确性。

只有在不同的语音识别系统无法找到一种方式来就所说的内容达成一致的情况下,才需要人耳。

我不是人工智能专家,但这种分析是随机森林模型/算法的目的——只有当技术不能就为什么它有错误的请求达成一致时,才需要人类。

为什么重要

这些只是我希望 Apple 采纳的一小部分建议,以使 Siri 成为业内最私密的语音助手。

这东西很重要。

想想看:

我们不仅使用我们自己的财产,而且随着基于传感器的技术和人工智能进入日常生活的不同领域——从地图到无处不在的 VR——隐私的需求变得更加重要,因为我们的生活将变得越来越多一本打开的书。

我们今天围绕语音做出的决定将定义所有其他隐私领域。

有些人认为隐私是我们应该为计算机化的便利付出的代价,但我从未同意他们的看法。

我们站在人类历史上的一个时刻,我们围绕语音助手隐私所做的决定将在我们的未来产生共鸣。

我们需要以有效的方式解决这个问题,因为除非我们这样做,否则实施将是不安全的,并且可能在道德上是不健全的。

Apple 必须推进其对这一领域数字权利法案的需求,该法案将用户置于隐私控制的中心。

Leave a Response