Siri记录了我们与语音助手对话的片段的消息并不是什么新鲜事,但是声称这些短记录是由人工监听的,尤其是考虑到该公司对隐私的大力推动。
这些对苹果来说都是不好的光学器件
我坚信隐私的重要性。
这不仅在维护来之不易的自由和保护公众话语上很重要。 对于每个学校,医疗机构或企业而言,它在人类生存的各个方面也越来越重要。 历史表明,缺乏隐私会对社会产生腐蚀作用,使家庭成员相互抵触并阻碍创新。
苹果公司有关隐私的警告,包括苹果首席执行官蒂姆·库克(Tim Cook)的警告,即我们每天与之合作的许多科技公司正在将我们带入监视状态,这一点很重要(即使对于那些认为隐私只是我们应为之牺牲的人而言,这还是不方便的我们制造的机器人的优势)。
但是,有消息称苹果公司并没有明确表明与“承包商”共享我们的私人谈话记录以进行“质量控制”和“培训”目的,这对于公司而言确实是一个糟糕的表象。
苹果在说什么
苹果指出:
“对Siri请求的一小部分进行了分析,以改善Siri和听写能力。” 它还保证“用户请求不与用户Apple ID相关联。 Siri的回复在安全的设施中进行了分析,所有审阅者都有义务遵守Apple严格的保密要求。”
这在某种程度上令人放心,但是鉴于某些情况下,据报道,苹果的审阅者听说有人在分享个人信息,包括他们的住址,因此将录制的声音与相关的Apple ID分开可能是不够的。
苹果将需要做更多的事情。
苹果如何纠正这种情况
从透明开始
隐藏在Apple的条款和条件中,您会发现警告,使用Siri录制的录音有时会用于质量控制目的。
您还会发现这些录音(与竞争对手不同)不会以任何方式与您的Apple ID或个人身份相关联。
这些承诺不是很明确。
这就是为什么我说苹果公司应该在其设备上使用Siri时引入更加清晰和易于理解的隐私警告。 它需要将这些警告放在前面和中间,并使其非常清晰,不仅有时使用这些记录,而且还使用它们的方式,使用它们时如何保护身份,以及将这些记录保留多长时间。
但是让人们控制
苹果应该(我认为)让Siri录制退出。
也就是说,在新设备上设置Siri时,应该给用户机会明确拒绝出于原始请求以外的任何目的使用语音。
您应该可以说您不希望数据用于培训或质量控制。
有些人可能会抱怨:“但是苹果将无法迅速培训助理。” 也许不是,但是它将保持在隐私保护方面的领导地位。
不仅如此,这些录音实际上有多么有用也可以争论。
更加负责
谁是Apple,Google,Amazon和其他所有人的“承包商”?谁在验证并收听我们所说的简短录音?
他们怎么被雇用?
他们的工作描述是什么? 他们还为谁工作?
他们可以在什么基础上得到信任?如果滥用信任,个人如何提取赔偿?
为什么Siri用户不知道所有这些问题的答案?
这些承包商被外包是没有道理的。
苹果应该将这项工作带到内部,对其语音工作者和管理层对这些录音所做的工作完全负责,并确保客户有某种方式来惩罚任何侵犯其数据隐私的行为。
确实确定您需要信息
苹果公司说它只记录和使用听到的一小部分单词,但是它是否需要保留或验证选择的尽可能多的样本?
像这样思考:
如果您的Watch或HomePod上的Siri听到它认为是“嘿,Siri”的命令,但随后未发出任何请求,那么它肯定足够聪明,可以识别出发生了错误警报。
如果发生此类错误警报,则设备上的Siri当然应该足够聪明,以了解导致意外调用的原因,并且将来对这种声音不太敏感。
(一种 监护人 报告声称拉链的声音有时会唤醒Siri,例如–当然Siri可以学会忽略拉链的声音。)
底线是,如果调用Siri但未发出特定请求,则系统应该足够聪明,以忽略交互并删除由于交互而导致的任何记录(可能超过前三秒)它以为它听到了触发命令。
仅仅采取这一步骤就几乎可以防止据说Siri听到过并与承包商共享的一些更糟糕的录音。
我不希望Siri在不想听时说出更好的声音。 我只是希望它在提出请求时能更好地聆听。
人类甚至有必要吗?
语音技术正在迅速发展。 这就引出了一个问题:“人类承包商甚至有必要根本听完与Siri相关的谈话摘要吗?”
我认为在很多情况下,事实并非如此。
录音应首先通过Siri和其他语音识别技术进行处理,以自动进行准确性检查。
只有在不同的语音识别系统无法找到一种方法达成共识的情况下,才需要人耳。
我不是AI专家,但是这种分析是Random Forest模型/算法构建的目的-仅当技术无法就为何错误地提出请求达成共识时,才完全有必要使人类成为必需。
为什么重要
我只是这些建议的一小部分,我希望苹果公司能够使Siri成为业内最私密的语音助手。
这东西很重要。
考虑一下:
我们不仅会使用自己的文字,而且随着基于传感器的技术和AI进入日常生活的不同领域-从映射到无处不在的VR-隐私的需求变得更加重要,因为我们的生活将越来越多一本打开的书。
我们今天围绕语音所做的决策将定义其他每个隐私领域。
有些人认为隐私是我们为方便计算机使用而应该付出的代价,但我从未与他们达成一致。
我们站在人类历史上的某个时刻,围绕语音助手隐私所做的决策将在我们的未来引起共鸣。
我们需要以一种有效的方式来解决这个问题,因为除非我们这样做,否则这些实现将是不安全的,并且可能在道德上不健全。
苹果必须在这一领域推动对数字权利法案的需求,该法案将用户置于隐私控制的中心。