一周前,《卫报》报道称,苹果 Siri“分级”计划中的人类正在听取私人和非法活动,苹果已暂停该计划以进行审查。它还致力于软件更新,让用户能够选择退出(或可能选择加入)。
苹果发表了一份简单的声明:“我们致力于在保护用户隐私的同时提供出色的 Siri 体验。在进行彻底审查的同时,我们将在全球范围内暂停 Siri 评分。此外,作为未来软件更新的一部分,用户将能够选择参与评分。”
这是正确的做法,但它让我想知道前进的道路应该是什么。因为,虽然大多数人没有意识到这一点,但机器学习 (ML) 和 AI 是建立在人类“评分”的基础上的,目前看不到好的替代方案。由于 Siri 经常被批评为落后于竞争对手一两年,因此在保护我们的隐私的同时,Apple 想要赶上它并不容易。
每个人都这样做
这个 Siri 评分程序是关于什么的?基本上,每次您说“嘿 Siri...”时,您发出的命令都会在您的设备上进行处理,但也会进行半匿名处理并发送到云端。其中一小部分用于帮助训练神经网络,使 Siri(和 Apple 的听写功能)能够准确理解您在说什么。世界某个地方的某个人正在听一些“嘿 Siri”命令,并记下 Siri 是否正确理解了这个人。