细思极恐 有人正在聆听你和亚马逊人工助手的对话……

【财联社】（编辑 袁晓茜）和其他花重金投资人工智能（AI）的科技巨头一样，亚马逊（Amazon）也在有序的推进人工智能助手Alexa。“我们用越多的数据训练这些系统，Alexa就会表现的越好。用各种各样不同的声音训练Alexa，有助于Alexa更好的服务每一个人。”Alexa使用说明书中写道。

公司没有清清楚楚地告诉你，Alexa长期以来的提升靠的是真实的人类来听取你的需求。当然，这些都隐藏在了只有少数人会去阅读“产品和服务”条款里。亚马逊淡化全球上百万个家庭的人们使用摄像和听筒功能的隐私权限。但是鉴于人工智能在人们日常中的训练越来越普遍，需要引起人们的警觉。特别是这些科技工作大部分都保持隐秘状态，并使用了亚马逊不愿意透露的方式。

在这个情况里，被叫做数据注释的过程，已经成为机器学习革新的基石，在自然语言处理、机器翻译、图像和实物识别上取得了重大的进展。人工智能算法只有在数据可以被轻易解析和分类时才能得到提高，也就是说可以自我训练。可能Alexa没有听清你的指令，或者系统认为你询问的是纽约西部郊区的“布莱顿”，而不是英国城市“布莱顿”。如果用不同的语言来处理，就会有数不清的细微差别，比如俚语和口音。这些并没有在Alexa语言系统升级的过程里被考虑到。

在许多情况下，人类听录音并且给数据打标签，把数据反馈给系统，从而发出了这些呼叫。这个过程被叫做监督学习。有时与更多的自主技术相匹配，这些被称作半监督学习。苹果（Apple）、谷歌（Google）和Facebook都以相似的方法使用这些技术。Siri和谷歌助手都随着时间的推移而有所改进，这要归功于需要人类帮助的监督学习。

在这个案例中，彭博（Bloomberg）揭露了亚马逊全球数千名员工的真实情况，其中包括一些承包商和一些全职员工，他们通过解析Alexa录音来提高其的能力。虽然这个方法本身并不邪恶，但彭博指出大部分人没有意识到这种情况正在发生。此外，录音也会被滥用。录音中可能包含明显可识别的特征和有关说话者的个人信息。目前还不清楚这些录音的确切存储时间，以及这些信息是否曾被恶意第三方窃取或被员工滥用。

在一份声明中，亚马逊告诉彭博，“我们只会对Alexa录音片段中极其微小的部分做注解，以提高顾客的体验。比如，这个信息帮助我们训练语速识别和自然语言理解系统，所以Alexa可以更好的理解顾客的需求，确保该项服务对每个人都有效。”亚马逊发表声明称，他们拥有严格的科技和运营保障措施，对滥用系统采取零容忍政策。员工不会获取到使用者身份，任何信息都会被高度保密，并且会以“限制访问、服务加密和审计控制环境的方式”进行保护。

亚马逊Alexa应用部门科学家Ruhi Sarikaya此前在杂志《Scientific American》中发表文章称，大规模机器学习的目标是减少大量人工打标签纠正错误的过程。“在最近的AI研究中，监督学习占据主导地位。但今天，商业人工智能系统产生的客户互动，远远超过我们开始手工打标签的数量。”要想延续商业人工智能迄今所带来的迅猛进步，唯一的方法就是将我们自己重新定位为半监督、弱监督和非监督学习。“我们的系统需要学习如何自我提升。”

然而，到目前为止，亚马逊需要更多的拥有人类语言处理能力和文化的人类来处理Alexa交互，并理解它们。这种令人不安的现实意味着，有些远在印度和罗马尼亚的人正在聆听你在客厅、卧室、甚至浴室里和一个人工智能对话。至少在亚马逊看来，这就是AI提供便利所要付出的代价。