为什么亚马逊的新型人工智能Echo智能助手会引发隐私问题

亚马逊的Alexa 设备变得越来越容易交谈，但新技术带来了隐私问题。

该公司公布了Alexa 的重大人工智能增强功能，影响了自 2014 年以来的所有 Echo 产品。此软件升级允许 Alexa 无需唤醒词即可进行对话。它增强了 Alexa 快速响应、了解用户偏好和管理后续问题的能力。此外，Alexa 现在可以根据对话主题改变语气，甚至分享观点，比如谈论应该赢得奥斯卡奖的电影。然而，人工智能的使用也引发了危险信号。

Purple Fox Legal的创始人、从事隐私和人工智能工作的律师Alyssa Devine在电子邮件采访中告诉 Lifewire ，“对话式人工智能可能会被不良行为者在各种情况下使用” 。“对话式人工智能收集的数据可能会被用来创建详细的用户档案，这些档案可以在未经用户明确同意的情况下出售用于广告目的或以其他方式货币化。更糟糕的是，这些数据可能会被不良行为者用来实施欺诈或欺诈行为。”身份盗窃。”

爱说话的 Alexa

更新后的 Alexa 拥有模仿人类语音的声音，无需唤醒词即可进行流畅的对话。通过每一次互动，它都会更加熟悉用户。

与 ChatGPT 和其他生成式人工智能平台非常相似，Alexa 现在可以为用户制作消息并根据请求发送它们。

该公司负责 Alexa 和 Fire 的副总裁 Daniel Rausch 表示：“我们还致力于减少延迟，使对话自然流畅，没有停顿，并且响应长度适合语音，而不是逐段聆听大声朗读。”电视台在该公司的网站上写道。“当你询问最新的热门新闻报道时，你会得到一个简洁的答复，其中只有最相关的信息。如果你想了解更多，可以跟进。”

但 Alexa 的新功能可能会为数据泄露打开一个窗口。网络安全公司Tanium端点安全研究总监Melissa Bischoping表示，阅读细则并了解亚马逊如何利用与 Alexa 和 Echo 设备的交互来训练和构建其模型和对话式语音识别引擎非常重要。在给 Lifewire 的电子邮件中。

“对于一些用户来说，这可能会带来隐私问题，因为他们的对话会被亚马逊研究人员听到或审查，或者在最坏的情况下，未来可能会通过即时注入的对话形式披露，”她补充道。“亚马逊尚未提供有关保护隐私的护栏的详细信息，因此看看有关此主题的详细信息和政策将会很有趣。”

与世界上的任何事物一样，如果您不为产品付费，那么您就是产品。

为企业提供人工智能语音代理的Gridspace首席执行官埃文·麦克米伦 (Evan Macmillan)淡化了隐私问题。他指出，可以指示人工智能代理忘记个人数据。但是，他说，随着对话式人工智能界面越来越受欢迎并成为更多服务的数字前门，更多的坏人将试图闯入。

他补充说：“公司应该继续对身份验证保持警惕，并有意了解对话式人工智能界面可以访问哪些内容。”

如何保护自己

Zimperium网络安全产品营销总监Monique Becenti在给 Lifewire 的电子邮件中表示， 大多数人工智能增强设备(例如亚马逊的 Echo)都使用移动应用程序来验证订阅和用户信息并更新软件。她建议，在下载应用程序之前，请检查应用程序商店，以验证该应用程序将如何使用您的数据以及您的数据是否会与您的身份相关联。

“此外，在应用程序设置中启用最低权限级别，以限制应用程序访问个人设备的时间，”她补充道。“与任何软件一样，对话式人工智能可能存在攻击者可以利用的漏洞。”

Bischoping 指出，如果你真的担心家中人工智能助手的隐私，最好的保护就是不要使用它。她说你应该假设你的谈话正在被记录和分析。

“就像世界上的任何事物一样，如果你不为产品付费，你就是产品，”她补充道。“你应该注意决定如何以及在哪里实施这种技术。”