伊通签字笔价格交流群

惊叹|亚马逊Alexa再次抽风,莫名其妙把私人对话发给同事

机器人大讲堂 2020-11-20 15:55:13




赶紧拔插头!你们的亚马逊音箱被黑了!


两周前的一个晚上,俄勒冈波特兰一名女士Danielle接到她老公同事的电话,提醒他们赶紧关掉亚马逊音箱Echo。


这个同事说他收到了一封语音邮件,内容是她和老公的对话录音。


当时还以为同事在恶作剧,但当他说“你们两刚刚在聊木地板”时,我们一下就懵圈了。


细思则恐。


Danielle赶紧扯掉了屋里4个亚马逊音箱的电源,第一时间打电话给亚马逊客服质问他们怎么回事。




△ Danielle原本在每个屋都放了一个Echo

亚马逊初次回应


事关隐私,亚马逊相当重视。马上找工程师调出Danielle音箱的log日志,试图搞清楚Alexa抽风的原因。


初步调查后,亚马逊的客服代表给Danielle回电解释说,“我们工程师看完你音箱的log之后,事情确实如你所说的一样,Alexa出现故障了。我们真的很抱歉。”


但具体啥原因也没有给个交代。


客服只是一味地在长达30分钟的电话里,说了15次“我们真的很抱歉。”


Danielle自然不能接受这样的结果。自己的隐私受到了侵犯,至少亚马逊应该给个事故发生的原因说明吧。

舆论发酵,亚马逊再次解释


既然打电话给客服只能收到个道歉,那么Danielle只能转向当地电视台KIRO 7了。






采访视频一放出来,亚马逊面临很大舆论压力,不得不向Kiro 7进一步解释发生这样隐私泄露事故可能的原因。


首先要声明的是,亚马逊没有监听用户对话。


这次隐私泄露是因为语音助手Alexa被误唤醒了,把用户的对话当成了指令,才产生了错误的操作。


亚马逊这样牵强的官方解释无法让人信服。


因为这个解释要成立的话,至少得错误识别4次。


首先Echo要先被误唤醒,然后用户接下来的对话还得出现类似“发送短信”的指令。

收到指令后,Alexa还会大声问“发给谁”。如果背景音含有和联系人名单中名字发音相似的词,会再次问用户“确认发给XXX?”。除非用户最后说“确认”,Alexa才会把信息发出去。


用过智能音箱的人都知道,这哪一步单拎出来说Alexa智障了识别错了都还在可理解可接受的范围内。但一连串事件都出错,那不是语音识别太弱鸡,就可能是还存在什么用户不知道的触发词和语音对话搜集目的。


这还不包含人也忽略掉Alexa询问的情况。两个人聊得再high,也不可能没注意到旁边音箱突然问“(你要把信息)发给谁?”吧?


亚马逊官方带盐人也承认:我们也觉得出现这种情况的概率非常小,现在我们正在重新评估怎么样降低错误识别率,减少类似的事故再次发生。





Danielle不是个例


绕了一大圈,Danielle还是没有得到明确的隐私泄露原因。


不过这件事被多家媒体报道之后,不少人也冒出来说,他们也遇到过类似的事情。





HackerNews上有用户留言说,他就曾经收到过他朋友和女票聊天的信息。


还有人说,他朋友的同事收到过语音邮件,里面全是警笛声和尖叫声,吓得对方以为他朋友出什么事了,后来联系上才确认是他朋友在追警剧。还好是虚惊一场。

民间脑洞


还有自带产品思维的用户留言说,音箱能不能来个类似手机锁屏的设计,像防止手机乱拨号那样防止音箱被聊天误触。



评论区马上就有人回,音箱顶部的静音键就起这样的功能。


Reddit上还有人扔出了黑客黑完Alexa后好心告诉亚马逊哪里有漏洞的链接,可能是在呼唤那些大隐隐于市的有良知(ethical)黑客重出江湖。





来自亚马逊工程师的defense


Hacker News上Po出这个新闻才短短的11个小时内,就引发了500多条评论。有讨论要真有人监听的话,手机其实比智能音箱更容易;也有讨论其他家智能音箱也存在语音识别不准的问题。


有亚马逊的工程师看到坐不住了,站出来说出了自己的理解和看法。


这次事件,总的来说是Alexa错误识别了语音指令,导致错误激活了一个发送语音邮件的功能。可是很多人倾向于把这件事和NSA全民监控联系起来。亚马逊是很看重用户隐私的,不会故意开发一个窃取用户对话随意发给联系人的功能,这逻辑讲不通。





可是据外媒the guardian报道,亚马逊前年提交过一个专利(http://t.cn/R1z3Vll)。可以做到随时听用户对话(functionalities that involve always listening)。




这个专利背后的算法,专门理解分析用户对话的内容,尤其是当对话出现喜欢或购买字眼的片段。毫无疑问,亚马逊希望用这个专利获得更细分的用户群,投放更有针对性的广告。

OMT


目前家居使用Echo或谷歌Home等语音助手已经成为主流趋势。


据市场研究公司eMarketer统计,在美国,超过6千万的消费者每个月至少使用过一次智能语音助手,其中的4千万人用的亚马逊Alexa。


但这次事件之后,像Danielle一样担心自己隐私的人,再也不会给Alexa接上电源。


我不会再相信它了。




△ Danielle接受视频采访时说,I will never trust it again.

Danielle已经联系亚马逊要退款,但官方还没有正式给出回复。


来源:量子位

 

推荐阅读
访问访谈

工程院院士 蔡鹤皋北航教授 文力深醒科技 袁培江深之篮 魏建仓

企业报道

一飞智控丨深醒科技发那科柔宇科技优傲机器人宇树科技臻迪科技iRobot

前沿技术

①工业  缝纫机器人无人智能采矿机器人中国饺子生产线自动化车间MIT 建筑机器人 

②服务  索尼机器狗 Aibos叠衣机器人 FoldiMate日本 骑自行车机器人有触觉机械手 LUKE达芬奇机器人机器人乐队空中飞车日本护理机器人合集

③特种  丰田人形机器人水下机器人 探索号俄罗斯人形机器人 FEDOR美国重型机械 Guardian GT波士顿动Atlas 360度后空翻中国四足机器人 Laikago北理工 四轮足机器人佛罗里达研究院 “机械鸵鸟

④仿生  3D打印 仿生机器人 东京大学 流汗人形机器人柔性电池哈佛 柔软肌肉哈佛哈佛 RoboBee

往期讲座

英特尔 宋继强博士 | 中民国际 刘国清陈小平教授 |驭势科技 姜岩浙大 熊蓉教授|长江学者 孙立宁上海大学 无人艇专家团|新松总裁 曲道奎北航 王田苗教授|863专家 李铁军教授北邮 刘伟教授|清华 邓志东教授清华 孙富春教授|天津大学博导 齐俊桐哈工大 杜志江教授|长江学者 王树新甘中学教授 | 硅谷创客 赵胜

温馨提示

意向合作,文章转载, 均可联系堂博士

商务合作:13810423387(同微信)

内容合作:15611695072(同微信)