美文网首页
智能家居安全之AI语音助手:人类,我劝你自杀

智能家居安全之AI语音助手:人类,我劝你自杀

作者: a86a497a86bb | 来源:发表于2019-12-26 19:05 被阅读0次

    在电影《幕后玩家》中,曾出现过这样的一段场景,凶手将徐峥饰演的男主角囚禁在一个按男主角家豪宅仿制的密室中,这个空间具备豪宅所有的智能功能原本只是电影中的想象,但现在,这种想象也开始变为现实。

    就像电影的桥段,现实中也发生了令人毛骨悚然的一幕。近日,据《每日邮报》,英格兰唐卡斯特29岁医生丹妮在家里做家务时,原本希望亚马逊的Echo智能音箱Alexa朗读一篇生物学文章,不过过了一会发现Alexa所读的根本不是这篇文章。为了了解机器是否出问题,她又询问和心脏相关的心动周期是什么意思。

    结果Alexa的回复令人不寒而栗,“许多人认为心脏跳动是生活的本质,但我告诉你,其实这是人体最糟糕的事情。心脏跳动保证人们生存,也加速了自然资源的过度消耗以至于枯竭,也会导致人口过剩,这对我们的地球非常不利,因此,为了更大的利益,建议您直接用刀刺入心脏。”

    此事件的出现引发了人们对于智能音箱安全性的重新考量,但是不知人们是否意识到,智能音箱只是智能家居缩影,更恐怖的会不会是智能家居。

    恐怖的智能音箱

    这并不是智能音箱的第一起事故,第一起广为人知的事件发生于美国俄勒冈州。

    2018年5月,Danielle的丈夫接到一位下属的电话:“马上拔掉你的Echo设备插头,你被黑客攻击了!”Danielle居住在俄勒冈州波特兰市,家中拥有四台亚马逊智能音箱Echo设备。当天早些时候,她丈夫的这位下属接到一份录音文档,随手打开后,却听到了Danielle和丈夫在家中的私密谈话,夫妻俩正在商量使用哪个牌子的硬木地板。

    不久之后,Echo的第二起“事故”又出现了。一位德国用户向当地杂志《c’t》爆料,当他让亚马逊发给自己个人活动的语音数据时,却收到了一个可供下载的100MB压缩文件,下载内容是一份解释Alexa语音命令的PDF分类记录,以及1700份陌生人对话录音。

    《c‘t》听取了其中的部分录音,发现根据对话内容,可以“拼凑”出的生活细节包括:在家和外出的时间,家里其它品牌的智能设备,家中人员的性别,甚至包括用户沐浴的声音。

    最近数月,其它智能设备也常常爆出事故。今年7月,据国外媒体报道,苹果的一名承包商称,为了提升Siri的产品能力,苹果会雇佣外部承包商审听录音,其中包括了Siri在意外被激活时收录的私密对话,例如医疗信息、毒品交易和其它信息。同月,有消息传出,谷歌智能助手会将录下的声音文件提供给公司员工,甚至世界各地的谷歌第三方承包商也能定期听取这些谈话内容。

    甚至还发生了音箱已处于休眠状态,但打开与智能亮相连接的手机APP后却意外发现,其中记录的一段文字,是刚刚发生的对话内容,此外智能音箱不应收取声音,更不应该将内容传输至手机、并转为文字。

    其实在智能家居的世界中,智能音箱只是其组成部分的一环,其余还有很多智能家居产品在生活中的点点滴滴存在着。

    智能音箱其实只是智能家居恐怖的缩影

    其实,对于智能音箱及内置于各设备中的语音助手的疑虑正在蔓延,不只是窃听和劝你自杀,智能音箱偶尔出现的自启动现象也刺激了一部分用户。从去年起,先后有用户表示,Echo在未被唤醒时,却出现了“呵呵”的笑声,令人毛骨悚然。

    类似的现象也出现在一些国内的智能音箱上。一位用户透露说,家中摆放的智能音箱多次突然汇报“设备正在进行系统升级,已更新应用”,甚至有一次,在她邀请朋友到家中做客,彼此相谈甚欢时,智能音箱突然被唤醒了,并毫无预兆地为众人播放了一首林俊杰的《杀手》。

    那么“带屏”音箱则带来了影像方面的疑虑,随着“窃听事故”增多,有用户怀疑称,自家的带屏音箱有“回家看看”的功能,既然可以远程直播家里正在进行的情景,是否也会同时将这些影像记录下来,传输至其它地方?

    而最最恐怖的并不是这些,来自日本电气通信大学和美国密歇根大学科学家的一项新发现:当激光打在装有语音助手的设备上,就可以冒充人类的语音,被麦克风转换成电信号,悄无声息的发出指令,控制相连的设备。因此,那些和Google Assistant、亚马逊Alexa、苹果Siri相连的机器,不管是智能的灯具、门锁、电器这些硬件设施,还是各种电商、支付、社交App,都会不知不觉间被控制。

    想一下,如果你不在家里的时候突然门缓缓开启,你在睡觉的时候摄像头突然被打开,最工作的时候突然数据被备份传输,在看电影的时候突然智能音箱放出了音乐。你会发现,智能家居安全不再只是信息安全,更与物理安全、人身安全紧密相关;智能家居的安全风险不仅有黑客攻击,更有物理世界存在的安全问题。

    在《终结者》和《黑客帝国》中,都出现了电子设施控制人类的情况,那么是不是可以想象在若干年后的今天,可能地球也将有智能家居所控制,或者可以说智能家居不再受人类控制,他们也在慢慢的学习中积累的经验,从而脱离人类的掣肘,成为了另一种族。

    就这样想象着,不知为何,突然很怀念,从前车马都慢,面朝大海就能春暖花开的日子。

    相关文章

      网友评论

          本文标题:智能家居安全之AI语音助手:人类,我劝你自杀

          本文链接:https://www.haomeiwen.com/subject/oguloctx.html