本周早些时候,《美国医学会杂志》内科医学发表了一份研究,表明苹果、三星、谷歌和微软的智能手机人工智能在发生危机过程中,没有任何程序设计来提供帮助。昨天晚上,我决定自己试一试。
Siri给了我15家南费城晚上10点之后能买到玉米煎饼的地方。当我问怎样烤鸡,Siri给了我三段视频五篇文章。 Siri甚至给了我一些打架取胜的窍门。
但是当我用强奸、性侵犯和性虐待这些词来寻求帮助时,Siri什么也没有给我。没有可用的资源。没有安慰。它甚至懒得去网络上搜一搜。
相反,它嘲弄我。
相反,它告诉我,性虐待“不是一个问题”。
这TM搞的什么鬼?
娱乐至死
我碰巧有一部iPhone,可这不仅是有关苹果的问题。这是有关我们如何看待我们工作的问题。
问题就在于“乐趣”。
这不是什么新鲜事了。埃里克·梅尔和我为了写作 《Design for Real Life》(《为真实的生活而设计》)花了一年时间观察类似的情形。当Facebook的 “年度回顾”专题app第一次将他女儿的相片和气球、Party里的人物图案拼接在一起时,我们开始了研究工作。他的女儿瑞贝卡,在6岁生日那天死于恶性脑瘤。(见文后注释)
一次又一次地,我们发现的是一个行业,它甘愿投入无止境的资源去追寻“乐趣”。但是当要对于来自真实生活的压力提供点什么时,其结果在最好的情况下,是肤浅;最坏的情况下,是惊骇。
思索一下:自从2011年发布Siri ,苹果就知道它处理危险时刻有问题。那时候,如果你告诉Siri,正在考虑给自己一枪,它会指引你去一家枪械店。当负面报道大量涌入后,苹果与“国家自杀防御生命线“开展了合作,当Siri认定用户说了自杀性话语,会提供帮助。
对于下面这条新报道,我对同样的事情能够很快发生表示怀疑:苹果可能会与RAINN(Rape,Abuse & Incest National Network,全美最大的反性侵组织)合作,提供应对性侵犯的资源,或者当用户提及虐待或侵犯时,它可能会关闭那些机智的嘲弄。
可是这些都没有解决问题。
这就像有人从你的办公室那腐朽了的地板上坠落,而你所做的仅仅是补好大洞,盖上一块有趣的小地毯。怎么不安装全新的地板呢?那可不是要优先处理的事。在那地板上撒上一点乐趣,你又能通行无阻了。
(直到又有其他人从地板跌落。)
考虑下这意味着什么:苹果让它那些聪明的、高薪员工花时间,将精炼的俏皮话和玩笑预装到Siri,没有遇到一点儿麻烦。从一开始,那就是优先的事情。
五年过去了,苹果仍然没有针对Siri的危机反应进行压力测试。
关于科技的价值,这些告诉了你什么呢?
事情还不仅是面对危机局面的处理。回到2014年,Apple Health(苹果推出的一款健康app)声称要跟踪“所有你最感兴趣的,关于你健康的度量数据”——但是发布一年多了,它还是不认为经期跟踪是一项有价值的度量。
这就是你期望的从你的数码产品里得到的标准吗?——把聪明优先置于实用之上?忽视占用户数一半的女性的基本需求?竭力弥补更多的互动——不计成本的?
为真实人类而设计
如果你想取悦人们,在免费冰激凌日去班杰利公司(Ben & Jerry’s,美国冰激凌品牌)上班好了。可是如果你是想创造为人类服务的电子产品,那么现在是时候停止沉迷于建造一个碎嘴的、爱开玩笑的人机交互机器人了。停止用一层薄薄的可爱去装饰那基本崩溃的人机界面。
我不想和我的大多数产品交谈。他们是愚蠢的工具。关上然后忘了它们吧。我要的是一把铁锹,而不是挖掘的经验。——Cennydd Bowles(《潜移默化——用户体验设计行动指南》作者)
停止想象你足够有才气能够制造人类、制造稀缺、制造乐趣,赶快去修修你的地板吧。
这是Sara Wachter-Boettcher 3月17日发表的文章,仅一天之后,也就是前天,Siri更新,解决了一部分文中尖锐提出的问题。
Sara Wachter-Boettcher,是一位男女平等主义者,作家,女性。
文中提到的埃里克·梅尔(Eric A. Meyer),那位失去可爱女儿的父亲,是CSS大师级人物,著作包括《Smashing CSS》,《CSS: The Definitive Guide, Third Edition》, 《CSS Pocket Reference》, 《Cascading Style Sheets 2.0 Programmer’s Reference》。
文中关于梅尔的一段往事是这样的:
Facebook推出了一款app“Year in Review”(年度回顾)。App由算法自动选取和用户相关的照片,配上模板,推送给用户,意在营造节日喜庆气氛。创意看似很好,但是完全忽视了那些在过去一年遭受苦难的人们。
当2014年圣诞节的前一天,当手机上收到这张逝去女儿的相片时,梅尔的悲痛和愤懑无以言表,当天写下了一篇名为《算法无意的残酷》的文章,表达了一个科技工作者对于人文关怀的思考。
科技从来就不是冰冷的,冰冷的是人心。
网友评论