全文共4481字,预计学习时长9分钟
可以说,目前使用最广泛的人工智能形式就是数字语音代理(DVAs)。据2017年皮尤研究中心估计,超过一半的美国人主要通过智能手机使用DVAs,其次是个人电脑和家庭扬声器。
所有四款领先的DVAs(苹果的Siri、微软的Cortana、亚马逊的Alexa和谷歌Assistant)都使用了强烈的人性化特征——无论是性别、声音、名字(谷歌Assistant除外)还是个性。而在默认情况下,在大多数市场它们都是女性化的,并也被大多数用户视为女性形象。根据2018年LivePerson的一项研究,大多数超过24岁的用户都没怎么思考过这其中的原因。
2011年就在iPhone上推出的Siri是第一个大众市场,也是当今应用最广泛的数字语音代理。近十年来,很多用户已经习惯了这一功能,只需说嘿,Siri,他们就能获得许多有用的回答。然而,可能令美国iPhone用户感到惊讶的事实是,Siri在英国、法国和德国一直是一个默认的男声。如今,在语言设置里,用户可以选择Siri的声音,并可将其更改为男性或女性。对于某些语言,如英语,用户也可以从各种口音(如英国口音、澳大利亚口音或美国口音)中进行选择,尽管目前仅限于某些英美口音。
那么,为什么DVAs被设计成具有人性化特征(姓名、声音,甚至人格)呢,而且为什么它们大部分是女性的?Clifford Nass是一位人类对机器反应领域的杰出研究者,他和他的同事们通过研究得出,人们普遍倾向于喜欢女性的声音,但还有一项因素是性别一致性:即男性倾向于喜欢男性的声音(合成的或人类的),女性同理。
人类大脑倾向于喜欢女性的声音是一个公认的现象。—Clifford Nass
性别一致性这一点与社会认同理论是一致的,但似乎又有悖常理,因为DVAs通常都是用女性的声音编程的。因此,Nass和 Brave揭示了语境的重要性,以及发现显著的性别刻板印象会影响人们的偏好。Nass和 Brave的研究中发现的一个性别刻板印象是,女性的声音往往比男性受到的关注少,受到的重视程度也低(例如,她们的声音很容易被忽视)。在DVAs中,考虑到其主要目的都是执行一些非关键任务,如通过基本信息提供帮助、播放音乐和报告用户的日程安排等,所以尽管是性别歧视,这似乎也符合研究结果。但是,之前在德国,宝马汽车拒绝了使用女性语音,原因则是他们对接受女性的语音驾驶指示缺乏足够的信任。
首先,来聊聊文化中性别刻板印象的问题
DVAs的典型特征是遵从性、服务导向性和友好性——这些特征通常与女性对男性的服务相关。此外,除了一些文化上的细微差别,助理(或秘书,这是DVAs的主要功能)角色在历史上通常都与女性有关。而在英国,Siri的默认声音是男性, 可以猜想这也许是与其文化中根深蒂固的男管家角色有关。因此在英国,根据其服务导向,男性的声音更适合DVAs。正如前面提到的, 由于德国的宝马汽车公司拒绝了女性化的声音AI,这可能就影响了德国在默认情况下将Siri设置为男性化声音的这一决策。所有这些案例揭示了语音性别偏好方面不同的性别偏见, 所以在DVAs的所有形式中, 无论是选择男性还是女性的声音, 似乎都是在利用刻板印象中的性别差异。
女权主义者对当今DVAs的批评集中在其标志性的女性助理角色的基本特征上,他们认为这种助理形象是由父权制的和带有性别偏见的商业技术部门创造的。这种批评看似公平,但是随着时间推移和技术的发展,也可能会模糊男性主导地位所影响的更深层次的问题,尤其是在人工智能领域。而在学术界的女权主义者质疑科学和技术(包括医学和心理学)是父权制设计的基本原理这一说法,这主要是因为方法和实践主要是由男性制定的(请阅读Artificial Knowing,亚当著,2006)。此外,女权主义者(以及大多数理智的人)也对明显偏向女性化的DVAs和其他形式的人工智能表示异议。
DVAs取名里的秘密
目前最流行的DVAs的名字本身就一系列地或多或少揭示了性别一致性。有人可能会对Siri这个名字是男是女有争议,因为西方国家,Siri并不是一个常见的名字,这个名字也并不带有太多文化偏见。以及苹果公司网站也最常直接用siri这一名字来提到这一应用,尽管有时会使用它,但是从未使用过她这一字眼。这可能是考虑到了不同国家的性别差异或是不同选择。因此,对于Siri女性化形象的联想最有可能归因于Siri尖细的嗓音和它的个性(下文将会阐述这一点)。亚马逊网站通常也会直接用Alexa这个名字来指代(或你的设备),但有时也会使用她。同Alexa一样,Cortana也是典型的女性名字,而且事实上微软在什么是Cortana?的开头一行就用了她来指代Cortana(Cortana是你的数字化助手,她会帮你完成任务的)。除此之外,Cortana也因为她具有的个性特点而产生女性化的特征;甚至,连她的这个名字也是由Halo游戏系列中一个非常的女性化的人工智能角色而来的。
个性、声音和语言的使用似乎都是社会反应的强烈暗示。性别在人类的行为方式和与同龄人的社交互动方面都具有非凡的意义,而性别比对可以解释一些基于用户性别的不同反应。因此,个性可以体现出性别特性:女性原型往往被视为更友好、开放和情绪化的个性特征,而占主导地位、自信和竞争性通常被视为男性特征。社会学家H. Woods在她的研究中强调,DVAs的创造者和使用者往往比技术本身更强调DVAs的个性或能力。尽管他们的主要角色是家庭助理,但Alexa也被描绘成同伴、看护人和家长;Siri则被描绘成甚至可以向其提出性方面问题的亲密朋友。这些特点被有意地编入程序中,来使用户更好地产生对人工智能的信任。
到底为什么要用有性别色彩的AI?
虽然现在这种说法有点过时,但过去人们常听到一个男人把自己的车或船称为她。这种将机器或技术女性化的说法无论是在小说和还是现实生活中都有着悠久的历史。而这一说法近年来已经过时,取而代之的是性别中立的它代词,这很可能是由于后女权主义时代的文化演变,使现在的世界对于性别平等更加敏感。最近,《美联社风格指南》(AP Styleguide)宣布了性别代词的进一步发展,鼓励人们在不确定性别时不要使用他或她。尽管目前的趋势是在DVAs中使用女性人格,但从历史上看,男性人格化的机器的例子反而可能更多(例如,《霹雳游侠》中的基特汽车、《变形金刚》中的大部分汽车人、《星际迷航》中的达塔,以及《星球大战》中的C3PO和R2D2)。
说到这里,大家可能会有一个疑问:没有隐含性别的DVAs能在市场上成功吗?还会有女性化DVAs的受欢迎程度和接受度吗?其实,最近就发布了一种无性别的DVAs原型声音,叫做Q,这是一次启发性的尝试,来鼓励科技公司考虑用非性别特征的声音。虽然这只是一个原型,还没有在任何人工智能应用程序中应用,但这次发布和媒体报道表明,就DVAs的性别化来进行主流对话是很有必要的。但是,考虑到人类本就将性别归类为二元的,所以逻辑上来说,普通人在使用性别中立的DVAs时会有一些不适应。
显然,科学技术和人工智能中复杂的性别问题是不能通过简单地将人工智能(或其他对象)去性别化来解决的。文化中的性别刻板观念、父权化的技术设计和在企业获益中应用的行为经济学都在其中推波助澜,每项都有着同样难以解决的问题。
那么,为什么所有的DVAs都是女性形象?
在后现代时代,消费主义和大众传媒在社会中起着不可忽视的影响。DVAs在很大程度上是人工智能的一种主流形式,因为这是人们容易接触到的,相对来说价格合适、支付得起、又易于使用,因此受到数百万消费者的欢迎。其女性化的人格可以提高用户对DVAs的接受度和使用度,特别是在人们生活里比较私人的部分中。因为,女性的形象没有男性那么具有威胁性,而是比较友好和不那么权威,所以通常被认为比男性更值得信任。尽管Nass和Brave在他们的研究中发现,在某些情况下男性的声音通常比女性的声音更可信,但之前一项对易于信任和值得信任的性别差异研究中发现,虽然男性使人容易信任,但女性可能更值得信任。这是相互的。
但Woods认为,这其中还有更为险恶的原因。她认为使用女性形象是DVAs公司高层的一个深思熟虑的决定,目的是减轻用户对数据收集、使用和隐私的担忧。事实上,科技公司已经将DVAs商品化,它本身就是为了创造收益,更重要的是,它是一项通过附加服务获得额外收入的渠道,比如亚马逊的零售销量和苹果、谷歌、微软的软件订阅等。
也许Woods所言非虚。大多数消费者没有意识到的是,他们的消费成本可能远高于一部接近1000美元标价的iphone。在很大程度上,由于其女性化、友好的声音,Siri已经成为一个值得信赖的朋友,无形中使人们更加信任口袋里的iPhone。在屏幕背后,人们每一个生物特征数据,每一条语音命令,都是通往用户个人数据的大门。Alexa现在拥有400种功能(或应用程序),由耐克(Nike)、坎贝尔(Campbells)和泰德(Tide)等品牌创造,这为这些公司提供了进入消费者家庭的一个渠道。
人们的数据实际上是一种资本或商品,由产品创造者货币化,卖给广告商,再回收用于人工智能系统的进一步培训,使它们变得更好。智能扬声器(Amazon、Google Home和Apple HomePod)24小时都在家中录制和存储声音,即使其用户并未激活该设备。最近有报道称,这根本不是匿名收集数据,而是亚马逊的真人工作人员在通过回声设备收听对话。而正如Woods所认为的,使用女性形象会使用户对这种无处不在的监视感到没那么不自在。所以,或许每天与Siri的互动不会促使人们思考Siri为什么会被创造成一个她,或许人们可能还会跟朋友开玩笑,称Alexa为婊子,但大家也许应该更深入地思考一下,这一切可能都是为了监听用户的生活,滥用用户的数据来分散注意力而已。
那么,使用DVAs女性化有什么好处吗?
也许是有的。在一项消费者调查中,57.4%的受访者表示他们能说出一位科技界名人的名字,其中比尔•盖茨、史蒂夫•乔布斯和埃隆•马斯克是最受欢迎的人选,4%的受访者能说出一位女性科技界领袖的名字,而其中四分之一的人说出的是Alexa或Siri。这一调查结果揭露了技术领域中围绕性别歧视的一系列更深层次的问题。然而,也可以想象,如果年轻人们开始把女性的声音与科技或知晓所有信息联系起来——这肯定不是件坏事。
留言 点赞 关注
我们一起分享AI学习与发展的干货
如需转载,请后台留言,遵守转载规范
免责声明:本文内容来自用户上传并发布,站点仅提供信息存储空间服务,不拥有所有权,信息仅供参考之用。