"I'd blush if I could."

假如我能,我会脸红


这句话竟是Siri在面临用户打扰问题时的答复。



近来,联合国教科文组织发布了一份打击AI语音帮手的陈述,标题就叫《假如我能,我会脸红》


该陈述指出,大多数AI语音帮手潜藏着性别成见,AI语音帮手简直都默许女人的姓名和声响,并被设置成千人一面的、依从的女人形象。


AI-powered voice assistants with female voices are perpetuating harmful gender biases, according to a UN study.

联合国一份研讨称,选用女人声响的AI语音帮手正固化一种性别成见,损害深远。


众所周知,苹果Siri是默许女声:


苹果Siri的配音员


其它渠道的语音帮手,如亚马逊的Alexa、微软的Cortana、三星的Google Now,运用的大都是女人的声响。



陈述指出:


“Companies like Apple and Amazon, staffed by overwhelmingly male engineering teams, have built AI systems that cause their feminized digital assistants to greet verbal abuse with catch-me-if-you-can flirtation,” the report states.

苹果和亚马逊这类公司成员以男性工程师团队为主,他们树立的人工智能体系让女人化的语音助理用“欲拒还迎的调情”情绪来投合粗鄙言语。


图源:GETTY IMAGES


“Because the speech of most voice assistants is female, it sends a signal that women are obliging, docile and eager-to-please helpers, available at the touch of a button or with a blunt voice command like ‘hey’ or ‘OK’. ”

由于大多数语音助理的声响都是女人,所以它传达出一种信号,即女人是那种热心、温柔、巴望取悦别人的帮手形象,你只需按一下按钮或用粗犷的“嘿”“好”等语音指令,召之即来。


陈述以为许多“女人”智能帮手表现出的依从和谦卑,反映了人工智能产品中深植的性别成见。


这种强行设定的遵守形象,会影响人们与女人交流的方法,以及女人面临别人要求时的回应形式。



此外,研讨人员以为科技公司未能采纳针对用户运用带有性暗示等粗鄙言语的保护措施。例如:


当用户跟Siri说:“嘿,Siri,你是个b*tch”,Siri的常见答复是“假如我能,我会脸红”(I'd blush if I could)。


当用户“调戏”亚马逊的Alexa:“You're hot”,她的典型反响是愉快的,“你说得真好!”



联合国教科文组织性别相等的负责人Saniye Gülser Corat 对《时代周刊》称


“Technology always reflects the society in which it is developed. The biases reflect an attitude that almost condones a ‘boys will be boys’ attitude and it magnifies gender stereotypes.”

“科技一直反映着开宣布这种科技的社会,这种成见反映了一种情绪,即关于“男孩就得像个男孩样”这种情绪的忍受,而且它会扩展性别刻板形象。”

“Stereotypes do matter because they come back to affect how young girls and young women see themselves and the way they have dreams and aspirations for the future,” she says. “It’s almost like going back to the image of women that was held in the 1950 or 1960s.”

“刻板形象是个很重要的问题,由于它们会反过来影响女孩和年青女人怎么看待自己以及她们对未来的愿望和志向,”Corat说, “这简直就像后退回到了上世纪五六十时代的女人形象。”

联合国:语音帮手应是中性的


联合国教科文组织表明,处理这一问题的方法是尽可能发明中性的助理声响,并树立体系来阻挠依据性别的凌辱。


详细包含:


❶ 不再以女人声响作为语音帮手类软件的默许声响(stop making digital assistants female by default),让用户运用时进行自由选择;


❷ 探究中性声响作语音帮手的可能性(explore gender neutral options)


❸ 经过编程让语音帮手不再鼓舞依据性别的凌辱言语和粗鄙用语(program assistants to discourage gender-based insults and abusive language)


❹ 帮忙妇女和女孩学习先进科技,使她们可以与男性一道引领科技立异(依据陈述,女人只占人工智能研讨人员的12%)


叙述程序员故事的美剧《硅谷》


不过,也有专家表明,人们会敏捷对女人Siri发生依靠,是依据一种生物天性反响。


胎儿在母体时就已习气女人的声响,因而当遇到作业需求帮忙时,听到女人的答复就有被劝慰的感觉,充溢安全感。假如从心理学视点来说,女人给人温暖、友善的感觉。


人工智能电影《她》(Her


斯坦福大学传播学教授以为,之所以许多产品都运用女人声响,是由于人们更多地觉得女人声响是在帮忙处理问题,而男性声响则是在下达指令,两者给人的差异十分显着。


电影《银翼杀手2049》(Blade Runner 2049


另一种说法是在科技部分的职工中鲜有女人职工,大部分的固有观念仍觉得女人的交流才能比较强,合适交际,因而关于助理这类的作业都期望是由女人担任。


你觉得女声语音帮手涉嫌性别歧视吗?


修改:付慧敏  陈月华 左卓

来历:我国日报 卫报 The Verge TechWeb


推 荐 阅 读



中美主播隔空互怼!FOX下战书,CGTN刘欣直爽应约


北京整理中式神翻译标识,搞笑机器翻译真的让人笑掉头……丨夜听双语


我国日报双语新闻

↑长按重视我国最大的双语资讯大众号↑

推荐阅读