人类虚拟助手如何“学习”对付骚扰和言语辱骂（组图）

就在最近，你甚至还可以辱骂Bia，用侮辱性语言叫她，而她只能温顺地回答：“我不明白，你能再说一遍吗？”

但现在如果对巴西布拉德斯科银行（Bradesco bank）的虚拟助理使用这种语言，对方可能会更坚定地回答：“这些话不能对我或任何人说。”

她还会语气更强硬地说：“这对你来说可能是个笑话，但对我来说，这是暴力。”

去年，布拉德斯科银行在其人工智能系统上发现了9.5万条包含虐待或性骚扰的信息。该银行之后采取了行动。

他们的质控团队整理了这些有冒犯性语言，结果发现，最温和的是要求对方裸体。但也有些太过粗俗的语言，公司不愿透露。

该公司执行董事佩蒂科夫（Glaucimar Peticov）告诉BBC：“言语非常粗鲁，我没法重复给你听。”

图像来源，BRADESCO

还不清楚为何有人对虚拟助理使用这样的语言，但佩蒂科夫称，性爱信息“完全不该出现”，“这毫无疑问，就是一种骚扰“。

为了应对这类攻击，Bia的软件脚本得到了更新，迫使客户用更尊重的语言来称呼她，才能继续工作。

佩蒂科夫表示，新的回应“不那么顺从和被动”，是为了“教育”客户，鼓励他们“反思”性别歧视态度。

“反映现实生活”

布拉德斯科银行在电视广告中宣传了公司的举动，当机器人改变态度时，女演员看起来更有力量。

其他巴西大型企业也承诺效仿这一举动，包括化妆品公司、制造业，以及公用事业和服务提供商。

陆（Lu）是零售巨头杂志Luiza的语音助理，她不仅能对口头冒犯做出坚定回答，而且安装了“紧急按钮”，让女性在遇到家庭暴力时谨慎地提醒当局。

在真人团队的帮助下，她成了社交媒体上有影响力的语音助理，拥有数百万粉丝，经常和他们谈论性别问题。这个团队负责管理她的社交媒体互动。

零售巨头杂志Luiza的语音助理陆（Lu）

但不是所有人都认为根据这个原因调整人工智能系统是有意义的，因为虐待对象不是有感情的真人。

“我们为什么要折腾一个非人类的语音助手呢？因为这个问题反映了现实生活，”联合国教科文组织巴西分部的社会科学协调员伊恩（Fábio Eon）解释。

伊恩表示，言语虐待和性骚扰的背后是更大的问题。

去年，巴西报告了10.5万起针对妇女的暴力案件。由于仍有很多未报告案件，实际数字可能要高得多。

伊恩认为，现实世界和数字空间在人类行为方式上有所关联。

“从你在网上接受这些行为的那一刻起，这些行为就会在现实生活中被复制。”

女性机器人脸与人脸对比

联合国教科文组织2019年的一份报告批评了制造数字助理的公司，指责它们强化了性别刻板印象。在多数情况下，这些数字助理都是女性的声音。

该组织表示，苹果的Siri和亚马逊的Alexa等产品似乎“能够容忍男性的性挑逗，偶尔也会受到诱惑”，并称它们“未能鼓励或树立关于性爱或赞同性爱的健康沟通，更不用说坚持了”。

这两家全球科技巨头都采取了不对抗策略，并随后对Siri和Alexa做了更新。现在Siri会简单回答关于性爱的评论：“我不会回应这个问题”。

在此之前，她对性侮辱的回答是：“如果我能做到，我会脸红的。”

“你能想象这样的回答在现实生活中有多离奇吗？” 伊恩问道。

“习惯需要改变”

图像来源，GETTY IMAGES

伊恩警告称，尽管采取了一些改进措施，但对人工智能的偏见依然存在。

他指出，Siri和Alexa（女性名字）可以帮我们做琐碎的事，比如播放音乐或打开灯，而巴西法院的人工智能系统能筛选成千上万份文件，他的名字叫维克多（Victor，男性名字）。

一些公司正在考虑在系统中使用无性别声音，以此来解决争议。

但佩蒂科夫表示，人工智能之所以使用女声，是因为她们的音高和音调变化能为客户创造更舒适的环境。因此，布拉德斯科银行没有计划取代Bia，或者假装问题不存在，她解释。

“但是习惯需要改变。这些互动行动实际反应了社会的现实。现在我们已经发现了这个问题，决心采取行动。”

“我妈一会儿跟你说”

一名女性客服

从长远来看，公司正在考虑当客户虐待和性骚扰人类虚拟助理时该怎么做。

2017年，韩国GS加德士（GS Caltex）能源公司发起运动，帮助减少针对呼叫中心工作人员的虐待行为，上了头条新闻。

在顾客的电话转给助理接听之前，顾客会听到一段员工家人的录音，这段录音提醒，电话那头的人是有生命、有感情的人。

录音中有个男孩说：“我的妈妈是我在这个世界上最爱的人，她很快就会帮助你。”另一个男性的声音说：“我的善良、勤劳的女儿很快就会上线。”

发起这项活动的营销机构艾得夸互动（Adqua Interactive）称，GS加德士的员工后来报告称，54%的人觉得压力减轻了，25%的人说他们感到更受尊重了。

专注于数字教育的DQ研究所的首席执行官派克（Yuhyun Park）表示，在互动变得更加非人类化的世界里，人们越来越需要意识到这一点。

“公民需要更加文明的行为。当我们不能面对面见面时，就会遇到这种骚扰问题。即使在人工智能出现之前，人类也不是很友好地对待彼此。

“我们是社会的一部分，即使是与人工智能对话，也在共同构建整个社会体系，如果不文明行事，就会产生不好的影响。”