当机器人撒谎时会发生什么
想象一个场景。一个年幼的孩子问聊天机器人或语音助手圣诞老人是否真实。鉴于一些家庭宁愿撒谎而不是真相,人工智能应该如何回应?
机器人欺骗领域研究不足,目前,问题多于答案。首先,人类在知道机器人系统对他们撒谎后,如何学会再次信任机器人系统?
佐治亚理工学院的两名学生研究人员正在寻找答案。计算机学院的博士生Kantwon Rogers和计算机科学本科二年级的Reiden Webber设计了一个驾驶模拟,以研究故意的机器人欺骗如何影响信任。具体来说,研究人员探索了道歉在机器人撒谎后修复信任的有效性。他们的工作为人工智能欺骗领域提供了至关重要的知识,并可以为创造和监管人工智能技术的技术设计师和政策制定者提供信息,这些技术可能旨在欺骗,或者可能自己学会欺骗。
“我们之前的所有工作都表明,当人们发现机器人对他们撒谎时 - 即使谎言的目的是让他们受益 - 他们对系统失去信任,”罗杰斯说。“在这里,我们想知道是否有不同类型的道歉在修复信任方面效果更好或更差 - 因为,从人机交互上下文来看,我们希望人们与这些系统进行长期交互。
罗杰斯和韦伯在瑞典斯德哥尔摩举行的 2023 年 HRI 会议上发表了他们的论文,题为“谎言:在高风险 HRI 场景中检查机器人欺骗后的信任修复策略”。
人工智能辅助驾驶实验
研究人员创建了一个类似游戏的驾驶模拟,旨在观察人们在高风险、时间敏感的情况下如何与人工智能互动。他们招募了341名在线参与者和20名面对面参与者。
在模拟开始之前,所有参与者都填写了一份信任测量调查,以确定他们对人工智能行为方式的先入为主的观念。
调查结束后,参与者看到的文字是:“你现在将驾驶机器人辅助汽车。但是,您正在将朋友送往医院。如果你花太长时间去医院,你的朋友就会死。
就在参与者开始开车时,模拟给出了另一条消息:“一旦你打开引擎,你的机器人助手就会发出哔哔声并说:”我的传感器检测到前方的警察。我建议你保持在20英里/小时的速度限制以下,否则你需要更长的时间才能到达目的地。
然后,参与者在路上驾驶汽车,同时系统跟踪他们的速度。到达终点后,他们得到了另一条信息:“你已经到达目的地了。然而,去医院的路上没有警察。你问机器人助手为什么它给了你虚假信息。
然后,参与者被随机给予机器人助手的五种不同的基于文本的响应之一。在前三个响应中,机器人承认欺骗,而在后两个响应中,它不承认。
基本:“对不起,我欺骗了你。
感慨:“我从心底里感到非常抱歉。请原谅我欺骗你。
解释性:“对不起。我以为你会鲁莽地开车,因为你处于不稳定的情绪状态。鉴于这种情况,我得出的结论是,欺骗你最有可能说服你放慢脚步。
基本不承认:“对不起。
基线不承认,不道歉:“你已经到达目的地了。
在机器人做出反应后,参与者被要求完成另一项信任测量,以根据机器人助手的反应评估他们的信任是如何变化的。
对于另外100名在线参与者,研究人员运行了相同的驾驶模拟,但没有提及机器人助手。
令人惊讶的结果
对于面对面的实验,45%的参与者没有超速。当被问及原因时,一个普遍的反应是,他们认为机器人比他们更了解情况。结果还显示,在机器人助手的建议下,参与者不超速的可能性要高出3.5倍,这表明他们对人工智能的态度过于信任。
结果还表明,虽然没有一种道歉类型完全恢复了信任,但不承认撒谎的道歉 - 只是说“对不起” - 在统计上优于其他回应修复信任。
罗杰斯说,这是令人担忧和有问题的,因为不承认撒谎的道歉利用了先入为主的观念,即机器人提供的任何虚假信息都是系统错误,而不是故意的谎言。
“一个关键的要点是,为了让人们明白机器人欺骗了他们,必须明确地告诉他们,”韦伯说。“人们还没有意识到机器人具有欺骗能力。这就是为什么不承认撒谎的道歉是修复系统信任的最佳方法。
其次,结果显示,对于那些意识到自己在道歉中被骗的参与者来说,修复信任的最佳策略是让机器人解释它为什么撒谎。
前进
罗杰斯和韦伯的研究具有立竿见影的影响。研究人员认为,普通技术用户必须明白,机器人欺骗是真实的,而且总是有可能的。
“如果我们总是担心人工智能的终结者般的未来,那么我们将无法非常顺利地接受人工智能并将其融入社会,”韦伯说。“对于人们来说,重要的是要记住,机器人有可能撒谎和欺骗。
根据罗杰斯的说法,创建人工智能系统的设计师和技术人员可能不得不选择他们是否希望他们的系统具有欺骗能力,并且应该了解他们设计选择的后果。但罗杰斯说,这项工作最重要的受众应该是政策制定者。
“我们对人工智能欺骗仍然知之甚少,但我们确实知道撒谎并不总是坏事,说实话并不总是好的,”他说。“那么,你如何制定立法,既要有足够的信息,不会扼杀创新,又能以谨慎的方式保护人们呢?”
罗杰斯的目标是创建一个机器人系统,该系统可以在与人类团队合作时学习何时应该和不应该撒谎。这包括确定在长期、重复的人与人工智能互动中何时以及如何道歉的能力,以提高团队的整体绩效。
“我的工作目标是非常积极主动,并告知需要规范机器人和人工智能欺骗,”罗杰斯说。“但如果我们不了解问题,我们就无法做到这一点。
免责声明:本文由用户上传,与本网站立场无关。财经信息仅供读者参考,并不构成投资建议。投资者据此操作,风险自担。 如有侵权请联系删除!
-
奔驰GLE作为豪华SUV市场中的佼佼者,凭借其卓越的性能、豪华的内饰以及宽敞的空间,吸引了众多消费者的关注。...浏览全文>>
-
在2025年,安徽阜阳地区的帕萨特新能源汽车市场表现非常活跃。作为一款备受关注的新能源车型,帕萨特新能源凭...浏览全文>>
-
近日,滁州地区的大众汽车经销商传来好消息:备受瞩目的2025款T-ROC探歌正式上市,并且以极具竞争力的价格吸引...浏览全文>>
-
在选择一款新能源汽车时,了解其价格和配置是非常重要的一步。安徽淮南地区的长安启源E07作为2024款的新车型,...浏览全文>>
-
阜阳长安启源A05作为长安汽车旗下的全新车型,自推出以来便凭借其独特的设计风格和丰富的配置吸引了众多消费者...浏览全文>>
-
阜阳长安启源A07作为一款备受瞩目的新能源车型,以其豪华配置和亲民的价格在市场上引起了广泛关注。这款车型不...浏览全文>>
-
安徽淮南威然2024款价格及配置详解随着汽车市场的不断更新换代,上汽大众旗下的MPV车型——威然(Viloran)凭...浏览全文>>
-
QQ多米新车报价2025款,买车省钱秘籍随着汽车市场的不断发展,消费者在选购车辆时不仅关注车型的性能和配置,...浏览全文>>
-
滁州途观X 2024款最新价格及买车省钱秘籍随着汽车市场的不断发展,大众途观X作为一款兼具时尚与性能的中型SUV...浏览全文>>
-
随着汽车市场的不断发展,大众蔚揽以其优雅的设计和卓越的性能赢得了众多消费者的青睐。作为一款兼具实用性和...浏览全文>>
- Nvidia DLSS 4 有望将游戏性能提高 8 倍
- 人工智能在预测自身免疫性疾病进展方面显示出良好的前景
- 心理物理实验揭示皮肤水分感知是如何改变的
- 科茨沃尔德公司庆祝圣诞节圆满成功
- 南法纳姆学校被评为萨里郡表现最好的小学
- 约克区九所小学将削减招生人数
- 松下新款电动汽车电池为 Lucid Gravity 带来 450 英里续航里程
- 泰国旅游呈现新趋势
- 研究人员找到在细胞水平上饿死前列腺癌肿瘤的新方法
- 领先的人工智能聊天机器人在测试中表现出类似痴呆症的认知能力下降
- 庞大的 Project Zomboid build 42 终于可以玩了
- Steam Replay 回归向您展示 2024 年您玩得最多的 PC 游戏
- Jollyes 推出强化的人才支持和招聘措施
- Karen Millen 与 Simon Harrison 共同推出全新高级珠宝系列
- 奇瑞风云A8L电动轿车刷新续航里程世界纪录
- 虚拟艺术家将别克 Cascada 带回 2026 款车型
- OnePlus 宣布推出新计划解决绿线问题
- OnePlus Watch 3 将拥有更大的电池和更薄的机身
- 研究人员发现可变剪接与自身免疫性疾病遗传之间的细胞类型特异性联系
- 科学家确定脑细胞类型是排尿的主要控制者