How
4.3 与机器人的互动如何影响儿童 本节介绍了围绕我们的第二个研究问题的主题:教师预期与教室机器人互动的儿童会产生什么样的社会影响和影响?在这里,首先讨论儿童的非人性化,即儿童如何受到教室机器人的长期影响。这既包括孩子自身行为的潜在变化,也包括他们对他人的看法。第二个主题涉及参与者设想的儿童机器人关系及其道德含义。第三个主题涉及儿童对机器人的信任程度以及参与者对儿童对机器人的可信性启示的讨论。
4.3.1 去人性化 参与者们表示担心,通过与机器人的互动,孩子们会变得不人性化。对于这种情况如何发生以及为什么会发生,人们有几种猜测。首先,一个普遍的观点是机器人不能和人类在同一个情感层面上互动。由于他们与机器人的互动,有人认为孩子们会开始难以理解人类的面部表情,从而导致情商受损。正如一位参与者所解释的:“你从别人的情绪中学习。那么,从面部表情中学习情绪是否会缺乏学习?因为机器人没有面部表情”(P,M,英国)。据我们的参与者说,这可能导致孩子在表达情感时变得“机械化”,或者在情商上造成严重的混乱:“你可能会把孩子变成情绪的破坏者”(P,M,英国)。从类似的角度来看,一些参与者认为,人们对语言的使用受到科技的高度影响,他们推测儿童可能会模仿机器人,并越来越多地采用新的说话方式。尽管如此,一位参与者建议使用机器人可以提高某些语言技能:“有了机器人,你实际上可以对它进行编程,使其真正说得非常清楚,从而能够容纳好的语言”(P,M,英国)。
参与者认为教室机器人与更广泛的技术和社会趋势相对应,这些趋势往往不鼓励后果的可见性和有形性。一位参与者解释说:“我想我们在孩子们身上已经感受到了这一点,人际关系已经上升到了第二位。现在一切都是虚拟的,这对我不知道的侵略性是不好的。而且也没有后果,他们可以做任何事情,就像他们在游戏或虚拟事物中打了一个朋友,而且由于那里不存在人,所以对其他人没有任何后果或影响。我想我们感觉到了。孩子们变得越来越咄咄逼人,就好像他们看不到自己行为的后果,他们可以说一切,他们可以虐待,他们可以打,他们可以伤害,因为这将恢复”(T,F,PT)。考虑到机器人的类人特性,我们的参与者表达了一种担忧,即如果儿童从事破坏性的身体行为,例如拔下机器人的手臂或刺穿它的眼睛,这些行为最终会使人类互动中的暴力行为合法化并助长暴力行为。
4.3.2 关系的变化及其道德含义 我们的参与者认为,儿童可能与机器人有不对称的权力关系。他们设想了一个未来,机器人将屈从于儿童:“我认为,如果机器人变得像这些管家,而且它们无处不在,那就存在风险和问题。当然,如果我们有一个管家,他总是在那里,我们可以问问题,我们可以告诉我们做事情”(P,M,SE)。根据这一观点,有人认为,儿童可以形成一种超越人际关系的威权态度和行为,最终放弃人际关系,转而与机器人建立更“令人满意”的人际关系。相反,一些参与者考虑了相反的情况,即儿童的兴趣和欲望可能会受到机器人的控制,即使这违背了他们的兴趣。更进一步,他们中的一些人指出,如果出于邪恶动机部署机器人,例如在一个独裁统治的国家,机器人有可能被用来操纵儿童和执行纪律措施。
在定义儿童与机器人之间可能的关系及其影响时,参与者还关注儿童与机器人互动的情感品质,他们认为,孩子们可以将机构归因于机器人,从而产生亲密的社会联系,例如,孩子们分享他们的秘密。与上述不对称权力关系的预期含义类似,大多数参与者担心学生可能更喜欢机器人而不是人类接触。为了缓解这种情况,一些参与者认为,应该允许儿童学习或通过学习,而不是让机器人来回应4.1.2中报告的研究结果。与那些认为与机器人进行情感互动是轻信的人不同,一些参与者认为,虽然机器人可以“解释”儿童的情绪,但本体论的差异将导致双向情感交流的缺失。这种缺乏情感的互惠被认为是特别有问题的:“但是没有互惠!这种关系必须是单一的,必须是从这里到那里,从那里到这里。因为如果机器人能理解人,但人却不能理解机器人是什么……因为机器人被投射成某种东西,而且应该是这样”(T,F,PT)。他们预测,这可能会导致孩子们感到被欺骗,受到不公平对待,隐藏自己的情绪,并对机器人采取敌对甚至攻击性的反应。
4.3.3 可信度和信任可供性 我们的参与者对教室机器人以及适应学习者的相关人工智能技术的能力提出了问题,以培养成长和独立的机会。有人认为,教室机器人是可预测的和一致的:孩子们可以在瞬间得到问题的答案(由于技术的连通性),并且在解决任务时从不断的帮助中受益。他们认为,这样做的危险在于,机器人可能被认为过于可信。一位参与者解释说,“他们会把机器人看作是一个无所不知的来源,他们不会质疑答案”(T,F,PT)。参与者假设,孩子们可能会过度依赖机器人,失去批判的能力,甚至鼓励他们设想一个未来,如果两人意见不一致,学生们可能更信任机器人导师而不是老师。
最后,一个焦点小组解释说,由于害怕判断,学生往往不愿意与老师分享他们在理解上的差距。据说学生们声称“无所不知”,抑制了自己的学习。一些参与者推测,学生们在向机器人表达自己的怀疑时可能会感到更自在,而不必担心判断。通过这项研究,他们建议学生们可以对自己的缺点更加坦然,这个过程最终将帮助他们与老师分享不确定性。另一些人则认为,在人际交往之外分享自己的弱点只会加强孩子们对自己隐私的信念:“也许他们只会把自己的疑虑暴露在机器人面前,会更加强化这一点,只会帮助他们隐藏更多他们不知道的事情”(T、F、PT)。