新的“分类模型”能够感知人类对与之合作的智能机器信任程度，这是朝着提高互动和团队合作质量迈出的一步。整个研究领域的长期目标是设计出能够改变人类行为、增强人类信任的智能机器。新模型是由普渡大学机械工程学院的助理教授Neera Jain和副教授Tahira Reid领导的研究开发出来的。智能机器，更广泛地说，智能系统在人类的日常生活中越来越普遍。随着人们越来越需要与智能系统互动，信任成为协同互动的一个重要因素。例如飞机驾驶员和工业工人经常与自动化系统进行交互，如果人类认为系统不稳定，他们有时会不必要地推翻这些智能机器，众所周知人类的信任是人类和机器之间成功互动的关键。
博科园-科学科普：研究人员开发了两种类型的“基于分类器的经验信任传感器模型”，朝着改善人类和智能机器之间的信任迈出了一步。这项工作与普渡大学的巨大飞跃庆典一致，作为普渡大学150周年校庆的一部分，它表彰了该校在人工智能、算法和自动化方面的全球进步。这是为期一年的“创意节”的四个主题之一，旨在展示普渡大学作为解决现实问题的智识中心的地位。这些模型使用两种技术来测量信任:脑电图和皮肤电反应。第一组记录脑电波模式，第二组监测皮肤电特性的变化，提供与信任相关的心理生理学“特征集”。45名受试者戴上无线脑电图耳机，一只手戴着测量皮肤电流反应的设备。其中一个新模型是“通用信任传感器模型”，对所有45名参与者使用相同的一组心理生理学特征。
另一个模型是为每个人定制的，这提高了平均精度，但代价是增加了训练时间。这两个模型的平均准确率分别为71.22%和78.55%。这是第一次使用脑电图测量实时或不延迟地测量信任。Jain说：我们正在以一种非常新的方式使用这些数据，是在连续不断地观察它，而不是在特定的触发或事件之后观察脑电波。在交互智能系统计算机械交易协会的一期特刊中，有一篇研究论文详细介绍了这一发现。《华尔街日报》的特刊名为《智能人机交互中的信任与影响》。论文作者为机械工程研究生Kumar Akash;前研究生胡万林，现为斯坦福大学博士后研究员（Jain和里德）。我们有兴趣利用反馈控制原理来设计能够实时响应人类信任水平变化的机器，从而建立和管理人机关系中的信任
如何设计智能机器来“赢得”人类的信任？新模型设计。图片：Purdue University photo/Marshall Farthing
为了做到这一点，需要一个传感器来评估人类的信任水平，同样是实时的。本文的研究结果表明，心理生理测量可以用于这一过程。人对机器的信任问题对于“人-代理集体”的高效运行至关重要。未来将围绕着需要人和机器之间有效和成功的协调与协作的人-agent集体构建。例如，在自然灾害中，有一群机器人帮助救援队。在我们的工作中，我们只与一个人和一台机器打交道，但最终我们希望扩大到由人和机器组成的团队。算法已被引入以实现各种过程的自动化。但是仍然有人类在那里监督正在发生的事情，通常会有一个覆盖功能，如果他们认为某件事不对，他们可以收回控制权。
有时这种行为是没有根据的：在某些情况下，人类可能不理解正在发生的事情，因此他们不信任系统能做出正确的事情。所以即使他们真的不应该这么做，他们也会夺回控制权。在某些情况下，例如飞行员超越自动驾驶仪，夺回控制权实际上可能会阻碍飞机的安全运行，造成事故。设计能够建立并维持与人类信任的智能机器的第一步是设计一种传感器，使机器能够实时评估人类的信任水平。为了验证他们的方法，581名在线参与者被要求操作一个驾驶模拟，在这个模拟中，计算机识别道路障碍。在某些情况下，计算机100%正确地识别出障碍，而在其他情况下，计算机50%错误地识别出障碍。所以在某些情况下，它会告诉你有障碍，所以你踩下刹车，避免了事故。
但在其他情况下，它会错误地告诉你没有障碍，所以你无缘无故地刹车。测试使研究人员能够识别与人类对智能系统信任相关的心理生理特征，并据此建立信任传感器模型。假设在可靠的试验中，信任水平会很高，而在错误的试验中，信任水平会很低。通过收集581名在线参与者的反馈，验证了这一假设。结果表明，该方法能有效地诱导智能机器的信任和不信任。为了实时评估信任，需要持续提取和评估关键心理生理测量值的能力，这项研究工作首次将实时心理生理测量用于开发人类信任传感器。脑电图耳机通过九个通道记录信号，每个通道接收大脑的不同部分。每个人的脑电波都不一样，所以需要确保你在构建一个适用于所有人的分类器。
对于自主系统，人类信任可以分为三类:性格信任、情境信任和学习信任。素质信任是指信任的组成部分，它依赖于性别和文化等具有潜在偏见的人口统计数据。应该考虑到一些细微的差别，例如女性的信任与男性不同，信任也可能受到年龄和国籍差异的影响。情景信任可能会受到任务风险或难度的影响，而学习则是基于人类过去使用自治系统的经验。他们开发的模型被称为分类算法：能够利用这些模型来区分一个人何时可能感到信任，何时可能感到不信任。Jain和Reid还研究了性格信任，以考虑性别和文化差异，以及能够根据数据预测未来信任将如何变化的动态模型。
博科园-科学科普｜研究/来自：普渡大学
参考:《华尔街日报》（智能人机交互中的信任与影响）
博科园-传递宇宙科学之美
网友评论