新浪博客

人机协同系统中的能力、权限、控制和责任

2019-04-11 16:39阅读:
随着科学技术的进步和发展,软、硬技术的提高,机器越来越智能,使我们的生活越来越舒适。对于复杂的人机协同工作系统,人机之间的关系也在发生变化。如何平衡机器智能提升导致的人类控制权限降低?如何定义人机协同工作系统的安全、高效和舒适?人机协同工作系统中哪个子系统拥有哪部分能力、权限和责任?权限、责任和控制能否在人机之间达到一个动态但稳定的平衡?
对于人机协同工作的系统,以车辆驾驶为例,一个合适的人机协同工作系统能使驾驶更高效、安全、舒适和享受。
对于人机协同工作的系统,德国亚琛工业大学工程和人机工程学院的Frank Flemisch提出了四个基本概念:能力、权限、控制和责任,以及它们之间的相互关系。这四个概念的相互关系对人机协同工作系统中使人和机器达到一个合适的动态平衡非常重要。

1、协同工作系统示例

如果机器越来越智能,在与人类系统工作时应当扮演什么角色?人机之间又当如何交互?
在自然界中有许多这样的例子:羊群和牛群等动物一起生活和迁徙,人类相互之间或与环境之间的互动。互动又可分为竞争和协同行为。
竞争行为如捕杀猎物、人类之间的战争。
协同行为通常有一个共同的目标,相互协作。对于运动领域,如一个大人和小孩手牵手沿路走,一个骑马者和一匹马共同影响运动轨迹,一个正飞行员和副飞行员共同控制一架飞机,如图1所示。这些协同运动的系统有不同的能力、权限、控制和责任分配特点。
人机协同系统中的能力、权限、控制和责任




对于大人和小孩手牵手沿路走,大人和小孩有着不同的权限,如穿越马路,什么时候、以何种方式穿越马路的决定通常由能力较小的小孩引起,但大人在危险情况下有抱起小孩迅速穿越马路的能力;如果发生某种事故,通常由大人来承担责任。
对于骑马者和一匹马共同影响运动轨迹,马的能力更强,包括运动速度和持久力;但骑马者通常由较高的控制权限,决定马的运动方向和速度,除非在紧急情况下,骑马者未意识到危险之前,马已经做出反应;骑马者拉紧缰绳,对马有较强的控制力,放松缰绳,对马的控制力减弱;但即使在放松缰绳的情况下,骑马者仍要承担较多的责任。只有当马的行为异常时,饲养员才会承担责任。
对于正飞行员和副飞行员共同控制一架飞机,通常正飞行员控制飞行,副飞行员协助。对于控制权限,正飞行员(通常为机长,经验丰富,但在特殊情况下飞行能力不一定高)可以随时接管控制,当控制权在正、副飞行员间交接时,一个飞行员说“我来接管”,另一个飞行员回应“好的”;对于责任,正飞行员通常承担较多责任,针对各自的飞行任务,两飞行员承担对应责任。
这些协同工作的行为案例对设计人机协同工作的系统非常有帮助。电子副驾驶的比喻最早用于航空(Flemisch,1999)和车辆安全系统(Holzmann,2006),而副驾驶的比喻也提高了对智能系统的拟人化期望,马和骑马者的比喻描述了一种非对称关系的协同控制运动(Flemisch,2003)。这些例子都对能力、权限、控制和责任的架构进行了一定解释。

2、人机协同工作系统的能力、权限、控制和责任

人机协同系统中的能力、权限、控制和责任


将人机协同工作系统能力、权限、控制和责任抽象出来,通常包括人机协同系统及周围环境,而且是动态变化的,即从一个状态到另一个状态或从一个场景景到另一个场景。这些变化不是随机的,而是根据人、机子系统的动作、两者间的交互及与环境的相互作用。根据对结果好坏的理解(与目标或动机有关),人机系统感知环境信息,并利用它们的能力影响结果,形成闭环系统,如图2所示。
对于人机协同工作系统,机器的行为(它的能力、控制范围,人机间的权限和能力分配)在操作阶段的元系统中。对于责任的划分通常在操作阶段的前面或后面,即发展阶段和评价阶段。一个通过元系统的重要反馈是经验,用来提高系统对未来的反应。
人机协同系统中的能力、权限、控制和责任


控制,意思为有能力影响某事进程,对于人机协同系统来讲,意为按照控制器的要求以某种方式保持或变化,对于某种控制系统,通常包括感知、决策和执行的闭环用来使系统稳定或向某一目标以某种方式变化,如图3所示。其中决策和执行环节一定始终存在,而感知环节会因某种原因消失(如传感器故障),此时,也就由闭环系统变为开环系统。
能力,意思为拥有某事方法或技术来做某事,对于人机协同系统来讲,意为拥有某种方法或技术用来感知、决策和执行。通常情况下,完成某种控制任务不仅需要某种技术,还需要一定的资源,因此,这里的能力包括拥有某种方法、技术和资源来完成控制,包括感知、决策和执行。
权限,意思为发号施令、做出决策、强制执行的权力或权利,对于人机协同系统来讲,意为哪个执行器允许或不允许执行某动作。权限通常由系统的设计者提前给定,而且对之后的评价有一定影响。这里的权限包括两方面:1)控制权限:执行器用来执行某控制动作的权限,更进一步讲,一个特定的控制分配;2)控制变化权限:指控制权限分配的变化。权限还可以进一步与闭环控制的其他部分相关联,如感知权限,人机交互的提醒警示。
责任,意思为对某一状态或事实需要负责处理,对于人机协同系统来讲,意为预先分配激励某些动作和事后评价,需要对人机协同系统的某一状态或动作负责处理。责任的判断一种是由控制器(如驾驶员)本身对其行为的判断,还有一种是由第三方对控制行为的判断。
自动化的水平或程度与控制的分配相关。高程度的自动化意味着控制的很大比例由机器完成,低程度的自动化意味着控制的一小部分比例由机器完成。

3、能力、权限、控制和责任的相互关系

人机协同系统中的能力、权限、控制和责任


能力、权限、控制和责任的相互关系如图4所示。
  • 能力和控制的关系最明显,有能力才有控制;
  • 控制还需要合适的权限,有权限才使控制得以实施;
  • 有能力和权限,控制还不会自动实施,一些主观或客观的责任会激励控制实施;
  • 根据初始的责任激励和控制行为,最终的结果让作用者承担相应责任。
能力、责任和权限并不是相互孤立的。对控制来讲,能力大小不应小于权限,权限大小不应小于责任,即权限分配的控制大小要小于能力分配的控制大小,责任分配的控制大小要小于权限分配且能力足够的控制大小。责任分配的控制大小如果没有足够的权限和能力是不公平的。而权限和责任分配的控制大小如果没有足够的能力也是不实际的。

4、人机控制分配

当人和机器同时可以实时控制时,人机之间最简单的控制分配就是只有人控制或只有机器控制。但当人和机器以一种合作的方式共同控制时,它们可以共享控制,人机间的控制关系从最简单的开关关系可以扩展为一种自动化谱,即由完全人控制到完全机器控制,如图5所示。在这样自动化程度连续提升的过程中,根据自动化的程度又可分为辅助/低自动化、半自动化、高度自动化、全自动化。
人机协同系统中的能力、权限、控制和责任


人和机器都有一定的能力,但不是所有的控制分配都是可行的,控制分配还要考虑当时的场景,比如紧急情况下,人由于自身的反应时间限制来不及做出动作。
根据不同的设计原则,人机之间责任、权限、控制的分配有多种方式。一种要求人机间以一种安全、高效、可靠的方式实现责任、权限、控制的分配(Miller,2007),还有一种要求人有最终的控制权(Inagaki,2003)。
参考文献:Flemisch, F., Heesen, M., Hesse, T., Kelsch, J., Schieben, A., & Beller, J. (2011). Towards a dynamic balance between humans and automation: authority, ability, responsibility and control in shared and cooperative control situations. Cognition, Technology & Work, 14(1), 3–18.

我的更多文章

下载客户端阅读体验更佳

APP专享