许多行为“类似人类精神疾病” 专家创建分析AI“精神变态”新分类法
2025-09-05
据美国趣味科学网站8月31日报道，人工智能(AI)可能误入歧途，在这种时候其许多行为与人类的精神失常相似。
科学家们指出，当人工智能失控并开始以违背预期目的的方式行事时，它将表现出类似于人类精神疾病的行为。这便是为什么他们创建了一套包含32种人工智能功能障碍的新分类法，以便各行各业的人员能够理解构建和应用人工智能的风险。
在新的研究中，科学家们着手对人工智能偏离其预期路径的风险进行分类，并与人类心理病态进行类比，最后提出了“机械精神变态”框架。人工智能的这些功能障碍所涉及的范围广泛，从幻觉式回答到与人类价值观和目标的完全错位，不一而足。
由美国电气电子工程师学会的会员、人工智能研究人员奈尔·沃森和阿里·赫萨米创立的该项目，旨在帮助分析人工智能故障并使未来产品的工程设计更加安全，被誉为帮助政策制定者应对人工智能风险的工具。两人在8月8日发表于美国《电子学》月刊的一篇论文中概述了他们的框架。
根据这项研究，“机械精神变态”框架将提供一种关于人工智能行为和风险的共识。研究者、开发者和政策制定者由此可以识别人工智能可能出错的方式，并根据故障类型来确定缓解风险的最佳方式。
该研究还提出了“治疗性机器人心理调整”的概念。研究人员把它描述为某种针对人工智能的“心理疗法”。
这项研究所确定的人工智能故障类别仿效了人类疾病类别，采用了“强迫性计算障碍”“增生性超我综合征”“传染性错位综合征”“终极价值重绑”“存在性焦虑”之类的名称。
该研究认为，作为一个常见现象，人工智能幻觉是由一种名为“合成性虚构”的状况所导致，在这种状况下人工智能将生成看似合理但实际上错误或具有误导
2025-09-05
据美国趣味科学网站8月31日报道，人工智能(AI)可能误入歧途，在这种时候其许多行为与人类的精神失常相似。
科学家们指出，当人工智能失控并开始以违背预期目的的方式行事时，它将表现出类似于人类精神疾病的行为。这便是为什么他们创建了一套包含32种人工智能功能障碍的新分类法，以便各行各业的人员能够理解构建和应用人工智能的风险。
在新的研究中，科学家们着手对人工智能偏离其预期路径的风险进行分类，并与人类心理病态进行类比，最后提出了“机械精神变态”框架。人工智能的这些功能障碍所涉及的范围广泛，从幻觉式回答到与人类价值观和目标的完全错位，不一而足。
由美国电气电子工程师学会的会员、人工智能研究人员奈尔·沃森和阿里·赫萨米创立的该项目，旨在帮助分析人工智能故障并使未来产品的工程设计更加安全，被誉为帮助政策制定者应对人工智能风险的工具。两人在8月8日发表于美国《电子学》月刊的一篇论文中概述了他们的框架。
根据这项研究，“机械精神变态”框架将提供一种关于人工智能行为和风险的共识。研究者、开发者和政策制定者由此可以识别人工智能可能出错的方式，并根据故障类型来确定缓解风险的最佳方式。
该研究还提出了“治疗性机器人心理调整”的概念。研究人员把它描述为某种针对人工智能的“心理疗法”。
这项研究所确定的人工智能故障类别仿效了人类疾病类别，采用了“强迫性计算障碍”“增生性超我综合征”“传染性错位综合征”“终极价值重绑”“存在性焦虑”之类的名称。
该研究认为，作为一个常见现象，人工智能幻觉是由一种名为“合成性虚构”的状况所导致，在这种状况下人工智能将生成看似合理但实际上错误或具有误导