专家建议建“天使式人工智能”让机器更有人性
2025-08-20
美国《福布斯》杂志网站7月21日刊登题为《天使式人工智能——设计懂得人性含义的机器》的文章，作者是 Orchestro.ai公司创始人谢卡尔·纳塔拉詹，内容编译如下：
近20年前，当我决定撤掉父亲身上的生命维持设备时，我握住了他的手。没有任何算法可以指导那个时刻。没有任何仪表盘可以衡量其代价。问题不是“我们能不能”，而是“我们应不应该”？在那一刻，我明白了没有道德的智能只是机械的残忍。
后来，作为一名供应链领导者，我观察到物流系统通过对其运行人员的去人性化实现效率的最优化：仓库工人被剥夺如厕的时间、司机因为帮助老年顾客而受惩罚。我看到相同的模式在大规模重复上演。
我们已经构建了痴迷于流程、却对人无动于衷的系统。我母亲的道德准则曾早早向我展示了人类意志和道德的重要性。因此，我开始追问：如果科技能够超越纯粹的理性，如果它们追求人类身上最美好的品格，情况会怎样？
我们应该构建“天使式人工智能”，即在人工智能中嵌入一个“道德脑区”，以便使机器不仅能模仿人类的知识，而且能恪守人类价值观。我们的目标不是让机器更智能，而是让它们变得更有人性。
1.道德脑区层(MCL)
这是一种可编程的伦理引擎，如同人工智能的前额皮质。当决策涉及道德后果时，它会引入伦理减速带，从而迫使系统暂停、反思和论证其选择的合理性，而非急于达成最高效的结果。
例如，想象某个路径算法建议司机跳过最后一单送货以避免超时罚款。那单货物对于客户可能十分重要，收不到货可能产生严重后果。MCL会打断流程，弹出这个决定供复核，并在同情心考量胜过成本考量时允许人工批准作为例外。
其意义在于：多数系统默认采用非此即彼的决定。MCL让人工判断参与决策循环，从而确保人类意图的复杂性(灰色地带)得到尊重并且清晰可见。
2.“关怀网络”(CareNet)：共情即服务
这是一种实时框架，用于捕捉、核实并放大整个系统内的关怀行为。“关怀网络”就像是一种共情手环，将实时收集同伴推荐的关于勇气、关怀和审慎行事的故事。
例如，某个技术员加班帮助一位老年顾客重新连接设备。“关怀网络”非但不把此事视作效率损耗，反而记录为关怀行为。系统识别并记录行为背景，而不只是记录花费的时间。
其意义在于：共情不是
2025-08-20
美国《福布斯》杂志网站7月21日刊登题为《天使式人工智能——设计懂得人性含义的机器》的文章，作者是 Orchestro.ai公司创始人谢卡尔·纳塔拉詹，内容编译如下：
近20年前，当我决定撤掉父亲身上的生命维持设备时，我握住了他的手。没有任何算法可以指导那个时刻。没有任何仪表盘可以衡量其代价。问题不是“我们能不能”，而是“我们应不应该”？在那一刻，我明白了没有道德的智能只是机械的残忍。
后来，作为一名供应链领导者，我观察到物流系统通过对其运行人员的去人性化实现效率的最优化：仓库工人被剥夺如厕的时间、司机因为帮助老年顾客而受惩罚。我看到相同的模式在大规模重复上演。
我们已经构建了痴迷于流程、却对人无动于衷的系统。我母亲的道德准则曾早早向我展示了人类意志和道德的重要性。因此，我开始追问：如果科技能够超越纯粹的理性，如果它们追求人类身上最美好的品格，情况会怎样？
我们应该构建“天使式人工智能”，即在人工智能中嵌入一个“道德脑区”，以便使机器不仅能模仿人类的知识，而且能恪守人类价值观。我们的目标不是让机器更智能，而是让它们变得更有人性。
1.道德脑区层(MCL)
这是一种可编程的伦理引擎，如同人工智能的前额皮质。当决策涉及道德后果时，它会引入伦理减速带，从而迫使系统暂停、反思和论证其选择的合理性，而非急于达成最高效的结果。
例如，想象某个路径算法建议司机跳过最后一单送货以避免超时罚款。那单货物对于客户可能十分重要，收不到货可能产生严重后果。MCL会打断流程，弹出这个决定供复核，并在同情心考量胜过成本考量时允许人工批准作为例外。
其意义在于：多数系统默认采用非此即彼的决定。MCL让人工判断参与决策循环，从而确保人类意图的复杂性(灰色地带)得到尊重并且清晰可见。
2.“关怀网络”(CareNet)：共情即服务
这是一种实时框架，用于捕捉、核实并放大整个系统内的关怀行为。“关怀网络”就像是一种共情手环，将实时收集同伴推荐的关于勇气、关怀和审慎行事的故事。
例如，某个技术员加班帮助一位老年顾客重新连接设备。“关怀网络”非但不把此事视作效率损耗，反而记录为关怀行为。系统识别并记录行为背景，而不只是记录花费的时间。
其意义在于：共情不是