人工智能伦理

#读书《人工智能伦理》，作者于江生。
人工智能伦理有宏观和微观的尺度之分：宏观指的是AI对人类社会的长期影响，微观指的是具体应用中的伦理规范。人类对主观世界和客观世界的哲学思考，很大程度地影响了科学的发展。近代科学选择了唯物论，有一个潜在的原因就是主观世界更难于研究。 要走向强人工智能，必须参考人脑的工作原理。并不是说，强人工智能必须模仿人脑，而是借助对人脑的研究搞清楚智能的形态，以及意识的形式化。
目前我们把人工智能分为三个层次，它们分别是：

• 【层次一】无自我意识，但能够理解人类的指令，具有领域受限的学习、推理能力，比人类更好地完成某些任务。

• 【层次二】有自我意识和创新能力，懂得协同工作，对伦理道德规则有共识，是与人类相似或更高级的智慧。
• 【层次三】突破自身，能创造出更高级的智慧形态，无论生命体还是非生命体。

很明显，我们目前处于层次一。即便在这一层次上，机器犯错的因果链就可能不止一条，每阻断一条都可以减少错误的扩散。为了找出错误的扩散路径，必须搞清楚导致错误的因果关系，即可解释性。人们经常把可解释性同可解读性混淆，可解读性是指机器学习中特征表示的语义能够被人类理解。在多数情况下，对机器而言“有意义”的主题，对于人类来说是不可解读的。对于机器能理解人类的意愿，但如果人类无法了解机器的所想所指，不利于引导人工智能走上健康的发展之路。因此，由于智能的多样性，只要能殊途同归，人类不必强求机器也要有与之相似的认知体系。在一个宽容的态度之下，为了能更好地“相互理解”，我们需要从理论上探讨这两个认知体系的关系。
我国著名数学家吴文俊在20世纪70年代后期倡导“机械化数学”，他认为它符合中国古代数学算法化的传统。而柴廷常数揭示了可定义和可计算的区别，它给我们的启示是：智能机器只有突破图灵可计算的禁锢，具备了构造概念的能力，才有可能接近人类的智能。强调“在”的数学和强调“做”的数学都是重要的，前者是“人类的数学”，后者是“机器的数学”。当人工智能和构造性数学相遇时，不啻一场认知革命，对数学和AI的改变都将是天翻地覆的。哪怕有理论证明机器无法达到人类的智能，找出机器智能的极限也是一件伟大的工作。
众所周知，“授人以鱼不如授人以渔”，但我们