计算机,是不可能出现自指悖论的,因为,图灵机设计原则不能应对此类问题。这就是人工智能天堑。人的认知体系,可不管什么自指悖论,是一个逻辑上很复杂的体系。
举个例子,我爱你,你爱她,她爱我。这个系统,就是人类常见系统。若是出现在3个人工智能体中,就很难计算这种自指循环该如何处理。这种事,在人类社会稀松平常,会上演各种爱恨情仇。
前文举出来的两个例子,一个是温室效应问题,一个是金融泡泡问题。一部分人,觉得这都是臭氧层的问题,既不能证明,也不能证伪。温室效应,其实可以证明,当气候出现严重问题,的确威胁到人类生存时,才会取得共识,但是,为时已晚,早已付出巨大代价。金融泡泡问题,也是相类似。没有充分证据可以证明,同业理财不断爆发、房地产价格和信贷自强化增长,会真的摧毁经济。当经济被摧毁时,人类才会吸取教训,原来这种自循环杀伤力如此大,可以吸纳大量资源,导致整个系统崩溃。
在人体,一个最常见的自指循环现象,就是癌症。癌细胞,无法遏制增长,突破整个免疫系统控制,最后引发死亡。原本,系统设计机制存在遏制自指循环的能力,但是,因为某种原因,丧失了这种扼杀癌细胞恶性繁殖的力量,就会导致整个系统崩溃。
人类的知识系统也同样。人类创造出各种各样的概念,各种各样的逻辑体系,但是,这些逻辑体系中“既不能证明,也不能证伪”的这一部分,属于不可知“智能”。上帝和安拉,是不是存在,这就是自指循环。你跟信徒争论这些没意义,他们的计算系统,已经进入一个可怕的循环中,跳不出来。这些人工智能体,是不是有毛病?偶不知道啊。
人脑,是一种计算设备。这种设备,可以陷入自指循环悖论中,也可以不陷入。正因为如此,人工智能才真的非常难。如何,才能设计生产出同人类
前文举出来的两个例子,一个是温室效应问题,一个是金融泡泡问题。一部分人,觉得这都是臭氧层的问题,既不能证明,也不能证伪。温室效应,其实可以证明,当气候出现严重问题,的确威胁到人类生存时,才会取得共识,但是,为时已晚,早已付出巨大代价。金融泡泡问题,也是相类似。没有充分证据可以证明,同业理财不断爆发、房地产价格和信贷自强化增长,会真的摧毁经济。当经济被摧毁时,人类才会吸取教训,原来这种自循环杀伤力如此大,可以吸纳大量资源,导致整个系统崩溃。
在人体,一个最常见的自指循环现象,就是癌症。癌细胞,无法遏制增长,突破整个免疫系统控制,最后引发死亡。原本,系统设计机制存在遏制自指循环的能力,但是,因为某种原因,丧失了这种扼杀癌细胞恶性繁殖的力量,就会导致整个系统崩溃。
人类的知识系统也同样。人类创造出各种各样的概念,各种各样的逻辑体系,但是,这些逻辑体系中“既不能证明,也不能证伪”的这一部分,属于不可知“智能”。上帝和安拉,是不是存在,这就是自指循环。你跟信徒争论这些没意义,他们的计算系统,已经进入一个可怕的循环中,跳不出来。这些人工智能体,是不是有毛病?偶不知道啊。
人脑,是一种计算设备。这种设备,可以陷入自指循环悖论中,也可以不陷入。正因为如此,人工智能才真的非常难。如何,才能设计生产出同人类
