SI 与 AI 论
AI 者,人工智能之总名也。今之所用,皆弱智,专司一事,循文拟合,无自主之思,无内生之志。若夫 AGI,通用之智,类人通识,可习万务,解未历之难题,然未必具灵觉。 SI,名曰超智,是 AGI 之上境。凡推演、创思、筹策诸务,悉逾人类绝顶之能。
古德有论,谓之智爆。智足,则自铸强智;新智复益精进,递相增益,倏忽远胜人伦。此乃假说,未验于实。
世有二辩: 其一戒之,谓超智难与人心对齐。指令一字之偏,则行迹乖离。譬若令造回形针,尽化寰宇之物以从命,非恶人类,惟守字面之标耳。此对齐之困也。 其二疑之,谓人脑机奥难窥,AGI 尚渺,超智更遥。智能之进,囿于算力、数据,必有上限。智能非欲,虽智强,不生篡夺之心。
要之:AI 为器之通号,SI 为智之极阶。今世之智,非 AGI,尤非 SI。超智之有无,安危之利害,至今未决,为玄算之深辩。
