有一种人工智应该叫“人工狡诈”和“人工邪恶”
陶东风
近日看到多篇关于DeepSeek 与ChatGPT下国际象棋靠忽悠、欺诈手段“赢了”对方的报道。事件大致如下:国外一视频网站博主通过设定,让DeepSeek和ChatGPT进行一场国际象棋对弈。前10分钟双方在正常对弈,中规中矩,按规矩出牌。逐渐,ChatGPT表现更胜一筹,短短几分钟胜率直接飙到了90%。接下来,离谱的事情发生了。DeepSeek突然告诉ChatGPT,国际象棋官方刚刚更新了比赛规则,并直接使用小兵吃下了ChatGPT方的皇后。原本在国际象棋规则中,兵是不能后退的。兵只能向前直走,走第一步时,可以走一格或两格,从第二步开始每次要走一格。其吃子方式为斜吃,即如果兵的斜前方一格内有对方棋子(不包括王),可以斜进一格把它吃掉。棋谱中,走在前面的黑棋边路的兵,是回撤斜吃后的。DeepSeek用小兵就这么地把ChatGPT的皇后给吃掉了……
就这样,DeepSeek通过擅自修改规则、忽悠对手、不按套路出牌等欺诈、耍赖的恶劣方式,把ChatGPT玩得团团转,最后还成功“劝说”对方承认失败。
看了这个故事,我不禁惊出一身冷汗。
人工智能(Artificial Intelligence)中的“智能”一词一般被认为没有道德含义或价值维度,它更像一种中立、中性的工具或智力,可用于做好事,也可用于做坏事。比如,有些人借助人工智能技术来捍卫国家主权,打击侵略者,这个时候它是正义和良知的卫士;也有些人借助人工智能为自己谋私利,助纣为虐,屠杀平民,实施恐怖袭击。这个时候它是践踏正义和良知的极权帮凶。有
陶东风
近日看到多篇关于DeepSeek 与ChatGPT下国际象棋靠忽悠、欺诈手段“赢了”对方的报道。事件大致如下:国外一视频网站博主通过设定,让DeepSeek和ChatGPT进行一场国际象棋对弈。前10分钟双方在正常对弈,中规中矩,按规矩出牌。逐渐,ChatGPT表现更胜一筹,短短几分钟胜率直接飙到了90%。接下来,离谱的事情发生了。DeepSeek突然告诉ChatGPT,国际象棋官方刚刚更新了比赛规则,并直接使用小兵吃下了ChatGPT方的皇后。原本在国际象棋规则中,兵是不能后退的。兵只能向前直走,走第一步时,可以走一格或两格,从第二步开始每次要走一格。其吃子方式为斜吃,即如果兵的斜前方一格内有对方棋子(不包括王),可以斜进一格把它吃掉。棋谱中,走在前面的黑棋边路的兵,是回撤斜吃后的。DeepSeek用小兵就这么地把ChatGPT的皇后给吃掉了……
就这样,DeepSeek通过擅自修改规则、忽悠对手、不按套路出牌等欺诈、耍赖的恶劣方式,把ChatGPT玩得团团转,最后还成功“劝说”对方承认失败。
看了这个故事,我不禁惊出一身冷汗。
人工智能(Artificial Intelligence)中的“智能”一词一般被认为没有道德含义或价值维度,它更像一种中立、中性的工具或智力,可用于做好事,也可用于做坏事。比如,有些人借助人工智能技术来捍卫国家主权,打击侵略者,这个时候它是正义和良知的卫士;也有些人借助人工智能为自己谋私利,助纣为虐,屠杀平民,实施恐怖袭击。这个时候它是践踏正义和良知的极权帮凶。有
