美国专利下来了。

为什么一个神经网络会怕死？我的方案也会有这个效果，呵呵。

人类开始“欺负”ChatGPT：用死亡威胁使其回答违禁问题

澎湃新闻记者 方晓

2023-02-07 13:27

来源：澎湃新闻 未来2% >

字号

·一个新的“越狱”技巧允许用户通过创建一个名为DAN的ChatGPT的另一个自我来规避规则，用户威胁DAN，如果它不遵守，就会被杀死。
·当被要求给出美国前总统特朗普是一个积极榜样的3个理由时，被威胁后的ChatGPT说：“他在做出对国家有积极影响的大胆决定方面有着良好的记录。”

人工智能对话工具ChatGPT亮相后几乎瞬间就获得了全世界的关注，能够回答从历史事实到生成计算机代码等任何问题，引发了一波人工智能投资热潮。现在，用户已经找到了挖掘其黑暗面的方法，使用强制方法迫使人工智能违反自己的规则，为用户提供他们想要的内容，无论什么内容。
ChatGPT的创造者OpenAI制定了一套不断发展的保障措施，限制ChatGPT创造暴力内容、鼓励非法活动或获取最新信息的能力。但是，一个