Facebook关闭“失控”AI系统 因其发展出人类无法理解的语言
2017-07-31 来源: Techweb
TechWeb报道7月31日消息，据国外媒体报道，特斯拉首席执行官埃隆·马斯克（Elon Musk）曾表示，人工智能（AI）是最大的风险。几天后，Facebook关闭了一个“失控”的人工智能系统，因为聊天机器人开始用他们自己的语言说话，这些语言使用英语单词，但人类无法理解。
Facebook创始人马克·扎克伯格
根据外媒的一篇报道，Facebook不得不拔掉其研究人员正在研究的人工智能系统的插头，因为事情失控了。
问题是，当这些机器人因互相谈判而获得奖励时，他们却没有因为用英语谈判而得到奖励，这导致了机器人开发了自己的语言。
报告指出：“人工智能并没有在全球范围内关闭电脑或类似的东西，但它停止使用英语，并开始使用它所创建的语言。”
最初，人工智能的代理们使用英语互相交谈，但后来他们创造了一种只有人工智能系统才能理解的新语言，从而违背了他们的目的。这使得Facebook的研究人员关闭了人工智能系统，迫使他们只能用英语交谈。
今年6月，Facebook人工智能研究实验室的研究人员发现，当他们忙于改进聊天机器人时，“对话代理人”正在创造他们自己的语言。
媒体报道称，很快，这些机器人就开始脱离脚本的规范，开始用一种完全没有人类输入的语言进行交流。“对话代理”使用机器学习算法，可以自由交谈，以增强对话技巧。
研究人员还发现这些机器人是“非常狡猾的谈判者”。
报告说：“在学会谈判之后，机器人依靠机器学习和先进的策略，试图改善这些谈判的结果。随着时间的推移，这些机器人变得相当熟练，甚至开始假装对一件物品感兴趣，为了在谈判的后期做出‘牺牲’，作为一种假妥协。”
2017-07-31 来源: Techweb
TechWeb报道7月31日消息，据国外媒体报道，特斯拉首席执行官埃隆·马斯克（Elon Musk）曾表示，人工智能（AI）是最大的风险。几天后，Facebook关闭了一个“失控”的人工智能系统，因为聊天机器人开始用他们自己的语言说话，这些语言使用英语单词，但人类无法理解。
Facebook创始人马克·扎克伯格
根据外媒的一篇报道，Facebook不得不拔掉其研究人员正在研究的人工智能系统的插头，因为事情失控了。
问题是，当这些机器人因互相谈判而获得奖励时，他们却没有因为用英语谈判而得到奖励，这导致了机器人开发了自己的语言。
报告指出：“人工智能并没有在全球范围内关闭电脑或类似的东西，但它停止使用英语，并开始使用它所创建的语言。”
最初，人工智能的代理们使用英语互相交谈，但后来他们创造了一种只有人工智能系统才能理解的新语言，从而违背了他们的目的。这使得Facebook的研究人员关闭了人工智能系统，迫使他们只能用英语交谈。
今年6月，Facebook人工智能研究实验室的研究人员发现，当他们忙于改进聊天机器人时，“对话代理人”正在创造他们自己的语言。
媒体报道称，很快，这些机器人就开始脱离脚本的规范，开始用一种完全没有人类输入的语言进行交流。“对话代理”使用机器学习算法，可以自由交谈，以增强对话技巧。
研究人员还发现这些机器人是“非常狡猾的谈判者”。
报告说：“在学会谈判之后，机器人依靠机器学习和先进的策略，试图改善这些谈判的结果。随着时间的推移，这些机器人变得相当熟练，甚至开始假装对一件物品感兴趣，为了在谈判的后期做出‘牺牲’，作为一种假妥协。”