新浪博客

甲小姐对话稚晖君：深度学习并非AI的终点

2021-08-16 13:20阅读：

http://blog.sina.cn/dpool/blog/u/3483799091

甲小姐对话稚晖君：深度学习并非AI的终点
“人类不应该只存在在地球上，对于这么浩瀚的宇宙来说太浪费了。”
作者 | 甲小姐
助理 | 沁云
近日，华为“天才少年”、B站UP主稚晖君的新作自动驾驶自行车在业内刷屏。这款自动驾驶自行车不仅会直行、拐弯、避障、上路，还配备了特斯拉都没有的激光雷达，最终硬件成本不到一万。
不仅有这款自动驾驶自行车，凭借着超强的动手能力和技术实力，稚晖君在网络上展现了一系列“野生钢铁侠”的惊人脑洞创作：一台外观只有硬币大小的迷你型Linux电脑、“螃蟹改造成的火星车”、能当显示器的充电宝、带墨水屏幕的NFC名片、智能家居AR交互系统、双足机器人……
“一人抵一城”，“把自己活成了一支队伍”，“你们知道天才长什么样吗？就长这样”， “社会走出‘内卷’的关键，就在这些天才们身上”，是网友的一系列评价。
稚晖君，原名彭志辉，2018年毕业于电子科技大学，后入选“华为天才少年计划”，从事AI芯片架构和算法相关研究。
一位“技术天才少年”在关注什么、投入什么、梦想什么？本次对话，我们一起走近这位特殊的嘉宾，聊聊AI，聊聊自己，聊聊使命。

甲小姐对话稚晖君：深度学习并非AI的终点

1.谈AI：“当AI的参数规模超越人脑后，将迎来分界点”

甲小姐：最近在杨立昆的著作《科学之路：人、机器与未来》中看到你的推荐语，本书给你带来了什么？
稚晖君：杨立昆是AI之父，他的经历给我的最大启发是：怎样在人工智能几次受到质疑、几次进入低谷的状态下，他还能坚持做他认为正确的方向。他告诉了我：想做一件事，想真正在工业界、学术界或社会中获得认可，还是要坚持下去。
甲小姐：人工智能在六十多年的发展史中经历了两次低谷、三次崛起，站在当下时间点，你觉得人工智能是被市场高估了还是低估了？
稚晖君：某种程度上被高估了，某种程度上也没有。
人工智能有三驾马车：数据、算法、算力。从1956年人工智能概念被提出开始，最初AI发展的重点是算法，产生了三大人工智能学派（注：符号主义学派研究的是基于逻辑推理的智能模拟方法；连接主义学派认为可通过模拟大脑的神经网络结构来实现；行为主义学派认为可以从生物体与环境互动的模式中寻找答案），海量的数据在2000年互联网开始普及才产生，后来游戏行业的兴起带动了GPU的高速发展——最早以算法为主，后来以数据为主，再后来以算力为主，现在算力进一步升级，变成了超大算力。
最近两年爆发的趋势是模型越来越大，计算量越来越大。近期发布的一些语言训练模型，参数已达上千亿甚至万亿，这已经不是早几年大家能想象的一个AI所具备的规模了。而我觉得这个潜力还没有被发挥到尽头，可能随着计算产业进一步发展，可以把算力进一步提高到十万亿和百万亿规模。随着算力进一步提升，AI的效果还会进一步提升，这说明AI的潜力还没被挖掘完。
而另一方面我想说一下AI为何被高估。我们始终拿AI跟真实的人类对比，这是不太合适的。我们经常认为机器人就要跟人一样：具备人的形态，两只手、两只脚、有个大脑会思考、有摄像头当眼睛、有语言功能去交流对话，似乎这就叫人工智能，其实不是这样的——很多对于人工智非常困难的事，对于人类是非常简单的，比如学走路、叠衣服，人类生下来两三岁就可以了，但对于人工智能来说，到现在也非常困难。但相反的是，解决数学问题、解决科学计算、下象棋、下围棋、预测蛋白质结构，这些人类觉得难的事，对于机器来说却比较简单。
甲小姐：这就是AI的“莫拉维克悖论”——和传统的假设不同，成年人所独有的高阶智慧能力只需要非常少的计算能力，但是孩童一般的无意识的技能和直觉却需要极大的运算能力。
稚晖君：所以我们不应拿人类的行为表现完全套用到人工智能身上，这是对它高估的部分。AI确实有很大潜力，但这个潜力不一定会达到我们期望的、和人类行为完全相同的程度。
甲小姐：深度神经网络的诞生来自对人脑的模仿。对人工智能了解越深，对人类智能本身也会有更多理解。那现在的人工智能和人类智能是渐行渐近的关系，还是渐行渐远的关系？
稚晖君：人工智能现在才刚到爆发点。之前有个阶段是“有多少人工就有多少智能”，那时AI的智能程度纯粹依靠人工对数据的标定、特征的设计和算法的设计，这是比较原始的阶段；后来进入数据驱动时代，大数据和超大规模模型可能将AI带入到一个分界点，这以后AI可能做到人类之前无法想象的事，再也不像之前一些小打小闹的人工智能：只做些图像识别、人脸识别、语音识别、简单对话，然后让它去测图灵测试。我觉得之后可能会到分界点，产生一些新人工智能的范式——我们所谓的强人工智能可能会在20年内实现，它会是AI真正突破人类的分界点。
甲小姐：这个分界点具体指什么？
稚晖君：人脑的参数量是860亿神经元，它的连接数大概是10万亿级别，现在最大的人工智能模型的参数已经逼近这个数字，估计明年可以达到万亿级别，跟人脑的复杂规模已经相当，这会是一个分界点。这之后，可能人工智能真的会产生一些自主意识，能够实现一些自我更新迭代的能力。所以后面的发展可能跟之前的表现形式会完全不一样。
甲小姐：你的意思是，过去人工智能对人类智能是模仿和追赶的逻辑，过了分界点后，人工智能和人类智能可能走向两个方向？
稚晖君：也可以这么理解。其实人工智能一直分很多流派，有的是人脑路线，有的不是，最终肯定会有一个主流的方式，而我觉得主流的方式应该会跟人脑不同。
甲小姐：这个主流范式现在初见轮廓了吗？
稚晖君：还处于比较早期，20年内我觉得是很有希望的。
甲小姐：杨立昆深信不疑的是：深度学习就是人工智能的未来。但你刚才说的新范式是指，人工智能的未来会有比深度学习更先进的思想出现？
稚晖君：对。我对人类的技术发展还是抱有信心的。我们以前认为的一些技术方向，比如整个IC芯片业都是以半导体为基础的，都以硅为介质，但现在到了一纳米级别了，已经到尽头了，继续发展还能突破物理的限制吗？我觉得不太可能。很有可能是一种新型革命性技术的产生，去突破一纳米以下的规则。我们肯定要以发展的眼光看深度学习——这是一项已经发展了很久的、很成熟的、也产生了了不起作用的技术，但未来肯定有更先进的技术方向。
甲小姐对话稚晖君：深度学习并非AI的终点



甲小姐：在你看来，深度学习并非AI的终点？
稚晖君：对。深度学习是黑盒模型，是不可解释的AI，我们只知道输入和输出的数据，中间是怎么运算的、有什么原理，我们是搞不清楚的。现在也有一个流派叫做Explainable AI (XAI) ，可解释的AI，跟之前是完全不一样的方式，很有希望成为主流。
甲小姐：我曾经对话过吴军老师，他的观点是今天的AI能解决的其实是非常小的一类问题（如下图），他画了一张图，从大到小的包含关系是：所有的问题→数学问题→可判定问题→有答案问题→可计算问题→工程可解问题→人工智能问题。他的意思是，在所有问题中，人工智能只能扮演一个很小的角色——你觉得这个图表的关系会随着AI新范式的到来而变化吗？AI的边界会扩大吗？


甲小姐对话稚晖君：深度学习并非AI的终点


稚晖君：当然。早在20年前，我们还无法想象人工智能在NLP领域的应用，无法想象一位虚拟主持人会让你分辨不出真假。即便我们按照最传统的理解，认为人工智能的终极目标就是人类智能，那既然人可以解决这么多问题，等到人工智能具备像人一样的意识和智能程度时，大多数人类面临的问题AI都是可以解决的，AI的范围肯定在不断扩大。
甲小姐：你的意思是，不可计算的、可计算的、数学的、不数学的，只要是人能解决的，在未来AI都应该能解决？
稚晖君：对。但如果是一些物理或数学本质上有限制、本身没有答案的问题，或者是哲学问题，或者是没有标准答案的模糊问题，AI也不太可能去解决。
甲小姐：概括一下，现在AI最可以发挥作用的场景有哪些？哪些场景AI不会起很大作用？
稚晖君：做得好的主要是跟复杂计算相关的，包括人机交互、语音、视觉、NLP等；做的不好的有人工智能跟机械的结合。人工智能毕竟只是软件层面的技术，不涉及实际的物理操作。单从机器人角度来看，流水线上的各种工业机器人已经应用了很多年，工业4.0的转型力度也很大，单从人工智能角度看也发展得很快——但机器人和人工智能两个技术的结合还没有很好的发展。
甲小姐：之前对话特伦斯，他说AI现在还不具备小脑的能力，更多还是大脑皮层的能力，原因是什么？
稚晖君：具体原因我也不知道，但我之前做过机器人，开发机器人的整个流程其实不太涉及AI，哪怕含金量最高的波士顿动力机器人，里面一行AI的代码都没用到——它飞檐走壁、跟人一样非常流畅地适应各种地形，但这些是传统的运动控制方法，没有现在的AI技术在里面。
目前机器人一般是嵌入式系统，一个人形大小的机器人里不可能装一台超级计算机进去，如果你要把它放到云端去计算，通信的延迟又不是这个需要实时反馈的场景能接受的。所以机器人和AI目前还没有一个很好的契合度，但我相信以后会有这样的趋势。




甲小姐：AI会涉及情感领域吗？
稚晖君：现在的AI已经有了情感分析技术，我们把它归纳于通用人工智能的范畴。现在的大模型可以做到给它一段话，它就能把图像生成出来，给它一张图像，它就能给你描述这个图像讲的是什么故事，包括作曲、写文章、绘画都可以做到，但AI自己知不知道自己在做什么？它不知道。很大程度上它还是在一个大规模的数据空间里找一个相对好的解，但没有真正的产生意识——它并不知道自己写的文章是什么意思。
甲小姐：现在有任何迹象表明AI可能会有意识吗？
稚晖君：不知道，可能参数规模超越人脑之后会产生这种情况。如果是的话，就是一个分界点。
甲小姐：过去六十多年人们对AI的发展争议不断，态度呈现两极分化，有人认为它很强大，有人认为它是泡沫。杨立昆这本书里有一段描写：拉希米曾断言“我们对人工智能的发展过于自大了，目前的人工智能只不过是一个还能用的炼金术”，这激起了杨立昆的强烈反击。关于人工智能到底是不是炼金术的讨论一度风靡一时。在你看来，AI在当今社会究竟扮演多大的角色？是“炼金术”（被高估的技术），是“水电煤”（基础设施），还是“颠覆者”，甚至是“终结者”？
稚晖君：都有可能，但我觉得工具就是工具，工具产生什么效果取决于我们使用工具的人怎么看待这个事。核技术可以用到战争中，也可以用于核电，我们不能因为潜在的威胁就因噎废食不去发展，发展中带来的问题只能用更高层次的发展去解决。整体而言，我对AI比较乐观，我相信它会带领人类进入一个新纪元。
甲小姐：刚才很多讨论是基于AI的“实然”层面。从“应然”角度看，AI有边界吗？AI和人类的关系是否该有一些领地限制？
稚晖君：肯定要有，所有技术都会有，包括能源。所以我说发展中产生的问题需要靠进一步的发展去解决。
甲小姐：幻想10年后，人和机器应该是什么样的关系？AI的发展是否会让人类作为一个种族变得更愚蠢？
稚晖君：不会，我个人更倾向于人类与AI和谐共处的方式。比如互联网拓展了我们获取信息的边界，手机基本成为了人类的一个新的器官，我觉得等脑机接口相关技术成熟、普及后，人工智能将作为人体的一部分延伸，成为人类一个非常强大的“外器官”。






2.谈自己：“我并非天才少年”



甲小姐：在B站我们可以看到你做了很多很酷的科技发明创造，你做这些的动机来自哪里？
稚晖君：其实我并不只对人工智能感兴趣，我个人学的比较杂，本科学生物，研究生学通信，我对机器人也感兴趣，总的来说，我对整个泛科技领域都非常感兴趣。我还相信21世纪的下半场是生物科学的世纪，那时的生物科学会跟现在的人工智能一样火，那个时代是很值得期待的。
甲小姐：为什么你可以做到同时对不同门类的技术融会贯通？
稚晖君：肯定有先天的因素，有的人可能天生就适合搞科研、搞技术，有的人天生就适合跟别人打交道，这和每个人的性格、大脑构造有关。我比较内向，我觉得写代码、跟机器交流比跟别人交流要有意思得多，这可能是先天基因区别。当然也有后天接触事物的影响，我小时候在广东长大，那边科技氛围比较好，我家附近有一家新华书店，我经常去看各类书籍，我从小就看过爱因斯坦、麦克斯韦、波尔这些科学家的故事。
甲小姐：为什么你可以建立这么全栈的能力？
稚晖君：最核心的就是兴趣。前提条件也有挺多——有天时，现在科技是整个世界的主流趋势；有地利，中国是科技崛起的地理环境；也要有个人的天赋和后天的努力积累，但这些条件的前提是我自己得有兴趣，不然很多事我是把握不住的。
甲小姐：你在B站上说自己是“野生钢铁侠”，钢铁侠是你的偶像吗？
稚晖君：我挺喜欢看科幻电影的，但我更喜欢硬科幻。我喜欢的不是《漫威》，而是《三体》，我看了10多遍。我比较崇拜的钢铁侠不是电影里的钢铁侠，而是现实中的马斯克，但不包括他这些年发生的一些变化，他在社交媒体的一些言论和他在金融圈的一些操作，我只是欣赏他的一些行为，而不是这个人。
甲小姐：有网友说你“一人抵一城”，“把自己活成了一支队伍”；甚至有媒体提到你时说，“社会走出‘内卷’的关键，就在这些天才们身上”，你对自己的评价是什么？你在自己心中和在网友心中的评价一样吗？
稚晖君：没有，我觉得搞技术的相对来说可能比较务实，我对自己的认识也比较清晰，不然可能很难做好技术。大家说“天才少年”，其实我既不是天才也不是少年，我跟韦东奕这样的人还是有差距的。
甲小姐：你测过智商吗？
稚晖君：我不太信这个东西，通过回答几道题就能把智商测出来，我认为不太靠谱。
甲小姐：你会觉得某件事很难吗？
稚晖君：肯定会有，所有技术在刚接触时都是一个难关，但做多了之后其实是有套路的。知识和知识是相通的，学习能力、查资料的能力、信息提取的能力是相通的。
甲小姐：下一个你想实现的作品是什么？
稚晖君：现在的问题不是没有创意，而是没有时间。我点子特别多，我有一个idea库，里面列了很多后面准备做的事。我比较喜欢做一些大家没做过的作品，如果市面上已经有了，我就不太感兴趣了。
甲小姐：B站的走红会让你更有压力还是动力？
稚晖君：我很佛系，也不专心运营，B站官方已经联系过我很多次，问我要不要签约当全职UP主，目前为止都有几百家MCN公司问我要不要签约，我觉得没必要，这只是一个业余兴趣。能有大家的关注是很开心的，但如果没人看，我自己做的过程也已经比较开心了。

我的更多文章

下载客户端阅读体验更佳

APP专享