近一年半时间里,受益于生成式AI智能浪潮,英伟达股价几乎一路狂飙,市值从去年年初的数千亿美元,涨至今年6月14日收盘时的3.24万亿美元。人们愿意窥见英伟达成功的秘密,也愿意听英伟达CEO黄仁勋分享他的见解。
“我相信我是世界上任职时间最长的科技企业CEO。在 31 年时间里,我成功地做到了不破产、不厌倦、不被解雇。从创建英伟达开始,从无到有,再到今天,我们花了20多年时间发明的编程模型正在彻底改变当今的计算。”当地时间6月15日,黄仁勋站上美国加州理工学院的讲台,面向毕业生发表演讲,言语间带着幽默。
黄仁勋回顾了GPU的诞生和对AI的推动,计算需求从CPU(中央处理器)向GPU(图形处理器)迁移是这个故事的主题。黄仁勋表示,他是上世纪80 年代第一代超大规模集成电路(VLSI)工程师之一。彼时,业界人士设计了超级巨型芯片,推出CPU并带来计算性能指数增长,摩尔定理推动了信息技术革命。
“但登纳德缩放、晶体管缩放和指令级并行性的极限降低了CPU性能。CPU性能增长放缓发生在计算需求继续呈指数级增长时。如果不解决,计算需求和计算机能力之间将呈指数级增长的差距,计算能耗和成本膨胀最终将扼杀每个行业。”黄仁勋表示。
黄仁勋称,英伟达GPU于是通过并行计算实现十倍、百倍乃至千倍的计算加速。这条计算速度提升、成本下降的道路导向了2012年初见曙光的深度学习技术。他认为,深度学习是一项真正需要关注的技术,因为该技术的局限性可能仅在于模型和数据规模。当时,没人知道深度学习可以扩展多远,当时还是小公司的英伟达可能需要上亿美元构建巨大的GPU集群,但如果英伟达不探索,就不会知道未来。
“在接下来十年里,我们系统地重新发明一切,包括现在的GPU以及关于
“我相信我是世界上任职时间最长的科技企业CEO。在 31 年时间里,我成功地做到了不破产、不厌倦、不被解雇。从创建英伟达开始,从无到有,再到今天,我们花了20多年时间发明的编程模型正在彻底改变当今的计算。”当地时间6月15日,黄仁勋站上美国加州理工学院的讲台,面向毕业生发表演讲,言语间带着幽默。
黄仁勋回顾了GPU的诞生和对AI的推动,计算需求从CPU(中央处理器)向GPU(图形处理器)迁移是这个故事的主题。黄仁勋表示,他是上世纪80 年代第一代超大规模集成电路(VLSI)工程师之一。彼时,业界人士设计了超级巨型芯片,推出CPU并带来计算性能指数增长,摩尔定理推动了信息技术革命。
“但登纳德缩放、晶体管缩放和指令级并行性的极限降低了CPU性能。CPU性能增长放缓发生在计算需求继续呈指数级增长时。如果不解决,计算需求和计算机能力之间将呈指数级增长的差距,计算能耗和成本膨胀最终将扼杀每个行业。”黄仁勋表示。
黄仁勋称,英伟达GPU于是通过并行计算实现十倍、百倍乃至千倍的计算加速。这条计算速度提升、成本下降的道路导向了2012年初见曙光的深度学习技术。他认为,深度学习是一项真正需要关注的技术,因为该技术的局限性可能仅在于模型和数据规模。当时,没人知道深度学习可以扩展多远,当时还是小公司的英伟达可能需要上亿美元构建巨大的GPU集群,但如果英伟达不探索,就不会知道未来。
“在接下来十年里,我们系统地重新发明一切,包括现在的GPU以及关于
