黄仁勋口述:英伟达的发展之道和星辰大海

黄仁勋口述:英伟达的发展之道和星辰大海线上对话还未进入后半程,黄仁勋表示自己有点犯困

66308d6916c624010c101fd19f43d851.png

来源|wandb.ai

翻译|刘畅

线上对话还未进入后半程,黄仁勋表示自己有点犯困。早前,当天凌晨三点钟,这位英伟达CEO就起床看书了,这个时间确实有点早,看起来在白天也没能补充一些休息时间。即便如此,在机器学习节目《Gradient Dissent》的近一个小时访谈中,谈及AI、全宇宙等新技术,以及回顾英伟达所做的那些大事时,“兴奋”是他的高频词,说了至少十次。

从进军深度学习的背后故事出发,他总结了英伟达所做的三件大事,并且分享了过去几十年里积累的管理经验,还介绍了为什么需要一个遵循物理定律的虚拟世界,以便将AI带入下一个时代,而这也是他们构建全宇宙(Omniverse)的原因。此外,他还分析了关于量子计算、奇点以及MLOPs重要性的见解。

在本次访谈中,他主要表达了这些观点:

  • 开发者不应该老是担心软件在芯片上能不能跑,在各种业务负载上要一直能跑。

  • 人工智能是已经出现的最强大的技术力量,它的好处之一是使计算机科学平民化。

  • 我一直倾向于直接和团队沟通,这样做更透明,所有人都能获取到第一手信息和知识,而不是我的想法被转述、重复和解释。

  • 每家公司都应该知道,未来的软件开发有点像炼丹,这是一个MLOps的过程。

  • 虚拟世界将会有更多的创新、设计和创造力,而不是在物理世界中进行所有的创新和设计。

  • 在未来10年里,不一定是在晶体管层面,在计算层面我们绝对会看到更大的进步。

  • 最有价值的不是智能。归根结底,有价值的是技能。

  • 如果人工智能要进入下一个阶段,就必须学习物理定律。

以下是完整对话内容,OneFlow社区做了不改变原意的编译。

1

进军深度学习的契机与思考

Lukas:我发现,现在几乎所有训练机器学习模型的人都使用NVIDIA显卡,你是从何时开始思考要支持机器学习的,又是如何做的?

Jensen:最开始的时候,有三个不同的研究团队几乎同时联系我们,要求帮助加速他们的神经网络模型,他们都试图参加ImageNet竞赛。2012年,AlexNet的横空出世打破了计算机视觉研究的现状,而之前许多人都是使用NVIDIA显卡和手工设计的特征来做同样的事情,这一巨大突破引起了我们的注意,让我们开始有进军深度学习的意识。

当我们意识到可以不用写软件,不用手工去设计或者创建特征,而是以某种方式自动从数据中识别模式、关系,或者从一些预测模型的表征中学习,我们开始思考,这对计算机视觉乃至软件的整体实现意味着什么?

早期的调研结果让我们提出了一些问题:这会如何影响软件的未来?如何影响计算机科学的未来?如何影响计算的未来?如果你编写软件的方式不同,那么它将如何改变设计计算机的方式?如果所编写的软件是由计算机编写,而不是由人编写,这又将如何影响设计计算机的类型?

我们思考了神经网络对整个计算机科学领域和整个工业领域的影响,问自己,这对一切的发生意味着什么。这最终衍生出一个问题:这将对所有不同的行业有什么影响。

Lukas:最了不起的是,英伟达一直在市场上保持着领先优势,你们做对了什么?

Jensen:部分原因是我们一直深耕在加速计算领域。从我们公司成立以来所有新的特定领域的应用加速方式,计算机图形就是其中之一,还有科学计算和物理模拟,还包括图像处理,你可能认为深度学习也是另一回事。总之,在这些不同的应用领域,我们的最初使命是做加速计算。

为了做特定领域的加速计算,你必须是一家全栈公司,必须理解什么是应用,以及你试图加速的应用的性质。你必须重新设计算法,因为你为串行处理编写的开发算法方式与并行处理完全不同。此外,你必须以不同的方式思考软件和系统,必须以不同的方式思考芯片架构,因为工作负载改变了瓶颈(bottlenecks)所在。

我们很幸运是一家全栈公司,一直致力于算法研究,掌握了从计算机图形到图像再到科学计算所需的技能,

今天的文章黄仁勋口述:英伟达的发展之道和星辰大海分享到此就结束了,感谢您的阅读。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。
如需转载请保留出处:https://bianchenghao.cn/68687.html

(0)
编程小号编程小号

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注