宋尧 深鉴科技CEO
编辑| 杜宝杰
微信 | 爱行秋
网址|
大家都称我们为人工智能芯片公司。 事实上,这种概括是相当粗略的。
最近的一件大事是我们在7月18日宣布该公司被美国赛灵思(Xilinx)正式收购。 业内也给出了很多评价,包括业内另一家公司寒武纪的陈云霁也表示,“这可能是中国科技史上一个比较正面、正面的例子。”
AI芯片是目前非常非常热门的话题。 已经火热了一年多了,而且因为今年的一些热点事件,大家也更加关注这个领域了。 因为这个领域的技术细节太多,人们常常不知道该怎么办。 感觉就像一家随机公司如果不是人工智能公司就无法在这个市场竞争,而一家新的人工智能公司如果不生产芯片就无法在这个市场竞争。 市场鱼龙混杂,确实存在很多陷阱。
回到最根本的问题,我们还是要弄清楚一个概念,什么是AI? 今天我们谈论人工智能的时候,可能更多地谈论机器学习、深度学习,甚至深度强化学习等。人工智能其实是一个非常宽泛且想象的概念。 我们需要更深入地了解它使用了哪些机器学习方法。 目前最核心、效果最好的是深度学习。 深度学习分为推理和应用。 我们用大数据来计算一个算法,并用这个算法来做一些实际工作。 应用和算法中有数万个无数的神经网络,加上其他算法运行框架,可以构建不同的应用。 人工智能的范围太广泛了。
如果从做AI芯片的角度直接看坐标轴的话,最左边的是最常见的,比如常说的CPU,所有的人工智能算法都可以运行。 如果是在中间的话,比如只跑机器学习,我也可以说只跑深度学习。 深度学习也分为两个阶段,一个叫训练,一个叫应用。 您可以仅运行训练或仅运行应用程序。 芯片可以运行一种神经网络,也可以运行多种神经网络,现在都称为AI芯片。
因此,当你看到这样的概念时,你需要认真问一下,你支持什么样的功能,支持机器学习还是应用学习,是多种算法还是一种算法ip形象,因为它的开发难度、开发周期、以及实际应用场景可能差异很大。
1
人们常说这就是所谓的弯道超车机会,但实际上要做到这一点是非常困难的。 我们公司经历了几个阶段的发展。 为什么这比开发传统芯片更困难? 我举个例子。
以CPU公司为例。 当谈到CPU公司时,人们会想到ARM和Intel。 ARM将开发处理器的设计,但不会生产芯片。 它以IP的形式授权给客户。 它产生时不会开发操作系统,也不会开发私有语言环境。 这些东西都会交给下游公司去开发,完成指令集协议,设计架构。 除此之外,没有必要。 的。
英特尔更进了一步,真正可以生产芯片了。 为什么它能做到这样的事情,因为指令集是一个非常好的接口。 CPU需要什么就可以运行。 当你定义了中间层这样的东西之后,你只需要抓住中间核心层,CPU公司就可以集中精力把这个东西做好。
如果它是一个可以运行任何东西的芯片,那么芯片的设计就可以与应用区分开来。 但作为一家小型芯片公司,你不可能有Windows这样的公司来支持开发。 没有Wintel联盟,没有自己开发软件的编程环境,也没有公司说要为你开发上层应用程序或软件。 ,没有形成像Intel和ARM那样的生态系统。
如果我只做IP核,你觉得ARM每年的营收是多少? 它一年销售数十亿台设备,最终收购估值只有300亿美元,与英特尔相差甚远。 即使全世界一年有几十亿台设备,总收入也不高,为什么呢? IP核由客户授权生产,IP交付给客户,这意味着创收会非常缓慢。 像 ARM 这样的公司已经努力了几十年才达到目前的地位。
所以我们发现如果你是一家AI芯片公司,你就得考虑做哪些层。 如果只做IP核层面,不做芯片,一是营收规模严重不足,体量很小。 收取的钱也很少,收入也会很滞后。 该芯片生产已经一年了,而生产的芯片被系统和解决方案公司用于其产品也已经过去了一年。 当你的芯片设计完成后,可能至少需要两年时间才能产生实际收入。 这个时候就需要考虑要不要做芯片、做IP、做系统。 因为没有人为你的指令集开发Windows,也没有人这样做。 谁将开发该软件?
你必须向客户展示一个非常漂亮的案例。 这时候你问是否需要找一些算法库的应用案例。 这是一个非常复杂的问题。 你要把芯片、系统、软件甚至算法和解决方案都整合起来。
还有一点就是我们要探索如何把生意做好。 从技术到产品再到商品又是一个阶段。 比如我做了一个我认为性能特别好的芯片,但是不一定是客户想要的,所以你要花大量的时间去了解客户,接触客户的真正需求才可以最终将顾客与产品绑定在一起。 。
2
我对产品做了分层:第一层是可用的产品,第二层称为易于使用的产品,第三层称为用户喜欢使用的产品,第四层是客户离不开的产品。
以支付宝为例。 例如,可以使用支付宝。 有什么可用的? 满足一些基本功能,支付宝只要能绑定信用卡和银行卡进行支付,就已经可以使用了。 什么是容易使用? 可以保证支付环节安全,账户信息和密码信息不会被任何人窥视。 这样的过程是顺利的,不会有BUG。 这是一个有用的产品。 如何让用户有非常好的用户体验? 比如现在扫描二维码,此时用户连接性并不强,因为支付宝可以扫描,微信支付也可以随时切换,所以支付宝实现了很多其他的功能。 比如芝麻信用,利用这样的信用体系,可以租房,可以贷款,可以用在很多行业。 它还拥有很多理财、购买基金等各种应用。 当你把钱投入其中时,钱就会产生钱。 银行好了,那么用户就真的离不开它了。
AI芯片也存在这样的问题,但有些人只关注最基本的东西。 我的芯片可以运行人工智能算法,而且运行得很好。 此类产品不具有竞争力。
首先,想要让用户方便使用,就必须有更好的开发流程。 有两家典型的GPU公司可供比较,一家是Nvidia,一家是AMD。 在人工智能时代,英伟达正在追赶AMD。 AMD想要跑人工智能,所有代码都得手写。 这个工艺远远落后于Nvidia。 没有人性化的开发流程,用户不能说这款芯片好用,但性价比还不错。
Nvidia的GPU有自己的开发流程。 您不需要更改任何 GPU 上的软件,就像购买任何宽英特尔 CPU 一样。 三年前写的GPU程序在现在的GPU上也能运行得很好。 ,即使你是一个菜鸟,如何使用GPU来运行一些程序,几周后你可能就会熟悉了,而且用户体验非常好。
为何英伟达在人工智能芯片领域占据99%的份额? 这其中有巧合的因素,也有持续沉淀的因素。 当时大家都看到了神经网络在深度学习领域的第一个突破。 深度学习开发的软件是一名学生制作的,现在已经在Facebook上发布了。 因为它简单易用,所以大家都开始使用它。 在开源网站上开展了无数的开源项目,积累了非常好的经验。 在这样的条件下,用户确实很难离开它。 Nvidia在这个行业也占有非常强的竞争力。
从我个人的角度来看,我在很多采访中也说过,一家公司不可能正面挑战英伟达,除非有障碍。 能做的就是找到Nvidia的社区和Nvidia的壁垒,不存在一个特定的垂直行业有这么高的水平ip形象,或者一个特定的场景是Nvidia的优势无法发挥出来的。 只有在这个类别中你才能击败它。
3
用户需要什么,是一件很有趣的事情。 包括我们在讲天使轮融资的时候,深鉴科技是清华大学、斯坦福大学的一群人写的,我们做了一个技术。 这个技术不错,可能可以用在ABCD等方面。 关联。
很多创办科技创业公司的人都是自下而上思考的,但如果真正站在行业中去看,最终的产品会用在哪个环节,可能和你设想提供的产品解决方案有很大的不同。
以安防行业为例,最终用户是政府和公安。 政府和公安需要做一个智慧城市工程,一个智能监控工程。 这么大的系统,有很多东西,比如摄像头硬件的采购。 购买服务器,购买视频管理软件,中间有一个叫做NVR的东西。 99% 的视频都可以存储在本地。 如果小区的视频可以存储在小区的保安室中,则可以在服务器中使用该芯片。 如果用在NVR中,可能用在摄像头中,但一定不仅仅是AI计算功能,还必须有降噪、数据传输接口,要提供完整的AI模块,视频必须传输到芯片、人脸识别算法需要软件才能把硬件做好,而且有很多层的区别。
您离最终用户越近,您获得的收入就越多。 当然,难度越高,需要做的系统集成工作就越多。 如果离客户越远,产品发布到真正大规模收益回报的时间就会越长。 最大限度地减少客户开发并尽可能增加收入。
另外一部分事情,在芯片开发的过程中你会发现一个很奇怪的事情。 芯片公司是芯片公司,软件算法应用公司是软件算法应用公司。 这就导致了,如果我做了一个芯片,它就可以被更多的人使用。 许多人会有不同的需求和计划。 我不知道芯片。 能不能满足他们,或者说我的芯片能不能在满足他们各种要求的同时,做得特别好。
例如,英特尔的竞争优势之一也是历史上最大的负担。 它对Intel这几十年的架构的兼容性和支持已经越来越臃肿。 大家都说是挤牙膏。 于是一些公司很快就开始研发芯片,比如谷歌研发的TPU芯片。 TPU芯片一出来,性能就这么好了。 他们可能在 2014 年制造了这款芯片,几年之内他们就可以与 Nvidia 平起平坐。 这个趋势是因为大家开始思考我做芯片是不是不需要支撑一切。
英特尔开发的芯片必须考虑多种应用。 谷歌在开发芯片时,只需要满足自己的应用,就限制了范围。 告诉你哪些算法我只能用芯片ip授权是什么意思,哪些算法针对哪些优化,包括我们正在做的很多事情。 我们将算法和芯片放在一起,以提供完整且优化的演示。 大家发现这样的整体效果是最好的。
我们公司的一个非常核心的技术叫做深度压缩。 一个简单的启发式的想法,根据不同的研究,人的大脑有300亿到800亿个神经元的数量,但在人们真正的日常思维中,你大脑中只有大约5%的神经元被激活是的,事实上, 95%的大脑处于休眠状态。 这个概念也可以扩展到所谓的深度学习人工神经网络。 当你实际应用的时候,你会发现里面的大部分参数对实际结果没有任何影响。 我们可以删除不相关的参数。 删除后就不会像芯片每天看到的文件格式计算一样了。 这时候就要考虑如何设计上层芯片架构。 这两者结合起来可以达到非常好的效果。
4
你印象中的Nvidia是一家什么样的公司? 是GPU公司还是显卡公司。 我们有一个合伙人韩松,他的导师是Nvidia的首席科学家,被誉为GPU之父。 我亲自问过这个问题。 大家称您为GPU之父对吗? 他说还是错的。 应该被称为GPU计算之父。 父亲。 事实上,英伟达目前的核心竞争力不仅仅在芯片端。
首先,如果你去开发AMD,它没有一套开发指令集让你随便写程序。 Nvidia 的 GPU 有这个功能。 你可以自己写程序,任意加速,但是能做到这样开发的人却很少。 ,还是需要学习很多底层知识,所以就做了各种各样的“库”,专门用于神经网络。 当需要进行某一层等神经网络计算时,只需调整CUDA(CUDA™是NVIDIA推出的通用并行计算架构,它使GPU能够解决复杂的计算问题)。
如何向各类新手客户进行推广? 例如Caffe、DL4J等。 这时候我们就可以看到,即使你高中学过一点计算机编程,或者是刚接触大一、大二的学生,按照他的说明安装驱动并开始运行也是非常非常方便的。 包括自动驾驶领域,硬件传感器都布置好了,买了NVIDIA的产品,简单写几行代码就可以跑起来。 大家都认为这个非常有用。
大家都在思考Nvidia到底是一家GPU公司、一家软件公司还是一家平台公司。 这个定义非常重要。 当时我问Bill Dally(NVIDIA首席科学家)一个问题,芯片与软件的比例是多少芯片ip授权是什么意思,他说我不能告诉你。 我们和Nvidia高管的个人关系还是非常好的。 当时我判断Nvidia会在两年内出售一款不带GPU的芯片。 今年1月,Nvidia发布了一款基本没有GPU的芯片。 这就是DriveXavier,它有10个DLA,是深度学习加速器。 它不是 GPU。 它拥有 1.3 TFLOPS、20 张量 Core TOPS,整个芯片只有 510 个 CUDA。 所有计算都是为AI芯片设计的。 你会发现Nvidia不再是一家GPU公司,它已经是一家系统公司,而且已经是一家软件公司。 系统架构是从应用需求出发定义的,代表着整个行业思维的转变。
我们的投资者也是收购方。 我们的母公司Xilinx是大家都知道的一家老牌芯片公司。 他们在今年一月份做出了很大的改变。 一月份,一位名叫维克多·彭(Victor Peng)的新任首席执行官在赛灵思负责软件开发工作了八年,这是一个里程碑式的事件。 他上台后,大家发现Xilinx的口号变了。 现在正在积极做各种软件,积极寻找合作伙伴,针对不同行业的解决方案,包括开始做电路板,做整体板。 。
需要超越芯片本身才有竞争力,也可能是用户真正需要的东西。
5
最后我想谈谈行业的一个新思维。 现在整个行业都在谈论AI芯片,每个人都会有一个很大的问题。 我认为有两个根本问题。
首先,人们常常误判芯片研发的难度和周期。 我想这对于很多非芯片行业的人创业来说是一个非常大的问题。
高通开发一款芯片的平均周期是五年。 芯片是一个具有一定内在周期的行业。 任何芯片的开发,即使不算基础研发两年,算基础研发也要三四年。 长业。 由于芯片的周期较长,而且在人工智能这样算法迭代极其迅速的行业,新的芯片必然会过时,这是一个非常大的问题。
这里的解决方案包括我们自己公司一直在尝试的东西。 我们一定要认真的到行业去,到你的应用层面去,真正的看到应用是什么。 我们必须从一家芯片公司转变为一家芯片公司。 一个系统公司变成了一个解决方案公司,这样当你掌握了整个堆栈的时候,你就可以保证芯片是被产品所使用的。
那么正常的芯片制作方法是怎样的呢? 这里我可以给大家举一个小例子。 例如,大基金投资了一家与打印机、耗材和设备相关的公司纳思达,为什么大基金投资与打印相关的公司? 因为这家公司发现,一年使用的打印机耗材芯片有几千万颗。 就做芯片吧。
这是市场上比较常见的芯片开发方式,也是人工智能行业一直存在的问题。 每个人都一直在用锤子寻找钉子。 似乎整个市场都批评人工智能行业落地困难、收入不足,因为它还没有沉入现实世界。 在商业逻辑上打通产业链是非常困难的,而且难度在一步步加大。
其次想一想,单片机做得非常好的、能活得很好的公司有哪些? 可能只有ARM、Nvidia和Intel这三个公司,没有其他特别大的公司。 大家都认为高通做得很好。 高通芯片的毛利润很低,更多的收入来自授权补贴。 如果要做系统公司,有哪些公司? 我觉得数量可能比这个还要多,比如IBM等,整体规模会比做芯片还要大。 很多芯片公司确实在努力往上走,从一家芯片公司往系统公司转型,这样自己可能寿命更长,收入更高,利润更高,粘性更强。
对于大家来说,首先芯片的技术难度就已经非常高了。 该芯片想要真正与Nvidia竞争非常困难。 不要相信很多公关新闻稿,也不要相信BP写的那些。 数字。
要把芯片做好,就得把芯片本身做好,把系统做好,把软件做好,业务就得找一个垂直的东西,这是一个非常好的东西。困难的事情。 各家企业都要做好充足的准备,深鉴也不例外。 一开始我们是从压缩算法开始,开发了一些架构,也一步步做了板卡、硬件、软件。 最后,我们从客户那里得到了一些。 订单就是这样一步一步来的。
当你谈论芯片时,你不能只看芯片这个词。 如果只看芯片两个字,公司就会死掉。
如果你想了解最前沿的AI技术及场景应用
AI世界的所有前瞻技术和深度报道
欢迎关注AI星球,转发朋友圈来电联系我们~~
您的支持是我们创作优质内容的不竭动力
- 本文固定链接: https://wen.nuanque.com/shouquan/375.html
- 转载请注明: nuanquewen 于 吉祥物设计/卡通ip设计/卡通人物设计/卡通形象设计/表情包设计 发表
- 文章或作品为作者独立观点不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。本文之内容为用户主动投稿和用户分享产生,如发现内容涉嫌抄袭侵权,请联系在线客服举报,一经查实,本站将立刻删除。本站转载之内容为资源共享、学习交流之目的,请勿使用于商业用途。