清微智能产品工程VP李秀东:可重构计算可以解决灵活性与算力两大问题

WechatIMG72_meitu_1

【猎云网北京】12月11日报道

12月10~11日,2019年度CEO峰会暨猎云网创投颁奖盛典在北京望京凯悦酒店隆重举行,近百位知名资本大咖,独角兽创始人、创业风云人物及近千位投资人与创业者共聚“新势力·2019年度CEO峰会暨猎云网创投颁奖盛典”。

峰会上,清微智能产品工程VP李秀东,以《可重构计算赋能AIOT》为主题分享了自己的观点。

88.jpg

人工智能时代发展日新月异,并且不断在向APP端延伸,对能耗能效比要求日益增高。李秀东总结,智能芯片主要有三大特点:第一,具备灵活性和可编程性;第二,既能处理AI神经网络,又能处理传统的AI计算;第三,具备高算力。只有拥有这三个特点才能满足市场对芯片的需求。

那如何解决灵活性与算力这两个问题?李秀东认为可重构计算是一个很好的路径。李秀冬在接受猎云网的采访中就“可重构计算”做出了进一步解读,他表示,可重构计算架构会根据不同的应用或算法来配置硬件资源,将不同硬件资源的互连形成一个相对固定的计算通路,一旦配置完成,便可以在数据流的驱动下去完成计算。当算法和应用变换时,再次通过配置,重构为不同的计算通路去执行不同的任务。

而对于未来重构如何赋能,李秀东给出了两个方向,一,赋能万物;二,李秀东认为将来的人工智能芯片尤其在物联网端既有推理,也要有训练,并且应该有能力通过数据的执行,自动搜寻出来一套比较精确完善的神经网络,“这也是学术界目前发展最前沿的一个方向,目前在工业上已经开始进行研究结合。”

为了帮助创业者和投资人重新蓄力,2019年,猎云网携全新品牌“新势力(New Force Summit)”亮相。本次峰会由猎云网主办,锐视角、猎云资本、猎云财经、企业管家协办。

此次盛典上,猎云网通过六个版块分享创业者和投资人在智能制造、文娱、零售、医疗、教育、汽车等领域的启发性的观点和行业前瞻,围绕多个维度,分享科技和产业前沿观点,探讨创新潮流趋势、把握未来新方向。

以下为李秀东演讲实录,猎云网整理删改:

各位来宾,各位朋友,大家上午好!

刚才四位朋友已经讲述了投资创业的方向以及应用,从他们的讲述来看,我们可以总结出来两个特点:第一,就是智能,所有的创业、所有的投资里面都包含了智能这个概念,在目前人工智能大浪潮当中,每一个创业者,每一个投资者,我们都无法逃离智能这个概念。这是第一。第二,可以看到每一个创业者的应用场景、数据都是不一样的,这也是人工智能非常大的特点,就是应用数据差异非常大,而解决他们这些应用的问题,用什么来解决呢?我今天给大家演讲的题目我们是人工智能芯片,智能一切的基础都是来源于芯片,有了人工智能的芯片才能给我们带来各种应用,各种算法完美的解决。

在讲可重构计算赋能AIOT之前,我先跟大家做一个做简单的介绍,清微智能是初创型企业,2018年7月正式注册,定位于可重构计算芯片领导企业,是提供短侧芯片为基础,向云端延伸的解决方案。我们的技术来自于清华大学微电子所,从2006年开始研究到现在有13年的历史,可以分为两段,一段是2018年7月之前,主要在清华大学微电子所研究,我们取得一系列成果,包括国家科技发明奖、教育部技术发展奖、国家专利金奖,也包括国际顶尖论文。同时在国际低功耗竞赛当中获得了第一名的成绩。这是我们在2018年之前。2018年的时候正式成立了清微智能,把可重构的技术进行产业化,去年7月份我们获得了天使轮融资,融资规模达到近1亿,包括百度战投、分众传媒,也包括路总的投资。成立之后短短一年时间推出两款芯片,一个是智能语音芯片(TX250),一个是智能视觉芯片(TX510),目前TX-26210在市场上销售,主要是用于超低功耗,包括耳机、手机、智能穿戴的设备。510在2019年9月,在云栖大会上做了发布。这是跟大家简单介绍一下我们的历史。

今天会大概从四个方面跟大家介绍一下智能时代的芯片需要什么样的芯片,用什么样的方法来解决芯片,将来芯片的发展方向是什么。

PPT·1_副本.png

从这张图上我们可以看到人工智能发展起来最开始是在云端,但是在发展过程当中不断地向下延伸,延伸到边缘设备端,延伸到物联网的每一个节点。在下延的过程当中带来了非常大的变化,这个变化就是在物联网终端,每一个终端节点,每一个边缘设备,我们都需要AI,都需要AI算力,这样的话在每个终端上都需要芯片完成算力的执行,完成算法的应用,从这个图权威的数据也可以看到,到2035年市场规模将会达到将近800亿美金所以,物联网芯片的市场有非常大的市场,有很大的机会在这个里面。

有这么大市场的芯片需求,但是智能芯片我们对它有什么要求,或者它有什么特点呢?我总结大概是三点:

第一,AI时代这个芯片要有一定的灵活性、可编程性。为什么呢?大家可以看到人工智能的发展每天都在变化,他的拓扑结构、权重数据、连接方式都在发生变化。你今天做了固定的芯片,明天订单来了,可能无法支持。所以,要求人工智能的芯片要有灵活性、可编程性。

第二,既能处理AI神经网络,又能处理传统的AI计算。大家目前看AI的时候,大家一头扎进神经网络的计算,但是实际上我们在做一个应用的过程当中,我们会发现除了神经网络的计算,还有其他很多通用的计算,我们在设计芯片的时候必须考虑神经网络与非神经网络两者要同时支持。

第三,人工智能芯片由于在不断向APP端延伸,在每个物联网节点或者边缘设备它的能耗能效比要求非常高。所以,我们要求对人工智能的芯片,要求它的算力高。

这样的三个特点,用什么样的技术或者架构来解决呢?我们开始用CPU来加速,CPU是最灵活的处理器,可以执行任何程序。但是它的能效比不是很高。后来,我们又用了GPU或者CPU+GPU,这时候能效比比CPU更高一些,在右端是FPGA与专业电路,这针对某一种神经网络能效最好,因为高效专用导致了灵活性差,导致了解决不断变化的神经网络会有很多的问题。

在这样一种前提下,大家开始寻找什么样的结构,能够完美的解决灵活性与算力两个问题?我们认为可重构计算就是一个很好的路径。可重构路径的提出不是人工智能兴起之后才提出来,是60年代就提出了。之所以最近比较热起来,因为可重构计算解决计算比较密集的场景,最大的发挥它的能效。

前面讲了智能芯片的需求用什么样的架构或者方法来解决,接下来我们给大家简单讲讲可重构的原理。因为可重构是一个非常系统、非常枯燥的概念,我这边会尽可能用一些生动简单的语言让大家理解什么是可重构。

大家从动画上可以看一下,最左边相当于我们写的程序与程序语言,右边是硬件的执行单元。在左边程序不断执行的过程当中,通过编译器形成配置流,配置右边的配置,形成不同的硬件通路、硬件单元,这样是数据流驱动,这样的结构会带来两个好处,第一减少了传统CPU当中的曲折的开销,同时提高了能效比。

无论在美国国防研究局,包括国际半导体路线图,科技部的立项,就是未来10-15年可重构计算的研究,列为研究第一项,也就是最重要的一项,可重构是非常好的路线,受到国际国内重点的关注。

一个处理器其实单纯有硬件是不够的,能够比较方便的使用这个处理器需要全套的软件工具链。清微智能在开发整个处理器的过程当中,也可以给大家提供一个完整的友好的工具链,大家从网络模型,从高层次语言到生成中间层,再到针对硬件结构的一些层的融合网络优化,最后形成硬件结合高效的执行流。

前面给大家讲了大概可重构是一个什么样的原理,到底是什么样来运行。再跟大家分享一下可重构技术,清微智能做了哪些应用推广。

这就是刚才提到的第一款智能与新芯片——TX210,超低功耗,面积非常小,准确说是1.9*2,应用场景在今天比较火的TWS耳机,包括手机,还有儿童手表。值得一提在TWS耳机里面,我们相当于是全球第一个单芯片智能芯片的提供商。而且这个销量今年是很不错的,我们完全可以达到4000万。因为TWS耳机,大家都知道今年非常火,根据权威数据统计一年有1.5亿对耳机的销量,这是官方数据,还没有包括后面的白牌,1.5亿对,每个用两只,就是3亿只,而且TWS每六个月换一次,所以需求量非常大。X210应用的场景针对功耗比较敏感,同时便携设备、物联网设备,这是它的主要应用。

今年9月发布了TX510视觉芯片,不光支持视觉,也是支持语音,包括支持3D,目前它主要的应用场景用在智能门铃、智能门锁,包括智能支付的场景。同时510产品特点,也是针对功耗敏感、多模态、算法变化比较快,同时也是单芯片的级别方案,客户可以拿到芯片,我们提供完整的模组,包括结构光的模组,客户可以即插即用,非常方便。

我们重点要讲的就是支付的场景,目前芯片在和平头哥合作,在蚂蚁金服进行推进。马云讲了一个事情,接下来的世界是一个看脸的世界,我们这张脸走到任何一个场合,就是我们的身份,无论是今天开会,或者进入银行、超市购物,我们的脸代表唯一的识别号,代表我们的银行卡,代表所有的信息。马云讲了这句话之后在蚂蚁金服花了30亿推广人脸支付的设备,而510在这个设备上将会降低亲情设备的成本,目前设备在1200元左右,用上510解决方案之后大概在500元左右,这样的话30亿的资金可以推广增加一倍得客户,我觉得对互联网来讲是一个非常Fashion的数字。我们有一个投资人,我们也跟工业应用有合作。

前面讲了可重构技术,以及以可重构技术打造的可重构芯片在市场上的应用,接下来跟大家分享一下接下来的时代可重构是如何赋能。

从公司角度来讲,万物赋能就是从小的、中的、大的,从物联网节点到各个场景,可重构技术都有发展空间。因为可重构它的结构可以进行拓展,可以裁剪。

另外就是现在比较火的一个技术大家都认为是存内计算,可重构计算是系统架构,2019年的时候我们针对存内计算,把这些技术结合到新一代产品架构当中,也做出了一个产品的Demo,发布了2019年VISI上,我们可以把功耗降低的更多,尽可能赋能万物。这是一个发展方向。

另外一个发展方向,我们认为人工智能芯片不仅仅只有推理,而且将来的人工智能芯片尤其在物联网端既有推理,也要有训练。第二,光有训练与推理还不够,将来我们的人工智能芯片,应该有能力通过数据的执行,自动搜寻出来一套比较精确完善的神经网络,这也是学术界目前发展最前沿的一个方向,目前在工业上已经开始进行研究结合。

这就是我今天上午给大家的分享,谢谢大家!