高通离职团队欲打造AI芯片新独角兽,成立
(《麻省理工科技评论》中英文版APP现已上线,年度订阅用户每周直播科技英语讲堂,还有科技英语学习社区哦~)
现阶段,高通正面临着不少国家的罚款及产业竞争的双重压力,但不可否认的是,这家半导体领域的巨头依旧有着强大的前瞻眼光。
早在神经网络处理单元(NPU)这个名词变得非常热门之前,高通内部在年、年就提出了让人工智能走进终端的概念,更发展出产品,可惜后来因为找不到合适的应用场景,资源缩减,相关技术研发被束之高阁,当时在高通负责相关技术的核心人员也纷纷出走。
当时,高通神经网络项目研发负责人NaveenRao在内部力推打造一个AI平台,但并未被上层采纳,他因此离开创业,2年后公司被英特尔收购,市场传闻收购价接近4亿美元,这家公司就是NervanaSystems。
不过,除了这一群印度团队之外,还有另一群人也离开,成立专攻终端AI软硬件模块及芯片研发的公司,接连拿下腾讯、格力、搜狗、华硕等大客户,不久前获得阿里初创企业基金及中华开发资本领投,高通、台湾奇景光电跟投的超过千万美元A轮融资,这家取名为耐能(Kneron)的公司你可能还未注意到,但不久后它很可能将成为另一只AI芯片独角兽。
论知名度,耐能不如寒武纪、深鉴、地平线,论募资金额,更是比不上同行的庞大数字光环。不过,在商业落地上,一家成立仅两年的公司,软硬件技术已经被大企业采用并实际量产,今年上半年已经小有获利,耐能可以说是交出了不俗的成绩单。
终端AI芯片将是兵家必争
在整个AI芯片产业的战略频谱中,大致可以分为三大类,一是云端、二是PC或汽车等应用、第三类就是手机、IoT等装置。第一类云端主战场的企业以NVIDIA、Google、Intel为主,第二类主要的玩家包含NVIDIA、Intel、AMD等,第三类终端产品则有高通、联发科以及许多的初创公司。
在云端领域,可以使用运算能力强的GPU系统、服务器、高性能计算机群(HPC)作为后盾,终端方案运算能力整体来说还是弱于云端。因此,越是终端的产品随着系统计算能力的减弱,可以运行的深度学习网络就越小。
图丨微软亚洲研究院院长洪小文
日前,在台北举办的MicrosoftAIDAY上,微软亚洲研究院院长洪小文发表了演讲,当媒体询问他作为软件从业者是如何看待硬件在AI领域的变化趋势?洪小文分析,在芯片领域,目前看来GPU是一支独秀,但功耗大,现在很火的是汽车、无人机、手机以及IoT产品依旧面临着能耗过高的难题。“由于终端的种类很多,这个战线会布的很广,会有很多公司投入,终端芯片将是兵家必争之地,而竞争的关键就是能耗。”
也就是说,如果能开发出兼具低功耗及高效能的终端AI硬件,就能在市场成功卡位。事实上,许多硬件公司想的都是这件事,也都投入相关技术开发,耐能就是其中之一,他们主攻终端产品领域,采取推出软硬一体的模块、NPUIP授权的商业模式。
让ARMA7A9可跑ResNet、SSD
“我们硬件特色就是低功耗、体积小,搭配自行开发的软件技术——重组式人工智能神经网络(ReconfigurableArtificialNeuralNetwork)因此可以做到在终端上跑ResNet、SSD(SingleShotMultiBoxDetector)深度学习网络”,耐能创始人刘峻诚说。
在终端跑SSD深度学习模型,乍听之下可能没什么感觉,不过目前在深度学习领域有几个被广泛使用的模型架构,像是AlexNet有5或8个网络层,先前高通、联发科曾展示过将AlexNet整合进手机中。另外,ResNet有18层、50层、层、层等,而SSDVGG-、VGG-则是庞大的模型,目前主要应用在安防领域,例如计算机可以用一句话描绘出一个场景,并在空间判断出各个物体的位置、距离等。
图丨耐能硬件强项在低功耗,让终端也能执行AI
然而,耐能所开发的NPU使用ARMCortex-A7、A9处理器,却能跑得动ResNet和SSD,这就是其技术独到之处。
也就是说,可通过成本更低、功耗更少的方案实现复杂模型的运行,不论是对企业或是智能终端的推进都是好事一桩。另外,先前智能手机芯片公司将NPU放进手机,功耗大约是1~2瓦,只要一执行NPU,很快就没电,而耐能设计的芯片模组却可以达到mW(毫瓦),近期甚至开发出一个只有10毫瓦的产品,只要利用太阳能供电就可以运作两年,就很适用于IoT装置。
为什么可以做到功耗低却又有高效能?重点之一就是他们开发的ReconfigurableArtificialNeuralNetwork。他解释,一般跑神经网络就是一层一层跑,但如果你想一下人的大脑,语言、嗅觉、听觉都有专门负责的区域,所以一个指令进来并不会运用到整个大脑。
基于这样的概念,耐能设计出一个重组式的工智能神经网络,不同的任务进来,该神经网络就会自动调整,减少运算的复杂度进而达到功耗降低、又有效率。
图丨耐能自行开发的重组式人工智能神经网络(ReconfigurableArtificialNeuralNetwork)。
三级火箭,逐步推进引擎
过去,人工智能多运用在数据中心,例如Google通过AI提供搜索优化、垃圾邮件处理、图像识别等服务。不过,近一、二年来有一股产业声音,认为可将一部分的人工智能从云端移转到终端装置上,进行即时识别与判断分析,不用等到把所有数据经由网络传送至云端后才能处理,除可满足快速、安全的需求,还可减少网络、云端的负载量与成本。
目前看来,这种合作模式是较好的AI生态,有一部分要在终端做,有一些要在云端做,因为不同问题有每一种的技术可以解决的独到之处,不可能彼此完全取代。
刘峻诚对DT君表示,人工智能的生态非常新,要评价人工智能方法的好坏有三个要素:训练数据、算法、计算能力。每个要素都具备就会有很高的竞争力。在人工智能的大频谱里,每家公司切入的角度不同。例如,在算法上,Google的TensorFlow可谓当今主流,运算力则是由NVIDIA领风骚,而运算数据则像BAT,他们拿训练数据使用现有或是自己开发的平台,做行业应用。
“我认为,未来的人工智能很可能会像Wintel(Windows+Intel)一样,最终会由Google+NVIDIA两家公司分别霸占软件和硬件。不过,这里分析的是海外市场,中国市场较特殊,玩法完全不同”,他说。
所以说,初创公司该如何在巨人林立的世界找到生存的空间,利基(niche)就变得很重要。
基于这样的推论,刘峻诚与创业伙伴就思考在Wintel时代,有哪些公司是活下来的?有些公司采取直接PK的策略并生存下来,例如AMD,或是以Andorid掀起浪潮的Google,此外,还有一家公司不仅活下来还变得很强,那就是苹果,其软体为硬件而开发,硬件又为软体而生,因此他们选择一条现实的路线,效法苹果的策略,通过软硬一体达到效能优化及使用经验的顺畅。
目前,耐能有三种业务模式,最初他们通过提供软件打进腾讯生态系统;第二种就是之后开始与大型企业包括BAT以及系统厂如格力合作,由伙伴提供训练数据或行业数据,将其与自己开发的算法整合,进而推出一个硬件模组;第三种模式从今年第三季开始提供芯片IP授权,类似ARM的商业模式,目前芯片IP业务已经接获实际的订单。也就是三级火箭理论,先用第一个引擎把公司推进到下个阶段。
“真正的AI生态是:AI+云+IoT,IoT包含手机、智能家居,”他说。但初创公司战线不能拉太广,因此耐能选定主攻手机、安防、IoT三大市场。新这一轮的投资者包括阿里、高通,后续也将会有实际的商业合作。
一路贵人帮助,终于受到瞩目
一家新公司怎么能跟大公司接触,甚至还获得青睐,刘峻诚回答四个字:都是运气。
刚创立时AI不像今日这般火爆,当时红的是AR、VR,跟人谈融资时,还被问说要不要尝试把这项技术用来做AR、VR。在年底Google把TensorFlow开源之前,拥有人工智能开源代码或平台的公司很少,当时主要的平台就是加州大学伯克利分校研究团队所开发的caffe,“但因为源自于学界,开发者要有一定的DomainKnowhow才清楚如何使用”,不过当时腾讯相当明确要发展AI,内部专门寻找前沿技术的单位就到全球四处去找人才、挑伙伴,刘峻诚在朋友的引荐下就与腾讯接上了线。
去年,腾讯拍了一个真人秀《我是创始人》,类似美国版的《TheApprentice》,这个节目除了初创企业参加之外,还有重量级人物担任导师的角色,包括格力电器董事长董明珠、StarVC创始人任泉、搜狗CEO王小川等也一起参与,节目内容经常会安排导师和初创企业、或是初创企业彼此组队,每一集的任务就是替一家企业解决他们遇到的问题。
经过两三个月与导师们相处、合力解决问题后,刘峻诚和这些大人物们建立了情谊,在节目里他因为憨厚、质朴的气质被取了一个“功夫熊猫”的外号。没想到,就是因为这份内敛、诚恳的态度,获得了不少导师们的青睐,进而展开业务合作。“我就觉得你这人特别可靠,”董明珠跟他说了这句话之后,随即启动格力与耐能的智能家居合作。
联手搜狗建立AI生态
还有一次,王小川和刘峻诚在北加州某个顶楼碰面,两人从如果外星人攻打地球到比特币,天南地北聊了3、4个小时。
不仅中国企业家力挺他,台湾的科技主管部门负责人陈良基的专长就是AI视觉影像及集成电路设计,他认为,“未来广大终端产品所需的AI应具备低耗能及低电压芯片设计”,刚好与耐能研发的重点相符,为了提拔初创公司发展,他更亲自打电话给联发科董事长蔡明介、华硕创始人徐世昌推荐耐能。
这一路走来除了贵人提携,努力也是一个原因,刘峻诚感恩的说:“他们就像我的老大姐、老大哥,如果没有他们,很难走到现在这一步。正因为你肩负了很多人的信任,不能辜负,我经营公司不是很有经验,但我很尽力,如果努力指数是,我会付出。”
图丨耐能创办人刘峻诚(左)、耐能软件工程总监郝康立(右)。(图片来源:DeepTech深科技)
预计数周之后,搜狗将发布与耐能合作搭建的AI生态的细节。正由于AI涉及的技术、应用相当广泛,因此许多大企业都急欲建立起生态圈,搜狗的云端、语音库、文字库具有深厚基础,而耐能的强项则是在影像跟硬件,因此耐能将提供影音模块、终端AI硬件,通过SDK连上搜狗的云端AI,再把这一个串起的服务架构提供给终端硬件伙伴,协助他们快速推出具有AI功能的产品。
坚守不浮夸路线,多年量产经验PK对手
从加州的圣地亚哥(SanDiego)开始到美国、台湾、珠海都设有据点,现在团队大概近60人。成立于圣地亚哥,原因不难猜到,就是大部分成员都从高通出来。数年前高通曾提出要在终端引入人工智能,刘峻诚就是在那个团队。
除了高通,还有来自三星、IBM的好手,像是耐能软件工程总监郝康立过去就任职于素有三星特种部队之称的三星研发中心,其他的高手如史弋宇,是北京清华电子工程系第一名毕业,待过IBM华森研究中心(ThomasJ.WatsonResearchCenter),另一位同样是北京清华高才生的谢毕克,则出身自Google跟Marvell。
尽管近年创业火热,但要放下高薪的大企业工作,始终不是件容易的事,“有些人是一种技术信仰,深信自己的技术一定会成功,所以创业,但我没有那么厉害,当时就是感觉会有技术大突破,但终端AI会不会变得像现在这样热门,我们自己都不确定,”他说得很诚实。
而他口中当时感觉会有技术大突破,指的就是在高通时参与的终端AI芯片开发,当时高通将Zeroth人工智能平台放进骁龙,并尝试寻找终端AI的市场应用,第一个应用是用来做无线通讯的交换(Switching),例如搜索邻近基站、WiFi的最佳解就是使用深度学习,但后来始终没有找到更好的应用,高通就减少推动深度学习终端芯片,而选择走传统计算机视觉(CV)的方法。
“高通有很多很牛的技术,对前沿科技也看得很准,很强的工程师性格,会追求工程极致”,但很可惜,终端人工智能的爆发还是得归功于苹果的iPhoneX,找到了3D人脸识别的应用,突然间,市场都觉得终端要向AI升级,产业更是形成一种终端+AI是产品“标准配备”的气氛,而NPU也跟着爆发了。
融资多少不重要,拿出营收才是真本事
在中国科技界,寒武纪、深鉴、地平线现在可以说是无人不晓,寒武纪在8月完成1亿美元融资,成为AI芯片独角兽,深鉴在10月则宣布获得约万美元的投资,同月地平线完成近亿美元的融资。相较于友商备受光环围绕,耐能显得十分低调。
刘峻诚脸上挂着一个功夫熊猫般憨憨的笑容说:“我其实看不太懂募资很多或很少有什么优劣势。”市盈率(PE)很高比较像是互联网的打法,快速攻城掠地,把其他竞争对手打死,不过如果看芯片领域或是硬件公司的PE值一直都不高,例如同样是走IP授权的ARM,PE大概都在19倍,即使是苹果,历史PE大概就是在15~25倍。
“AI这个领域到底是比较适合互联网的融资模式,还是芯片领域的模式?我也不知道,没有谁对谁错。只是,我觉得资本的本质一定还是要回归到有实质营收的支撑。团队一致认为要实打实,把营收做高,对我们公司发展会是比较健康的。我们有实质的收入,即便PE值再普通,也很有信心成长为独角兽,”他语气坚定的说。
面对同行的来势汹汹,他只回了一句话:“我们做商用芯片的经验还是比较多,我们是打过仗的。”他进一步解释道,公司的定位是立足全球市场,而非特定市场,同行主要是学术出身,发表的论文都很有独到之处,不过芯片是一个非常重经验的行业。
他这席言论并非轻视对手,更多是对芯片行业现况的贴切描述。简单来说,IC设计可以分为前端设计(FrontEnd)以及实体设计的后端设计(BackEnd),实体设计完成后会得到光罩图形,进行TapeOut,也就是将光罩图形送进光罩厂制作光罩,光罩制作完成再送进晶圆厂制作芯片(Chip),最后再经过封装与测试,就成为可以销售的IC。
但真正做芯片时会面临制程产生的变异情况,有不同的Corner,像是TTCorner、SSCorner、FFCorner等,在不同温度下、条件下,状况就不一样,BackEnd设计绕线(routing),决定IC中的晶体管与晶体管之间的实际连线,线路粗一点、厚一点又不一样。芯片设计就像是老师傅,吃经验的行业,“像是在高通第一线做芯片产品的工程师一定都是5年以上的经验”。
据了解,耐能在今年第一、二季已经开始获利,今年营收约数百万美元,对于明年的成长性,他仅低调表示,会有好几倍的成长。
目前看来,耐能的营运已经步上轨道,走过了初期文化不同的磨合期,在他眼中,美国的优势就在于创造力,从0到1的能力是全球最强,大陆执行应用、落地的能力非常惊人,而且心态开放,敢于接受新东西,台湾的特色则是细腻度、追求完美,而耐能的目标就是融合三地的优点,变成一家能站上全球舞台的公司。
转载请注明:http://www.abuoumao.com/hyfz/2166.html