創業新聞

和馬雲、馬化騰同登國際殿堂,台灣AI新秀耐能有何本事?

耐能(Kneron)五月才剛完成AI輪投資,由李嘉誠旗下的維港投資(Horizons Ventures)領投1,800萬美元。在引入維港投資前,Kneron已經獲得高通、阿里巴巴創業者基金、紅杉資本與中華開發創投資金,是AI晶片創業圈的耀眼之星。《數位時代》特此採訪耐能首席科學家李湘村,請他與我們分享耐能的布局理念與技術藍圖。

2018年世界人工智能大會在上海舉行。李飛飛、吳恩達、馬雲與馬化騰等AI大人物齊聚一堂,這個AI舞台擠進了全球最頂尖的AI企業與團隊。其中由台灣人劉峻誠在2015年創辦的AI晶片公司耐能智慧(Kneron),也受邀登台演說。

特點:可重組式人工智慧神經網絡

物聯網裝置是耐能瞄準的目標市場。「我們的神經網絡晶片(NPU)強調的是價格低廉、小面積,能耗低,但效率高的晶片IP與軟硬體架構。」李湘村說。耐能在終端裝置進行即時識別與判斷分析,不用把資料傳回雲端。

李湘村曾任高通多媒體研發部門總監 。除了高通之外,他曾在展訊(Spreadtrum)任職副總裁、朗訊科技(Lucent Technologies)擔任研發與管理職務,以及在華為與Vivo的研發中心擔任技術主管。
李湘村

耐能主打的NPU晶片是一種ASIC晶片,相比GPU能耗更小,也比FPGA效能更佳,面積更小,在能耗與神經網絡效率上表現出色,但依舊保有演算法的彈性,團隊是如何做到的?

李湘村解析,團隊把目前現有的GoogleNet、Resnet-18、Resnet-34與Vgg16等卷積神經網絡(Convolutional Neur al Networks,CNN)模型全部細分拆解,在理解其中可能的數學公式之後,研究整個從端到端的訊號傳遞,推出「可重組人工神經網絡」(Reconfigurable Artificial Neural Network)設計架構和完整的軟體開發套件。

此開發套件可以針對神經網絡的神經元數量、輸入個數、精準度等不同需求調整,因此耐能的晶片是一種ASIC晶片,但在演算法層面卻能保有彈性,適用不同的人工智慧應用,也因此是一種Turnkey solution(一站式解決方案)。

先有穩定收入再說,先賣IP再談硬體晶片

耐能最終是想要賣硬體晶片,但以新創來說,若頭就這麼洗下去,砸了大錢研發量產,但若找不到終端應用,公司倒閉的風險不小,

因此耐能先走賣晶片硬體IP與軟體IP(如人臉辨識、身體與手勢辨識、物品辨識、行為與場景辨識等功能等軟體解決方案)模式,先有穩定的收入,才有錢可以支撐公司撐到硬體晶片研發量產。

以人臉辨識的應用來說,耐能會先針對特定用途的的模型網絡做模型壓縮(Model compression)以大幅度減少計算量與記憶體暫存的空間,然後經過耐能自行研發的編譯器(Compiler),最後組成一個耐能的硬體IP。耐能也提供影像辨識與自然語言處理相關軟體解決方案IP。

而且在過程中耐能成功找到「阿里巴巴」這個重要的投資夥伴,讓耐能市場能見度大增。其軟硬體IP相繼打入手持翻譯機、語音翻譯器、文字翻譯與智慧家電產品,騰訊與鴻海等大廠都是其客戶。

選擇中國市場,避開Google等國際競爭對手

單技術面談,耐能的產品接近Google的Edge TPU,在3至5年後,AI計算力雲端化TPU as a service的時代,計算力也可以隨選即用(On demand),客戶不用花大錢買晶片自建機台,就可以享有穩定又有彈性選擇的計算力後,將嚴重威脅耐能生意。

不過耐能的商業市場著重中國,而Google雲端在中國發展非常有限,加上耐能有BAT中的阿里巴巴投資支持,能和Google的商業市場做出明顯區隔。耐能主要對手是來自中國的寒武紀與地平線等一線新創與正熱衷於研發AI晶片的BAT大廠。不過,這些中國大廠和美國的晶片研發實力還是有一段差距,也給了耐能一個好機會。

終極目標:師法蘋果走垂直整合路線

蘋果模式的成功給了耐能很多啟示。

蘋果「為了喝牛奶養了一頭牛」的做法和強調當下水平分工硬體製造思維迥異,蘋果是少數同時掌握且自行研發硬體、軟體與核心晶片等三大關鍵核心的科技廠,讓蘋果保有最佳的使用者體驗,並且讓蘋果iPhone能以市場高價販售。耐能也認為「垂直整合」的用戶體驗才會是最好的,不過對耐能來說,垂直整合指的是什麼?

「我們商業藍圖包括最底層的硬體計算平台與韌體、中層軟體與上層應用層演算法與開發工具等。」李湘村解析。

不過,耐能目前還處於推出晶片硬體IP與軟體IP以及演算法IP的商業模式,尚未推出硬體晶片,而主要營收來源為硬體IP。

了解更多關於創業小聚的資訊,歡迎透過以下服務
粉絲交流每月小聚Line@互動訂電子報新創影音發表專欄及新創資料庫

本文授權自《數位時代》,作者:翁書婷