Databricks以390億元收購，技術長來自台灣的MosaicML試圖解決什麼問題？

今年6月，大數據分析公司Databricks宣布以13億美元（約新台幣390億元）收購了AI新創MosaicML，而MosaicML的技術長湯漢林就來自台灣。MosaicML團隊的前身是Nervana，後來被半導體巨獸Intel併購出場，團隊再成立MosaicML後，短短11個月就獲得新台幣11億元的投資，究竟他們的技術有何亮眼之處？（以下為2022年1月11日採訪原文）

2021年10月，優化機器學習（Meaching Learning，ML）演算法效率的新創MosaicML獲得2,170萬美元的A輪募資，總募資額來到3,700萬美元（近新台幣11億元），投資人包含Lux Capital、DCVC、Future Ventures、Playground Global、AME、Correlation、E14，台灣的聚達創投（Mesh Ventures）創辦人喬國筌也以個人名義投資。

值得注意的是，獲得A輪募資時，這間新創僅僅成立11個月而已，而且創辦成員在創立MosaicML的前一家公司，被半導體巨獸Intel併購出場。優異的過往成績、加上快速的募資速度，讓人格外期待MosaicML的發展。

「我們認為AI運算的費用與效能對沒有AI團隊的中小企業來說，仍然是道門檻，儘管離開Intel了，我們還是想解決這個問題。」MosaicML創辦人暨技術長湯漢林表示。

開心出場到計畫失敗，仍決定東山再起

早在2014年，MosaicML創辦人Naveen Rao就注意到，未來在數據越來越多的情況下，企業發展AI勢必會碰上費用高昂、運算效能不佳的狀況。

根據《Forbes》的報導，AI研究組織Open.ai在3個多月的時間裡，使用了數千個高性能的GPU，訓練1,750億個參數的GPT-3轉換器模型，估計費用接近1,200萬美元（近新台幣3.6億元），這顯然不是一般中小企業可以負擔的時間與資金成本。

所以Naveen Rao成立Nervana，提供大型企業從硬體晶片到雲端運算軟體的AI發展一條龍服務，試圖透過團隊的專業減少不必要的運算資源浪費，而來自台灣的湯漢林也在2015年以軟體工程師身分加入。

MosaicML Team MosaicML團隊，由左至右分別是創辦人暨執行長Naveen Rao、顧問Micheal Carbin、社群長Julie Choi、數據科學長Jonathan Frankle以及技術長湯漢林。 MosaicML官網

湯漢林才加入1年的時間，團隊就獲得了Intel收購的邀請，「我們當時都很興奮，畢竟受到Intel的認可，這不容易。」那個時候，正值Intel大舉進攻AI市場之際，當時的執行副總裁Diane Bryant表示，機器學習的伺服器中有超過97%是使用Intel處理器，包括Intel Xeon E5及最近推出的Xeon Phi，Nervana的產品有助於其在AI領域的進一步攻城掠地。

世事難料，NVIDIA強勢崛起，Nervana的成效不如Intel預期，Intel雖然未明言放棄Nervana，但仍在2020年放緩了該產品的研發力道。

「這個結果雖然失望，但是我們認為在Intel期間對AI的研究與研發經驗和成果，仍然是厚實的。」湯漢林表示，在Intel期間，他們的客戶轉以中小型企業為主，但是這些中小型企業比大企業更缺乏資源發展AI，這也就表示他們創業初期觀察到的問題成真了。

MosaicML 技術長暨共同創辦人湯漢林歷經被Intel收購的起起落落，湯漢林表示原創業團隊並沒有忘記自己的初衷。侯俊偉攝影

「既然問題還在，那我們就繼續朝『解決它』的目標邁進。」湯漢林說。

放棄硬體服務，打造開源的軟體生態系

2020年12月，Naveen Rao與湯漢林等人成立了MosaicML，不同於Nervana同時提供軟體與硬體的一條龍式服務，MosaicML則瞄準不具備AI能力的中小型企業，提供加速與優化AI演算法效能的SaaS（Service as a Service，軟體即服務）服務。

為什麼放棄硬體服務？湯漢林說，現在已經有太多硬體方案可以選擇，光是前東家Intel與NVIDIA所擁有的產品，新創就已經難以匹敵，所以他們才會選擇專注在軟體開發上。

至於中小企業會遇到的問題，在於他們不像大企業有較好的能力建立自己的AI團隊與數據科學家，所以更常碰到如：不知道哪些是真正需要的數據、不知道該運用哪些演算法、不知道該用哪個模型達到最準確的預測、不知道該用哪種硬體才能達到最低運算成本等等問題，使得訓練AI的精確度、耗費時間與成本上都達不到預期效果。

對此，MosaicML提供了2個產品：為企業提供最佳組合解方的Explorer，以及幫助企業解決訓練時碰到的問題的Composer，「簡單來說，Explorer是顧問，Composer是解決方案。」湯漢林解釋。

Explorer運用可視化的方式，以XY座標軸圖顯示出運算的時間以及精確度，並且在底下都提供了演算法、模型以及運算軟硬體的組合方案，企業只需要在列表上勾選自己的需求，Explorer就會自動提供以最少資源、最低花費、最精確運算結果的最佳軟硬體組合。

至於Composer則是一組建構於Github上的Low-Code（低程式碼）開源系統，裡面有各種程式碼的解決方案。「例如說企業在把演算法部署到硬體上碰到問題時，就可以從Composer裡面尋找解方。」湯漢林表示，目前上面已經有至少30組各種問題的解決方案，使用開源架構也是希望各個AI人才提供自己的創意，一起完善AI訓練的生態系。

目前使用MosaicML的客戶雖然僅有5家，但是湯漢林認為以成立1年左右來說，他們希望先維持在這個數字。「我們不希望成長的太快，以現在30人的團隊來說，我們還需要更多的人才加入以完善我們的服務，去年10月的募資就是為了徵才。」有沒有機會找到台灣人才加入？湯漢林則認為這也有機會成為MosaicML未來的計畫。