浪潮萬億AI市場攻略探秘

　 域名預(yù)訂/競價，好“米”不錯過

“我宣布這款旗艦機的AI Benchmark測試得分為50926！繼續(xù)霸榜！”

“今天發(fā)布的這款旗艦機型，安兔兔測試中獲得超過50萬的跑分！”

……

如果經(jīng)常觀看智能手機旗艦產(chǎn)品的發(fā)布會，想必你一定對這些宣布“跑分”結(jié)果的熱烈場面耳熟能詳。對于普通消費者而言，各方跑分的由來或許難以理解，但是分?jǐn)?shù)的高低與一款智能手機性能強弱的關(guān)系，都是無比清晰。

與那些面向C端市場的科技產(chǎn)品不同，如今炙手可熱的人工智能領(lǐng)域，也有自己的“跑分競賽”。這其中最受關(guān)注的就是MLPerf，作為目前全球最具影響力的AI計算基準(zhǔn)評測組織，MLPerf由圖靈獎得主大衛(wèi)·帕特森聯(lián)合谷歌、斯坦福、哈佛大學(xué)等單位共同成立，每年組織全球AI訓(xùn)練和AI推理性能測試并發(fā)布排行榜。

在前不久MLPerf公布的2020年推理測試榜單中，一家中國科技企業(yè)的產(chǎn)品一舉創(chuàng)造了18項全球性能紀(jì)錄，并且在數(shù)據(jù)中心AI推理性能上遙遙領(lǐng)先于其他廠商產(chǎn)品。這一消息不僅在AI領(lǐng)域引起了業(yè)內(nèi)人士的重視，也在國內(nèi)人工智能應(yīng)用及落地的進(jìn)程中，受到了更多行業(yè)用戶的關(guān)注。

如果將各方的聲音總結(jié)一下，可以大致總結(jié)為這三點：

1.為何它能在MLPerf測試中一路領(lǐng)跑？

2.對于國內(nèi)AI領(lǐng)域的整體影響幾何？

3.對于產(chǎn)業(yè)AI化是否會產(chǎn)生更廣泛的聯(lián)動效應(yīng)？

起因：向更遠(yuǎn)處多看一眼

對于這些問題，浪潮AI&HPC總經(jīng)理劉軍心里或許早就有了答案。

如果將MLPerf比喻為一場AI領(lǐng)域的小型奧運會，浪潮NF5488A5在眾多“參賽選手”——全球23家頂尖科技企業(yè)和機構(gòu)中可謂脫穎而出：在數(shù)據(jù)中心AI性能測試中，全部參與機構(gòu)提交了507項性能測試數(shù)據(jù)，浪潮NF5488A5創(chuàng)造了22個賽項中的13項性能紀(jì)錄，領(lǐng)先優(yōu)勢明顯；在面向深度學(xué)習(xí)的NVIDIA DGX系統(tǒng)測試中，取得了5項數(shù)據(jù)中心性能紀(jì)錄；在Resnet50推理任務(wù)測試中，獲得54.9萬/每秒的全球服務(wù)器最好成績，同比19年紀(jì)錄提升3倍。

可以說，本次參與測試的浪潮NF5488A5堪稱碩果累累。而從技術(shù)創(chuàng)新的角度來看，這些驕人成績是“果”，但種下果實的“因”，則是在十年以前。

彼時，浪潮服務(wù)器的研發(fā)人員還不清楚自己琢磨的這個領(lǐng)域和后來火爆的人工智能是否有關(guān)聯(lián)，或許也沒有想到智慧計算乃至智算中心會成為產(chǎn)業(yè)趨勢。

實際上，2007年GPU加速計算理念提出時，在產(chǎn)業(yè)界是飽受質(zhì)疑的。這種同時采用圖形處理單元 (GPU) 和 CPU的計算方式，與“摩爾定律”是殊途且不可能同歸。

“當(dāng)時我們意識到，摩爾定律已經(jīng)有了衰退跡象，即便是從原來的主頻增長變成核數(shù)增長，持續(xù)下去也會對包括超算在內(nèi)的很多領(lǐng)域產(chǎn)生很大的制約。我們認(rèn)為異構(gòu)加速計算，會作為未來產(chǎn)業(yè)戰(zhàn)略性的方向，一定要在這方面進(jìn)行投入。”劉軍回憶道。

現(xiàn)在如果評價浪潮服務(wù)器的技術(shù)創(chuàng)新，可以用前瞻性去定義，但是在幾年前，這條路浪潮走得不僅寂寞，而且痛苦。劉軍表示，在2016年前的那幾年，篤定異構(gòu)加速計算需要不斷投入，而且這種投入短期內(nèi)又見不到回報，壓力可想而知。“畢竟當(dāng)時它的應(yīng)用主要集中在高性能計算領(lǐng)域，這一塊市場比較狹窄，商業(yè)回報也不高，在這個領(lǐng)域里去推進(jìn)異構(gòu)加速計算的戰(zhàn)略，的確有很多的痛苦經(jīng)歷。”

但是，當(dāng)時浪潮服務(wù)器研發(fā)團(tuán)隊不是在“賭”，而是基于多年來對于計算力發(fā)展趨勢的把握。這種預(yù)判，從2010年浪潮發(fā)布云計算1.0戰(zhàn)略，全面擁抱云計算和大數(shù)據(jù)就開始凸顯。與此同時，浪潮服務(wù)器還開啟了與互聯(lián)網(wǎng)公司共同研發(fā)和設(shè)計產(chǎn)品的JDM模式，積極擁抱互聯(lián)網(wǎng)。

此后幾年，通過與CSP大客戶建立面向未來應(yīng)用的聯(lián)合定制開發(fā)與合作形態(tài)，浪潮在多節(jié)點服務(wù)器這一細(xì)分市場異軍突起。與此同時，研發(fā)團(tuán)隊對于“異構(gòu)加速計算”的長期技術(shù)儲備和積累也開始彰顯。

彼時，在全球服務(wù)器大廠對英偉達(dá)研發(fā)的NVLink計算系統(tǒng)仍抱有懷疑態(tài)度的時候，浪潮卻在全球率先全力投入研發(fā)基于NVLink的高速AI服務(wù)器，當(dāng)時的浪潮NF5288M5(AGX-2)是全球首款在2U空間內(nèi)高速互聯(lián)集成8顆最高性能GPU加速器的服務(wù)器產(chǎn)品，而且率先支持部署8塊NVLink接口的P100 GPU，包括支持NVLink 2.0。

一個業(yè)內(nèi)共識是，這樣一個系統(tǒng)從立項到產(chǎn)品面世需要十幾個月的開發(fā)周期。當(dāng)其他大廠發(fā)現(xiàn)這個趨勢并啟動立項時，浪潮的領(lǐng)跑優(yōu)勢開始凸顯，“我們這款機器出來的時候，整個客戶市場的受歡迎程度非常熱烈，別人很難想象這樣一個（巨大的）客戶需求判斷，是在十幾個月前做出的。”劉軍坦言。

顯然，這種預(yù)判不是賭也不是靠占卜算命，而是浪潮篤定了這一產(chǎn)業(yè)趨勢，相信AI就是改變未來計算世界核心的技術(shù)創(chuàng)新力。

如果觀察近幾年浪潮服務(wù)器的變化，還有一個特點就是在AI領(lǐng)域的“軟硬兼施”。外界對于浪潮服務(wù)器的品牌印象一直是“偏硬”，實際上其研發(fā)團(tuán)隊在AI計算領(lǐng)域很早就在探索軟件和生態(tài)的支撐環(huán)境。從幾年前開始專注異構(gòu)加速，浪潮就擁有了國內(nèi)唯一一個強大的GPU硬件軟件移植優(yōu)化團(tuán)隊，并且開始從系統(tǒng)架構(gòu)層面入手，針對硬件、軟件和應(yīng)用等多個維度的優(yōu)化和創(chuàng)新。

“實話講，這個特點和對計算本質(zhì)的認(rèn)識，確實對浪潮服務(wù)器起了非常關(guān)鍵性的作用。”劉軍表示，在GPU加速進(jìn)入到深度學(xué)習(xí)領(lǐng)域時，研發(fā)團(tuán)隊敏銳發(fā)掘并開始應(yīng)用深度學(xué)習(xí)AI。當(dāng)時包括很多大型互聯(lián)網(wǎng)公司也不具備在GPU加速方面的經(jīng)驗，浪潮與業(yè)界領(lǐng)先的AI公司在GPU加速和框架優(yōu)化方面進(jìn)行了深入合作，進(jìn)一步對互聯(lián)網(wǎng)企業(yè)在AI計算方面的軟件平臺、軟件框架方面需求進(jìn)行挖掘和分析，針對客戶的痛點進(jìn)行深入創(chuàng)新。

研發(fā)團(tuán)隊當(dāng)時開發(fā)并開源發(fā)布了集群版Caffe（Caffe-MPI），此后成功實現(xiàn)了全球首個并行集成版本的UPI，同時還帶來了業(yè)界最好的擴展性能；此外在自動機器學(xué)習(xí)領(lǐng)域，浪潮AutoML Suite已經(jīng)可以實現(xiàn)企業(yè)級一站式模型自動構(gòu)建，支持本地化和云端部署、并行高效模型搜索等能力；在AI算法創(chuàng)新層面，最新研發(fā)的AI大模型計算框架LMS，可將NLP智能語言模型參數(shù)規(guī)模突破73億，相比業(yè)界主流水平提升20倍以上。“另外，我們最早把計算資源管理和調(diào)度技術(shù)帶入到了AI計算領(lǐng)域中，就是現(xiàn)在大家看到的浪潮AI開發(fā)平臺AIStation，已經(jīng)成為國內(nèi)AI客戶應(yīng)用最廣泛的AI資源調(diào)度平臺。”

通過浪潮在服務(wù)器產(chǎn)品創(chuàng)新、算力平臺創(chuàng)新、算法優(yōu)化，架構(gòu)優(yōu)化等方面的實力展現(xiàn)，外界可以看到其在智慧計算方面的前瞻性和創(chuàng)新能力，這也是本次浪潮AI服務(wù)器MLPerf測試中拿下18項全球性能紀(jì)錄的直接原因。但是如果僅從技術(shù)創(chuàng)新角度這一個點去分析，似乎并不能洞悉浪潮服務(wù)器在全球市場持續(xù)領(lǐng)先的完整內(nèi)因。

換言之，浪潮的領(lǐng)跑有著自己的內(nèi)在邏輯，即在AI大勢中形成了內(nèi)部、外部相融合的正向循環(huán)，由聚焦新賽道——技術(shù)領(lǐng)先——掌握客戶需求——市場頭部效應(yīng)——生態(tài)建設(shè)，再將資源和能力投入到新的賽道和技術(shù)領(lǐng)域，周而復(fù)始。

所以，在技術(shù)創(chuàng)新的背后，這一正循環(huán)的形成包括了用戶需求和技術(shù)積累的積淀，繼而才會有市場引領(lǐng)的狀態(tài)，以及推進(jìn)生態(tài)建設(shè)的長遠(yuǎn)規(guī)劃布局。

結(jié)果：頭部效應(yīng)和護(hù)城河

劉軍也強調(diào)，正是因為在AI領(lǐng)域的提前布局，浪潮服務(wù)器才能夠在快速興起的人工智能浪潮里獲得了最大的市場份額，最優(yōu)質(zhì)的客戶。這里面的關(guān)鍵點，正是“最具趨勢性和代表性的用戶需求”。

在異構(gòu)計算領(lǐng)域的研發(fā)和投入，并不是浪潮維系自身技術(shù)領(lǐng)先的保障，近年來正是基于和BAT等互聯(lián)網(wǎng)巨頭的合作，浪潮才會不斷了解到這些行業(yè)客戶的實際需求，并且在解決用戶痛點的同時，積累和沉淀了最有價值的創(chuàng)新能力。這種能力在AI應(yīng)用市場不斷成熟的同時，也幫助浪潮自身實現(xiàn)了全棧AI的布局能力。

說到全棧AI布局，目前在數(shù)據(jù)中心端，浪潮NF5488M5可以提供適用于圖像視頻、語音識別、金融分析、智能客服等典型AI應(yīng)用場景的計算能力；在邊緣計算方面，浪潮NE5250M5和NE5260M5邊緣計算AI服務(wù)器，可以勝任各類邊緣側(cè)AI應(yīng)用，適用于AI訓(xùn)練和推理。

在軟件平臺方面，浪潮開發(fā)的AIStation管理套件可以對計算、存儲、網(wǎng)絡(luò)等基礎(chǔ)資源進(jìn)行管理和調(diào)度，同時還集成了主流的AI開源框架和深度學(xué)習(xí)模型，可以向行業(yè)用戶提供完整的AI開發(fā)工作流服務(wù)；在應(yīng)用框架上，浪潮的Caffe-MPI提供多種優(yōu)化手段，同時面向高性能計算系統(tǒng)保留良好的并行擴展性。

包括前面提到的AutoML Suite、LMS，這些覆蓋計算平臺、管理套件、框架優(yōu)化、應(yīng)用加速的全棧AI整體能力，并不是浪潮關(guān)上門“砸”研發(fā)投入“砸”出來的，而是和最先應(yīng)用到AI技術(shù)的行業(yè)頭部客戶，在邊磨合邊迭代的過程中“推敲”出來的。

只有擁抱這些重量級AI用戶，才有機會圍繞他們的需求做出更加具有針對性的價值創(chuàng)新，從而形成市場規(guī)模效應(yīng)之外更為重要的競爭力，同時也進(jìn)一步夯實了浪潮自身的“護(hù)城河”。包括在中國AI服務(wù)器市場連續(xù)三年市占率超過50%（IDC統(tǒng)計數(shù)據(jù)顯示），在行業(yè)率先推動OAI開放標(biāo)準(zhǔn)制定，以及持續(xù)保持專利領(lǐng)跑的優(yōu)勢，都是規(guī)模效應(yīng)之外“競爭力”的具體體現(xiàn)。

在今年5月份線上舉行的“2020年OCP全球峰會”中，浪潮所展示的全球首款OAI開放標(biāo)準(zhǔn)的AI計算系統(tǒng)MX1引發(fā)了業(yè)界關(guān)注，其不僅可以支持多廠商OAM接口AI芯片，還解決了AI計算基礎(chǔ)設(shè)施建設(shè)中硬件分裂化和生態(tài)割裂化的重大挑戰(zhàn)。

實際上，在此之前，當(dāng)人工智能領(lǐng)域的基準(zhǔn)測試、產(chǎn)品標(biāo)準(zhǔn)等尚處在起步階段時，浪潮就已經(jīng)成為多個國際標(biāo)準(zhǔn)組織的骨干，也是唯一一家同時加入ODCC、OCP、Open19三大組織的服務(wù)器供應(yīng)商。作為OCP鉑金會員，浪潮一直是OAI項目的重要成員之一，長期與百度、Facebook、微軟等科技巨頭共同負(fù)責(zé)開發(fā)OAM相關(guān)規(guī)范。

而在技術(shù)專利方面，浪潮2017年就已經(jīng)取得了令人刮目相看的成績：在服務(wù)器、存儲領(lǐng)域申請發(fā)明專利4655項，位居全國第一；在云計算及大數(shù)據(jù)平臺及應(yīng)用領(lǐng)域申請發(fā)明專利560項，歷年累計6077項，雙雙位居全國第一。尤其是AI專利方面，根據(jù)國家工業(yè)信息安全發(fā)展研究中心去年底發(fā)布的《人工智能中國專利技術(shù)分析報告》顯示，中國人工智能專利申請量的前四家企業(yè)分別是百度、騰訊、微軟、浪潮，其中浪潮的專利申請量達(dá)到了3755件。

這才是浪潮在篤定異構(gòu)計算的大方向后，在行業(yè)應(yīng)用中通過“打仗”積累下來的財富。一方面，這些積累形成了浪潮自身的護(hù)城河，同時其在技術(shù)、客戶和市場的領(lǐng)先，也形成了今年行業(yè)引領(lǐng)的局面。

如此看來，浪潮作為AI計算領(lǐng)域的領(lǐng)跑者，不僅在多個行業(yè)擁有頭部AI客戶，而且也通過生態(tài)建設(shè)和更多行業(yè)合作伙伴建立了生態(tài)布局。但是劉軍多次提到了對“AI產(chǎn)業(yè)化”和“產(chǎn)業(yè)AI化”的取舍，這究竟是什么概念？對于浪潮服務(wù)器未來五年的發(fā)展，又意味著什么？

未來：千億和萬億市場的選擇

“如果從量級來看，AI產(chǎn)業(yè)化是千億級別的市場，產(chǎn)業(yè)AI化是萬億級別的市場。我們在AI產(chǎn)業(yè)化可能走的更快一點，在產(chǎn)業(yè)AI化上可能需要抓緊趕上去。”這是劉軍多次提及的話題，對于產(chǎn)業(yè)AI化，他有著更多思考和憧憬。

談及產(chǎn)業(yè)AI化，不能不提去年4月中旬浪潮正式發(fā)布的“浪潮元腦”。“浪潮元腦”是浪潮AI全棧能力的載體與具象，它既包含浪潮全球領(lǐng)先的場景化人工智能基礎(chǔ)設(shè)施，多樣化的深度學(xué)習(xí)框架與工具，以及最新研發(fā)的人工智能 PaaS平臺和AutoML Suite等“有形”產(chǎn)品，同時也凝聚了浪潮多年積累的人工智能算法優(yōu)化、系統(tǒng)優(yōu)化服務(wù)、整合一體化交付的“無形”能力。

從本質(zhì)上講，“元腦”是浪潮在面對AI產(chǎn)業(yè)化和產(chǎn)業(yè)AI化時的一種取舍，也是一種迎接更大挑戰(zhàn)的態(tài)度。“元腦”是一個生態(tài)伙伴建設(shè)的規(guī)劃，浪潮希望與伙伴共同構(gòu)建這個生態(tài)，面對目前國內(nèi)人工智能發(fā)展現(xiàn)狀，面對產(chǎn)業(yè)AI化的落地應(yīng)用需求，不斷實踐和完善的一項系統(tǒng)性工程。

浪潮要做的，是持續(xù)投入面向AI時代的三個重要方向——計算力輸出、服務(wù)能力優(yōu)化及人才培養(yǎng)，幫助和促進(jìn)生態(tài)伙伴的優(yōu)勢互補、強強聯(lián)合，共同成就行業(yè)最終用戶。這種AI時代的“多贏”理念，已經(jīng)超出了傳統(tǒng)意義上的“AI產(chǎn)業(yè)化”范疇。

在劉軍看來，“AI產(chǎn)業(yè)化”是指當(dāng)下AI領(lǐng)域技術(shù)領(lǐng)先的互聯(lián)網(wǎng)、創(chuàng)業(yè)企業(yè)把自身的技術(shù)優(yōu)勢轉(zhuǎn)化為產(chǎn)品，再把產(chǎn)品賣出去形成市場銷售，也就是AI本身市場化并形成一個產(chǎn)業(yè)——他將此稱為“千億規(guī)模的市場”。

“但是產(chǎn)業(yè)AI化，則是要深入到每一個行業(yè)應(yīng)用實踐中，具體的產(chǎn)品、具體的挑戰(zhàn)是要選擇適合的算法、模型和處理方式，同時攜手理解行業(yè)應(yīng)用場景的開發(fā)商、軟件商、集成商等，所有合作伙伴共同完成行業(yè)應(yīng)用的落地。”劉軍表示，這一市場的潛力是“萬億”規(guī)模。

更為關(guān)鍵的是，浪潮認(rèn)為產(chǎn)業(yè)AI化才是未來的大勢所趨，而浪潮不僅要投身其中，更要通過“元腦”形成更大的合力，與左右手伙伴共同獲得更大的價值。

浪潮將具備AI功能開發(fā)核心能力的科技公司稱為“左手伙伴”，而具備實施行業(yè)AI整體方案交付的SI和ISV則是“右手伙伴”，所有合作伙伴共同面對的挑戰(zhàn)，就是如何有效協(xié)作、最大化變現(xiàn)自身既有優(yōu)勢，進(jìn)而融入行業(yè)用戶數(shù)字化、智能化進(jìn)程中。簡而言之，前期投入、市場開拓、整合與系統(tǒng)工作，都要有人來挑頭。

實際上，很多中小企業(yè)伙伴面對業(yè)務(wù)壓力，都存在一個打磨產(chǎn)品的成本問題，而浪潮也愿意承擔(dān)這方面的成本。為此，浪潮推出了專項計劃——“E基金”，提出將投入億元資金推動元腦生態(tài)的可持續(xù)發(fā)展。未來“E基金”會對AI方案聯(lián)合開發(fā)、AI重點項目扶持和AI人才培養(yǎng)進(jìn)行有機結(jié)合，以方案開發(fā)解決AI技術(shù)與行業(yè)應(yīng)用的融合，加速產(chǎn)業(yè)AI化的落地。

顯然，如今的“元腦”以及背后的生態(tài)，仍是一顆“弱小的幼苗”，仍需要浪潮全方面的呵護(hù)，“我們也清楚，一個小小的生態(tài)如果要萌發(fā)和長大，最終變成一個大的生態(tài)，早期的施肥澆水、倡導(dǎo)呼吁和親歷親為是必然的，浪潮要拉朋友圈，撮合合作機會，這需要我們腳踏實地，一個一個小事去做起。”

劉軍坦言，目前的“生態(tài)建設(shè)”還處在爬坡階段，只有把這個階段爬過去，浪潮才會與生態(tài)里面的伙伴共同成長，幫助他們形成一個個自身的小生態(tài)圈。“必須形成所有生態(tài)伙伴之間相互的升級，這個事情才能真正的扎下根，最終健康茁壯的成長。這是這個生態(tài)中最重要的一點，也是最難的一點，也是一定要做，一定要做好的關(guān)鍵點。”

【結(jié)束語】

從旁觀者的角度去看浪潮面對的“產(chǎn)業(yè)AI化”，其實與當(dāng)下所有人關(guān)注的“新基建”有著太多的契合之處。無論是在智慧計算領(lǐng)域的領(lǐng)先，還是對未來產(chǎn)業(yè)AI化的前瞻，浪潮都已經(jīng)感受到基于云計算、大數(shù)據(jù)、AI的“新基建”所帶來的機遇。

這種機遇不在于“新基建”本身給經(jīng)濟帶來的拉動作用，而是通過數(shù)字化基礎(chǔ)設(shè)施的建設(shè)，加速傳統(tǒng)行業(yè)的數(shù)字化、智能化轉(zhuǎn)型，進(jìn)而推動數(shù)字經(jīng)濟的發(fā)展動能。作為數(shù)字化基礎(chǔ)設(shè)施的重要參與者，浪潮的“爬坡”無疑到了最關(guān)鍵的時刻。

本文來自公眾號：懂懂筆記(ID：dongdong_note)，原文鏈接：https://mp.weixin.qq.com/s/WQiY90iVAxd-82Ys6rfTxw

申請創(chuàng)業(yè)報道，分享創(chuàng)業(yè)好點子。點擊此處，共同探討創(chuàng)業(yè)新機遇！