人工智能（AI）正無所不至地滲入人類生活。我們?nèi)諠u習(xí)慣于通過智能語音助手了解天氣、控制家電；普遍接受了通過在線語音識(shí)別和翻譯，與來自世界各地的同事或合作伙伴交流；在工業(yè)應(yīng)用和科研領(lǐng)域，AI更是幫助人類將視野拓展到星辰大�；蛄Ｗ邮澜纭�

   這些日趨成熟的AI技術(shù)背后，是無處不在的AI計(jì)算。智慧時(shí)代已經(jīng)到來，“計(jì)算力就是生產(chǎn)力”已成共識(shí)。那么，如何準(zhǔn)確直觀地衡量與評(píng)估AI計(jì)算發(fā)展水平？

   近日，國(guó)際AI性能基準(zhǔn)評(píng)測(cè)MLPerf™的最新AI推理V2.0榜單，為我們帶來了解AI計(jì)算水平的“風(fēng)向標(biāo)”。

AI大考

   MLPerf™由圖靈獎(jiǎng)得主大衛(wèi)•帕特森聯(lián)合頂尖學(xué)術(shù)機(jī)構(gòu)發(fā)起成立，旨在打造一套測(cè)量和提高機(jī)器學(xué)習(xí)軟硬件性能的通用基準(zhǔn)，為評(píng)估各類AI系統(tǒng)在實(shí)際應(yīng)用中的性能提供權(quán)威有效的數(shù)據(jù)指導(dǎo)。

   “說白了就是一場(chǎng)‘大考’。”一位參加此次大賽的工程師說，“廠家都說自己的機(jī)器好,那就來PK一下，看誰在實(shí)際應(yīng)用中更強(qiáng)。”

   2020年，非營(yíng)利性機(jī)器學(xué)習(xí)開放組織MLCommons（成員包括50余家全球AI領(lǐng)軍企業(yè)及頂尖學(xué)術(shù)機(jī)構(gòu)）基于MLPerf™成立，每年組織AI訓(xùn)練和推理性能測(cè)試各兩次，以便跟進(jìn)迅速變化的計(jì)算需求和計(jì)算性能提升。每一次測(cè)試往往都匯聚英特爾、英偉達(dá)、谷歌、微軟云、浪潮信息、戴爾等數(shù)十家頭部芯片、云服務(wù)和IT基礎(chǔ)設(shè)施廠商同臺(tái)競(jìng)技。

   如果把AI訓(xùn)練看作AI的“學(xué)習(xí)過程”，那么推理就相當(dāng)于AI能“學(xué)以致用”。

   MLPerf™的AI訓(xùn)練性能測(cè)試主要考查完成各主流AI模型的訓(xùn)練時(shí)間，完成的速度越快則意味著性能更強(qiáng)；而AI推理主要考查AI系統(tǒng)（使用主流AI模型）完成各類任務(wù)的速度與效率。

   相較于代表技術(shù)發(fā)展水平的AI訓(xùn)練，低延遲、高效的AI推理和AI的落地應(yīng)用關(guān)系更加密切——推理需要保留模型在訓(xùn)練中學(xué)到的能力，還能應(yīng)用到前所未見的數(shù)據(jù)上，并根據(jù)真實(shí)世界中的數(shù)據(jù)，迅速提供正確答案。

   作為當(dāng)下最權(quán)威的AI性能基準(zhǔn)測(cè)試，MLPerf™全面、公平地考查了各類AI場(chǎng)景下參測(cè)廠商系統(tǒng)和軟件優(yōu)化的整體能力。同時(shí)，因?yàn)槿蝽敿?jí)廠商的積極參與和重視，MLPerf™的每一次測(cè)試結(jié)果，都代表著當(dāng)前最先進(jìn)的AI計(jì)算水平。

“飆”到最快

   今年4月結(jié)束的MLPerf™ AI推理性能測(cè)試競(jìng)爭(zhēng)“慘烈”。據(jù)MLPerf™官方統(tǒng)計(jì)，本輪測(cè)試19家參賽者共提交超3900項(xiàng)性能成績(jī)和2200項(xiàng)功耗成績(jī)，分別是上一輪的2倍和6倍。

   此次AI推理性能評(píng)測(cè)包含了六大AI任務(wù)，分別是圖像分類、醫(yī)學(xué)影像分割、目標(biāo)物體檢測(cè)、語音識(shí)別、自然語言理解以及智能推薦，它們也是當(dāng)下最主流和通用的AI應(yīng)用場(chǎng)景。針對(duì)這六大任務(wù)，MLPerf™設(shè)置了非常細(xì)致的考查維度（共33項(xiàng)賽道），從而全方位地檢驗(yàn)AI系統(tǒng)在各種應(yīng)用情況下的表現(xiàn)。

   比如，其中的圖像分類任務(wù)，即根據(jù)圖像的語義信息，將不同類別的圖像區(qū)分開。這是計(jì)算機(jī)視覺中重要的基本問題，也是更高級(jí)的視覺任務(wù)的基礎(chǔ)。相關(guān)工程師表示，“通俗說，它有個(gè)數(shù)百萬張圖片的數(shù)據(jù)集，比賽時(shí)看誰能在最短的時(shí)間內(nèi)，把這個(gè)數(shù)據(jù)集里的圖片全部識(shí)別出來，并正確分類。”

   AI圖像分類在日常生活中有著廣泛應(yīng)用，如智能視頻分析、交通場(chǎng)景識(shí)別、互聯(lián)網(wǎng)領(lǐng)域基于圖像內(nèi)容的檢索以及相冊(cè)自動(dòng)分類等。此次性能評(píng)測(cè)中，浪潮AI服務(wù)器創(chuàng)造了每秒對(duì)44.99萬張圖片進(jìn)行分類的嶄新世界紀(jì)錄。

   性能紀(jì)錄不止于此。在此次MLPerf™測(cè)試的33項(xiàng)賽道中，浪潮AI服務(wù)器以27項(xiàng)冠軍位列榜首：攬獲數(shù)據(jù)中心內(nèi)的全部16項(xiàng)冠軍，并在邊緣端17個(gè)單項(xiàng)中取得了11個(gè)冠軍。

   相比2021年的MLPerf™推理測(cè)試，浪潮AI服務(wù)器在半年時(shí)間內(nèi)將圖像分類、語音識(shí)別和自然語言理解任務(wù)的推理性能分別提升31.5%、28.5%及21.3%。這意味著，AI系統(tǒng)在自動(dòng)駕駛、智能問答和智慧醫(yī)療等場(chǎng)景中，能更高效地完成各類任務(wù)。

   “MLPerf™就像提供給大家一個(gè)飆車的賽場(chǎng)，用各種辦法，把性能飆到最高、飆到最快。”浪潮信息副總裁、AI&HPC產(chǎn)品線總經(jīng)理劉軍說，“浪潮AI服務(wù)器正是賽道中最快的賽車。”

驅(qū)動(dòng)應(yīng)用發(fā)展

   中國(guó)工程院院士王恩東認(rèn)為，隨著AI的規(guī)模化發(fā)展，算力已經(jīng)成為決定性力量，智慧計(jì)算已成為智慧時(shí)代的核心生產(chǎn)力。AI從五六年前的“黑科技”，變成今天的“熱科技”，離不開算力支撐能力的巨大飛躍。

   秉持“促進(jìn)機(jī)器學(xué)習(xí)創(chuàng)新，以此惠及普羅大眾”的理念，MLPerf™大賽不僅是頂尖廠商、學(xué)術(shù)機(jī)構(gòu)和創(chuàng)新企業(yè)比拼AI算力的專業(yè)“考場(chǎng)”，更是協(xié)同推進(jìn)智算力創(chuàng)新和突破的陣地。

   “參加MLPerf™讓我們獲得了豐富的實(shí)踐經(jīng)驗(yàn)。”浪潮信息AI&HPC應(yīng)用軟件部總經(jīng)理吳韶華說，“隨后，我們把這種經(jīng)驗(yàn)應(yīng)用到AI服務(wù)器設(shè)計(jì)上打磨產(chǎn)品，讓AI算力越來越強(qiáng)。”

   數(shù)字新基建、東數(shù)西算正推動(dòng)智算融入千行百業(yè)，諸多應(yīng)用場(chǎng)景迫切期待AI算力提升。

   作為新一輪科技革命和產(chǎn)業(yè)變革的重要方法和工具，智慧計(jì)算將在推動(dòng)數(shù)實(shí)相融、催生新產(chǎn)業(yè)新業(yè)態(tài)方面發(fā)揮越來越大的作用。智慧計(jì)算不僅助力我們“飆車”國(guó)際頂尖賽道，也成為驅(qū)動(dòng)未來發(fā)展的重要力量�！�