·全局數(shù)據(jù)互聯(lián)與長距離高速傳輸是超算互聯(lián)網(wǎng)需要攻克的兩大關(guān)鍵技術(shù)。存力與算力在超算互聯(lián)建設(shè)中同樣重要，大批量數(shù)據(jù)用算力計算一般只需幾分鐘，但計算前的上載數(shù)據(jù)要花一個小時，國產(chǎn)超算平臺支持復(fù)雜計算全流程中數(shù)據(jù)流轉(zhuǎn)的能力亟待改善。

國家超級計算長沙中心總工程師唐卓。

今年6月，浙江“烏鎮(zhèn)之光”超算中心正式納入國家超算中心序列，成為全國第14個國家超算中心?！拔覀儑椰F(xiàn)在正在緊鑼密鼓地建設(shè)超算互聯(lián)網(wǎng)?！?月24日，在十九屆全國高性能計算學術(shù)年會期間（CCF HPC China 2023），國家超級計算長沙中心總工程師、國家高層次人才計劃入選者唐卓向澎湃科技（www.loaarchitects.com.cn）詳解構(gòu)建超算互聯(lián)網(wǎng)亟需解決的關(guān)鍵技術(shù)、存力建設(shè)的重要性，以及傳統(tǒng)超算如何融合人工智能計算和大數(shù)據(jù)計算等。

唐卓長期從事高性能計算和云計算的教學與科研工作。對于當前青年科研人員的內(nèi)卷，他建議要有明確的研究方向并長期沉淀和堅持，清晰認知自身的學習能力和科研創(chuàng)新能力，在兩者兼具的情況下往前沖，很難不成功。

超算互聯(lián)網(wǎng)兩大關(guān)鍵技術(shù)：全局數(shù)據(jù)互聯(lián)與長距離高速傳輸

算力是當代生產(chǎn)力，超級計算也被稱為高性能計算。為盤活算力資源，單超算中心向超算互聯(lián)網(wǎng)演進，超算互聯(lián)網(wǎng)的目的是讓用戶能夠隨時隨地獲取數(shù)據(jù)資源和算力資源。從物理形態(tài)上來講，它通過高速互聯(lián)技術(shù)將超算中心連接起來，統(tǒng)一對外提供數(shù)據(jù)和算力服務(wù)。

“我們國家現(xiàn)在正在緊鑼密鼓地建設(shè)超算互聯(lián)網(wǎng)。”唐卓表示，目前算網(wǎng)調(diào)度有兩大關(guān)鍵技術(shù)要突破，一是數(shù)據(jù)和任務(wù)的跨域調(diào)度和跨中心調(diào)度，二是長距離數(shù)據(jù)傳輸?shù)牡蜁r延和高帶寬。

對于前者，算力是CPU（中央處理器）、GPU（圖形處理器）、FPGA（現(xiàn)場可編程門陣列）等算力設(shè)備，實體的算力設(shè)備無法調(diào)度，所謂的算力調(diào)度，就是分配數(shù)據(jù)和任務(wù)到合適的地方進行計算分析。算力調(diào)度就像軍隊指揮官，將一個大任務(wù)分解成多個小任務(wù)。以“天河”新一代超級計算機為例，其具有一萬多塊加速器、上千萬核心。上千萬核心相當于上千萬士兵，指揮官要讓這上千萬士兵步調(diào)一致地分工計算并返回結(jié)果，形成最終的計算結(jié)果。但上千萬士兵的能力并不都相同，所以要考慮每個士兵的負載情況，把合適的任務(wù)分配給合適的士兵。為了讓分散在各地的數(shù)據(jù)被正確處理，這就需要超算互聯(lián)網(wǎng)數(shù)據(jù)基礎(chǔ)設(shè)施的一體化建設(shè)，打破多超算中心的數(shù)據(jù)孤島，通過全局數(shù)據(jù)管理的新技術(shù)手段，實現(xiàn)數(shù)據(jù)全域互聯(lián)、全域可見、統(tǒng)一調(diào)度，任意位置數(shù)據(jù)即取即用。

對于后者，帶寬是單位時間能通過鏈路的數(shù)據(jù)量，延遲是在傳輸介質(zhì)中傳輸所用的時間。中國工程院院士、清華大學計算機系教授鄭緯民曾提到，在網(wǎng)絡(luò)正常情況下，從北京的清華大學傳輸4T數(shù)據(jù)到江蘇的國家超級計算無錫中心太湖之光超級計算機，需要5天。把數(shù)據(jù)刻成盤寄快遞，第二天下午就能到無錫。為了解決這個問題，唐卓表示，目前光傳送網(wǎng)（OTN）以及運營商的云專網(wǎng)等適用于長距離、低時延的算力網(wǎng)構(gòu)建。

存力與算力在超算互聯(lián)建設(shè)中同樣重要

國產(chǎn)超算處于國際第一梯隊，是我國的一張名片，但仍面臨數(shù)據(jù)治理困難、應(yīng)用移植成本高等挑戰(zhàn)。數(shù)據(jù)作為超算互聯(lián)的核心生產(chǎn)要素，其重要性已成為業(yè)界共識，高效的數(shù)據(jù)流動是算力流動的基礎(chǔ)。唐卓表示，因此業(yè)界在關(guān)注算力的同時也需要考慮數(shù)據(jù)存力，未來超算的建設(shè)應(yīng)圍繞科研數(shù)據(jù)應(yīng)用的全流程進行構(gòu)造。

國產(chǎn)超算平臺支持復(fù)雜計算全流程中數(shù)據(jù)流轉(zhuǎn)的能力亟待改善。唐卓說，大批量數(shù)據(jù)用算力計算一般只需幾分鐘，但計算前的上載數(shù)據(jù)要花一個小時。在計算過程中，不可避免地要在計算節(jié)點之間不停交換數(shù)據(jù)，搬運這些數(shù)據(jù)的時間開銷也非常大?！拔覀冊谂袛喑愕男蕰r有一個重要指標：計算通信開銷比，我們不希望數(shù)據(jù)交換占據(jù)的時間過長，解決這個問題的方法是，在做密集型計算之前，把數(shù)據(jù)清洗、數(shù)據(jù)融合、數(shù)據(jù)上載等一部分必要計算直接下沉到專業(yè)存儲上去完成，這也是超算逐漸從計算密集型走向數(shù)據(jù)密集型的一個映證?！?/p>

唐卓表示，以前的存儲設(shè)備僅僅存儲數(shù)據(jù)，而現(xiàn)在遠不止于此，要讓存儲設(shè)備具有一定的近數(shù)據(jù)計算能力和數(shù)據(jù)業(yè)務(wù)處理邏輯，提升整體效率。除此之外，存儲還需要按照訪問頻次預(yù)先識別數(shù)據(jù)的熱冷程度，把熱數(shù)據(jù)放到性能較好的存儲介質(zhì)上，把冷數(shù)據(jù)放到性價比更高的存儲介質(zhì)上，實現(xiàn)數(shù)據(jù)的分區(qū)存放、按需流動?！斑@些都是存力的作用，通過存力建設(shè)讓主處理器只負責計算，減少數(shù)據(jù)搬運開銷和數(shù)據(jù)I/O（輸入/輸出）開銷?！?/p>

隨著人工智能的發(fā)展，傳統(tǒng)超算如何適應(yīng)人工智能計算和大數(shù)據(jù)計算？唐卓表示，存力不僅要解決數(shù)據(jù)I/O問題，還要解決多數(shù)據(jù)中心的數(shù)據(jù)調(diào)度。只有更好地理解數(shù)據(jù)特征和應(yīng)用特征，才能在融合計算過程中做出預(yù)判，把數(shù)據(jù)和任務(wù)分配到最合適的位置上進行計算，使得節(jié)點之間的數(shù)據(jù)交換量更小。

唐卓表示，一個千億參數(shù)的大模型在一臺甚至多臺超算上進行訓練時，要把模型分成多份并行訓練，訓練結(jié)果實時同步交換，這增加了節(jié)點間的通信開銷。為了降低通信開銷，一個方法是先各自訓練，再交換一批次訓練結(jié)果，但這會導致溝通稀疏、收斂性較差?！澳壳皣鴥?nèi)大模型主要在超算和智算上訓練，超算用于人工智能計算還有很大提升空間?！碧谱勘硎?，要在傳統(tǒng)超算方面加大存力建設(shè)、數(shù)據(jù)調(diào)度和任務(wù)科學調(diào)度的投入，實現(xiàn)算力與存力協(xié)同、分工優(yōu)化，讓超算與智算相互滲透融合，同時讓智能計算和超算形成算網(wǎng)、數(shù)網(wǎng)的互聯(lián)，互通有無。

明確研究方向并長期沉淀

唐卓目前任職國家超級計算長沙中心總工程師，正在從事省域算力網(wǎng)的模式構(gòu)建研究和原型系統(tǒng)研究，他也在湖南大學信息科學與工程學院主持工作，深刻認識到當前“超算和AI領(lǐng)域真正需要的是掌握核心底層技術(shù)能力的人才”，他希望學生具備對計算架構(gòu)、存儲架構(gòu)、體系結(jié)構(gòu)以及底層系統(tǒng)研發(fā)的能力，而不僅僅是編程能力。

唐卓介紹，湖南大學信息科學與工程學院正在制定、修改、優(yōu)化本科生和研究生的培養(yǎng)計劃和教學大綱，以計算機系統(tǒng)的視角培養(yǎng)人才。計算機科學方向的本科生在入學時抓好處理器設(shè)計、指令集、操作系統(tǒng)、編譯原理、高級程序語言設(shè)計5門核心課程，“讓學生畢業(yè)時能夠充分理解高級程序語言是怎么被編譯成機器代碼的，機器代碼是如何在操作系統(tǒng)層面被調(diào)度到處理器核心上工作的，機器代碼在處理器核心上執(zhí)行時是怎么編譯，每一條指令在 CPU上是怎么執(zhí)行并變成一個電路級行為的，這就到了最底層的芯片的設(shè)計，最終讓學生非常清晰地理解整個計算機體系結(jié)構(gòu)。”研究生階段實行并行計算、高性能計算培養(yǎng)，在開發(fā)板上設(shè)計處理器架構(gòu)、操作系統(tǒng)、編譯系統(tǒng)，通過學生個人賬號登錄超級計算機，深入學習和理解超算程序的編寫，編譯和調(diào)度。

唐卓也看到，“當前青年科研人員處于內(nèi)卷狀態(tài)，科研院所和頭部企業(yè)更加突出?！彼ㄗh要有明確的研究方向并長期沉淀和堅持，“很多博士畢業(yè)后到了高校，今年做這個方向明年又換另一個方向，跟著潮流變換，這不是一個好現(xiàn)象?！痹诔戕D(zhuǎn)向智算過程中要根據(jù)數(shù)據(jù)特征和應(yīng)用特征對數(shù)據(jù)再分配和調(diào)度整合，唐卓表示，這在十多年前已被發(fā)現(xiàn)，“我們一直在做這個事情，一直沒變，所以才能夠慢慢積累起來。當你覺得最辛苦、最沮喪、最困難的時候，如果你堅持下來了，你的突破點、轉(zhuǎn)折點就快到了?！?/p>

其次，青年科研人員要清晰認知自身的學習能力和科研創(chuàng)新能力。如果具備了明確研究方向和清晰認知，“那就沖吧，我覺得這很難不成功?！?/p>