從復現(xiàn)人類智能到挑戰(zhàn)AI大工程,智能計算正經(jīng)歷什么考驗?
面對多樣化算力供應的需求,曙光智算早就做好充足準備,比如,曙光智算已經(jīng)為許多大型企業(yè)提供AI應用的支撐。
靈活而多樣的算力配置是復雜的數(shù)學問題,但曙光智算卻化繁為簡,只對外提供即插即用式的接口,這正是「智算+」API新模式。
「智算+」API新模式,依托于曙光智算API接口。基于該API接口,AI研究人員無需任何算力配置的專業(yè)知識,便可輕松接入資源龐大的曙光計算服務平臺,實現(xiàn)AI模型訓練、推理等操作,從而加快、簡易化整個研發(fā)流程。
無界的兩大含義——向內(nèi)多樣化、向外簡易化,被「智算+」API詮釋透徹。
圖注:曙光智算服務架構
通過開放API,曙光智算可為SAAS服務提供商、應用軟件提供商、第三方算力服務商提供多樣化的算力服務,分別對應3種集成模式:
首先是平臺集成。該模式主要面向第三方算力服務商,具體來說是,基于曙光智算AC平臺服務和「智算+」API,將第三方算力服務商平臺入口集成到曙光統(tǒng)一服務平臺(AC平臺),底層使用曙光自運營算力。
AC平臺將多個智能計算中心通過數(shù)據(jù)互聯(lián)互通,從而進行跨中心的管理和調(diào)度,并以API或非API的形式對外服務。
其中,智能計算中心采用專有的調(diào)度引擎,來協(xié)同計算資源。所謂調(diào)度也就是對于特定的問題,選擇不同的建模(比如SVM、CNN等)和計算方式(比如BLAS、AVX等并行模式)。
其次是應用集成。該模式主要面向應用軟件提供商,為包含多個軟件的應用商城提供強大而靈活的算力。具體來說是,將第三方應用部署到曙光智算現(xiàn)有算力資源中,并依托平臺監(jiān)控管理模塊對應用程序進行管理、調(diào)度、性能監(jiān)控、提供優(yōu)化指導等。
目前應用商城已經(jīng)集成海量商業(yè)應用Portal和開源應用軟件,比如人工智能類軟件包括了TensorFlow、PyTorch等深度學習框架,以及Hadoop、Spark等數(shù)據(jù)分析框架。
例如在人工智能領域,百度飛槳與曙光智算合作,已實現(xiàn)「智算+」API與Paddle2.x的適配,國產(chǎn)X86及其加速卡版作為常用分支合入官方GitHub倉庫,支持安裝包直接安裝,實現(xiàn)與GPU的API接口統(tǒng)一。此外,通過將「智算+」API對接AI Studio,百度飛槳還可為開發(fā)者提供人工智能學習、實訓、比賽的算力資源。
曙光智算還助力復旦大學類腦智能科學與技術研究院,構建并利用多模態(tài)多尺度腦數(shù)據(jù)庫,發(fā)展了模式識別、深度學習等類腦智能方法。其中,「智算+」API為研究院提供了數(shù)百獨占節(jié)點+上千個動態(tài)節(jié)點,協(xié)助完成了從CUDA生態(tài)到國產(chǎn)異構加速生態(tài)的代碼遷移、應用優(yōu)化等工作。
在AI領域中,深度學習盛行的當下,人工智能近乎有了一致的數(shù)學語言,同時也就有了更加靈活的協(xié)同效應,而耦合與解耦的協(xié)同也在深度學習領域發(fā)揮重要作用。比如在一般的全連接神經(jīng)網(wǎng)絡自身效率不高時,就要通過內(nèi)部“橫向耦合”來深入地探索合適的機制,最終具有更強適應性的Transformer架構脫穎而出。之后,與數(shù)據(jù)、任務等要素“縱向解耦”,Transformer成為如今適用多種任務的大模型的標配,并且不僅僅限于類人智能,蛋白質(zhì)結(jié)構預測等科學計算任務亦被證實利用Transformer是可行的,基于Transformer的大模型也在通用AI的探索路徑上被寄予厚望。
可以說,AI的技術演變?nèi)缃褚渤尸F(xiàn)向內(nèi)多樣化、向外簡易化的模式。
同樣,算力的耦合與解耦的協(xié)同也在曙光智算的設想之中。基于這種協(xié)同作用,并憑借20多年的從業(yè)經(jīng)驗、統(tǒng)一和商業(yè)化的運營模式、豐富的多類型資源、超高速的計算/存儲網(wǎng)絡、安全的設計標準,曙光智算將打造算力的“無界”生態(tài)。
首先,AC平臺將不同的智能計算中心進行內(nèi)部“橫向耦合”,如同調(diào)整神經(jīng)網(wǎng)絡中錯綜復雜的連接和激活機制一般,通過深度的融合來得到“強適應的Transformer”,也就是規(guī)劃出多樣的算力配置方案,體現(xiàn)資源無界優(yōu)勢;其次,「智算+API」則像經(jīng)過千錘百煉的Transformer模型,以“好用、通用黑箱”的、“縱向解耦”的方式,最大限度推動硬件資源、算力網(wǎng)絡、算法應用之間的協(xié)調(diào)適配,以實現(xiàn)計算價值最大化,體現(xiàn)技術無界優(yōu)勢。
最后,在資源無界、技術無界的推動下,曙光智算得以打造全產(chǎn)業(yè)鏈共享的算力生態(tài),以“零門檻”方式最大限度接入產(chǎn)業(yè)鏈上下游相關方,破除信息孤島,推動打造超連接、共進化的無界生態(tài)系統(tǒng),實現(xiàn)無界生態(tài)的持續(xù)創(chuàng)新、升級。
「智算+」API新模式,詮釋了曙光智算的算力“無界”的終極奧義,從資源、技術、生態(tài)三個層面構建“開放無界”的算力平臺,引領計算產(chǎn)業(yè)邁入互利共贏的新時代。
? Copyright 2013 南京奧特賽人工智能技術研發(fā)有限公司 版權所有 備案號:蘇ICP備19032300號-1 蘇公網(wǎng)安備32011602010459 技術支持:科威鯨網(wǎng)絡