華為NPU卡 Atlas 300T Pro 訓(xùn)練卡-1*昇騰910 AI 16Core 2.2GHz(集成30個(gè)華為達(dá)芬奇AI Core + 16個(gè)TaiShan核),32GB,1228GB/s,300W,FP16-140TOPS,INT8-280TOPS,100Gb,1*100GE QSFP-DD接口,雙寬全高全長(zhǎng)
無(wú)需外置網(wǎng)卡,訓(xùn)練數(shù)據(jù)和梯度同步效率提升10%~70%。
三、經(jīng)典使用場(chǎng)景
Atlas 300T Pro 訓(xùn)練卡 (型號(hào) 9000)典型應(yīng)用場(chǎng)景為AI訓(xùn)練,人機(jī)交互操作,如圖3-1所示。
圖3-1 典型單機(jī)用戶
系統(tǒng)管理員:操作界面是iBMC系統(tǒng),通過(guò)帶外的方式實(shí)現(xiàn)設(shè)備管理,包含OS安裝,固件升級(jí),服務(wù)器系統(tǒng)信息查詢,故障處理。
生產(chǎn)裝備人員:通過(guò)裝備系統(tǒng)與iBMC系統(tǒng)(帶外)和OS系統(tǒng)(帶內(nèi))交互完成。
算法工程師:通過(guò)Tensorflow等AI框架開(kāi)發(fā)網(wǎng)絡(luò)模型,調(diào)試訓(xùn)練代碼,導(dǎo)入訓(xùn)練數(shù)據(jù)集,啟動(dòng)訓(xùn)練,觀測(cè)訓(xùn)練過(guò)程(包含多次迭代的loss趨勢(shì)),導(dǎo)出訓(xùn)練好的模型。