AI計(jì)算機(jī)作為軍用端側(cè)設(shè)備,集成算力最高可達(dá)3840TOPS@INT8,可完整本地部署671B/千億參數(shù)DeepSeek模型。設(shè)備實(shí)現(xiàn)了100%國產(chǎn)化自主可控,實(shí)現(xiàn)AI大模型從實(shí)驗(yàn)室到工程化的跨越。
軟件生態(tài):
AI計(jì)算機(jī)具有應(yīng)用覆蓋廣、開發(fā)易遷移的特點(diǎn)。支持常用的深度學(xué)習(xí)框架,代碼無需重新開發(fā),支持CUDA編程,兼容各種軟硬件生態(tài)。
在應(yīng)用功能方面支持500+人工智能模型、通用及高性能計(jì)算應(yīng)用。支持超過50+頻譜專用算法,可進(jìn)行電磁領(lǐng)域信號(hào)的智能處理,支持振動(dòng)異常檢測(cè)、慣導(dǎo)姿態(tài)估計(jì)等感值模型。特別地,AI計(jì)算機(jī)支持671B的Deepseek-R1模型完整本地部署。
DeepSeek模型部署:
AI計(jì)算機(jī)基于多卡國產(chǎn)GPU硬件拓?fù)?,采用流水線并行(Pipeline Parallelism)、專家并行(Expert Parallelism)和數(shù)據(jù)并行(Data Parallelism)相結(jié)合的模型部署方式,支持Deepseek-R1 671B模型完整本地部署,對(duì)模型采用4 bit 量化,并采用llama.cpp、vLLM大模型推理框架進(jìn)行推理優(yōu)化。
模型庫:
支持500+人工智能模型、通用及高性能計(jì)算應(yīng)用:支持AlexNet(卷積神經(jīng)網(wǎng)絡(luò))、BERT(自然語言處理)、Inception_V3(神經(jīng)網(wǎng)絡(luò))、ResNet50 t(卷積神經(jīng)網(wǎng)絡(luò))、VGG16(卷積神經(jīng)網(wǎng)絡(luò))、YOLOv5(目標(biāo)檢測(cè))、RF-LeNet(指紋識(shí)別)、Signet(通信模式識(shí)別)、Spectrum-volox(混合信號(hào)分離)、FreqTimeNetV2(智能信號(hào)估計(jì))等多種AI模型。
支持超過80+感知專用AI算法,包括振動(dòng)異常檢測(cè)、慣導(dǎo)姿態(tài)估計(jì)、電磁頻譜通信指紋識(shí)別、通信信號(hào)調(diào)制識(shí)別、電磁頻譜信號(hào)檢測(cè)、智能通信信道估計(jì)等在無人車、電磁通信信號(hào)等感知信號(hào)領(lǐng)域內(nèi),提供在特定領(lǐng)域內(nèi)AI算法開發(fā)部署demo。
系統(tǒng)架構(gòu):
AI計(jì)算機(jī)基于軍用VPX高速總線設(shè)計(jì),以S5000C CPU板為管理核心,搭配6U VPX通用GPU計(jì)算板、高速交換板,使用PCIe4.0實(shí)現(xiàn)高速數(shù)據(jù)流通信,使用千兆以太網(wǎng)實(shí)現(xiàn)控制流,搭建了一個(gè)松耦合星型關(guān)系拓?fù)浼軜?gòu)。在有限空間內(nèi)集成了大量GPU算力。
CPU板卡參數(shù):
國產(chǎn)CPU處理器:飛騰S5000C處理器,32核,主頻2.3GHz
芯片組:飛騰X100芯片組
顯示:2路VGA、1 路 DVI接口
內(nèi)存:板載4通道DDR464GB DDR4內(nèi)存,支持 ECC
板載存儲(chǔ)接口:M.2連接器接口
支持2路SRIO接口、40G 以太網(wǎng)傳輸接口、千兆網(wǎng)絡(luò)接口
PCIE接口:2路×16 PCIe4.0/5.0接口
支持銀河麒麟桌面版操作系統(tǒng)
GPU板卡參數(shù):
支持ARM架構(gòu)CPU,支持麒麟操作系統(tǒng)
算力:384TOPS@INT8、192TFLOPS@FP16、48TFLOPS@FP32
內(nèi)存:64GB
接口:PCIe Gen4.0 ×16
功耗:300W
工具鏈集成多種主流深度學(xué)習(xí)編程框架,并且提供基于C/C++的編程接口和高性能函數(shù)庫
深度學(xué)習(xí),支持主流DL開發(fā)框架TensorFlow、Pytorch
支持 500+個(gè)AI模型
開發(fā)易遷移,幾乎無OP適配
視頻解碼:最大支持128路并發(fā)(1080@30fps),支持HEVC/AVC/VP9/AVS2
圖像編碼:2000/500fps(JPEG)
支持 ECC,支持虛擬化
板卡實(shí)物圖:
CPU板實(shí)物
GPU板實(shí)物