
近日,中科馭數(shù)(北京)科技有限公司(以下簡稱“中科馭數(shù)”)基于全國產(chǎn)化CPU、GPU、DPU三U一體設(shè)備本地化部署了DeepSeek模型。
中科馭數(shù)通過國產(chǎn)CPU系統(tǒng)實現(xiàn)整體業(yè)務(wù)調(diào)度與主要服務(wù)進程運行,采用國產(chǎn)GPU完成模型推理運算,由中科馭數(shù)DPU進行設(shè)備裸金屬業(yè)務(wù)管理以及云化網(wǎng)絡(luò)/存儲能力卸載提速。該系統(tǒng)底層采用全國產(chǎn)化的3U一體服務(wù)器搭建,在兼顧安全性與低成本的同時,可以高效運行DeepSeek-V3與DeepSeek-R1等多個AI推理模型系統(tǒng)。
隨著深度學習技術(shù)的快速發(fā)展,大模型(如DeepSeek、GPT等)在自然語言處理、計算機視覺等領(lǐng)域取得了顯著成果,計算需求越來越大。
目前,中科馭數(shù)通過這一創(chuàng)新方案,完成多個AI模型適配,打通全國產(chǎn)化三U一體算力底層支撐,幫助AI應(yīng)用在落地過程中實現(xiàn)更好的數(shù)據(jù)隱私性保護與抵御外部風險的能力,同時也積極推動產(chǎn)業(yè)鏈協(xié)同與資源優(yōu)化整合。
中科馭數(shù)作為DPU芯片和產(chǎn)品供應(yīng)商,憑借自主研發(fā)的K2-Pro芯片,在公司自建的全國產(chǎn)化推理集群中,承擔了高通量網(wǎng)絡(luò)傳輸、云化流表卸載與分布式資源快速加載的任務(wù)。
同時,在AI模型訓練方向,中科馭數(shù)自主研發(fā)的RDMA網(wǎng)卡助力數(shù)據(jù)中心實現(xiàn)高速網(wǎng)絡(luò)連接,能夠確保大規(guī)模模型的數(shù)據(jù)傳輸效率,減少通信延遲,提升整體計算性能。
作為一家專注于專用處理器研發(fā)的國家專精特新“小巨人”企業(yè),中科馭數(shù)始終致力于推動技術(shù)創(chuàng)新與產(chǎn)業(yè)鏈協(xié)同發(fā)展。自主研發(fā)的DPU芯片及相關(guān)系列產(chǎn)品已廣泛應(yīng)用于超低時延網(wǎng)絡(luò)、云和數(shù)據(jù)中心、金融計算、大數(shù)據(jù)處理、5G邊緣計算、高性能計算等多個領(lǐng)域,為各行各業(yè)的數(shù)字化轉(zhuǎn)型提供了堅實的技術(shù)保障。(來源:湖報資本 通訊員黃亞瓊)