omniture

浪潮攜手燧原科技推出超強邊緣AI推理服務器

最高性能可達每秒70萬億次
2020-12-23 13:00 5364
12月21日,浪潮邊緣計算服務器NE5260M5宣布對燧原科技全新發(fā)布的人工智能推理加速卡“云燧i10”完成兼容適配與深度優(yōu)化,可根據客戶需求支持2-4張云燧i10,為邊緣AI推理應用提供強大算力支持,最高性能可達每秒70萬億次。

北京2020年12月23日 /美通社/ -- 12月21日,浪潮邊緣計算服務器NE5260M5宣布對燧原科技全新發(fā)布的人工智能推理加速卡“云燧i10”完成兼容適配與深度優(yōu)化,可根據客戶需求支持2-4張云燧i10,為邊緣AI推理應用如自動駕駛、智慧交通、ETC識別、精密儀器預測性維護、AI工業(yè)質檢等場景提供強大算力支持,最高性能可達每秒70萬億次(70Tflops)。

浪潮邊緣AI推理服務器全面支持云燧i10
浪潮邊緣AI推理服務器全面支持云燧i10

云燧i10是一款面向云端和邊緣端數據中心的高性能推理卡,云燧i10是單槽位標準卡,支持PCIe 4.0,FP32算力達到17.6TFLOPS,BF16/FP16算力70.4TFLOPS。云燧i10實現多用戶支持,最大可支持4個設備實例,具備計算與存儲資源的獨享性,多用戶間安全隔離;單顆芯片上可同時部署不同的業(yè)務與負載,實現多任務并行,有效提高利用率;支持KVM、Xen等系統虛擬化平臺。

浪潮邊緣計算服務器NE5260M5高度2U,深度只有430毫米,可部署在通信機房或直接懸掛在墻壁上。盡管該服務器體積小巧,但NE5260M5支持多種異構加速卡,并且各個模塊具有良好的散熱效果,能夠很好適應邊緣惡劣的高溫濕環(huán)境?;诟叨冗m配的軟硬件組合,浪潮NE5260M5可搭載2-4張云燧i10,最多可提供高達每秒70萬億次的單精度算力和280萬億次的半精度算力,高精度主流推理模型的性能實現了業(yè)界領先為邊緣環(huán)境提供更加靈活的加速選擇。

  • 在計算機視覺領域中,可實時高速圖像視覺處理,廣泛應用于工廠AI質檢、場景識別、智能交通等應用,在圖像識別場景中,基于ImageNet圖像數據集,超過75.9%準確率,推斷性能超過3000FPS,在業(yè)界公認的基準測試模型ResNet-50上,性能是一般產品的1.7倍。在視頻增強場景中,可實時進行視頻分辨率增強,服務器處理性能可達240FPS,性能達到業(yè)界一般產品的2倍。
  • 在自然語言處理領域中,可應用于文本分類、輿情監(jiān)管、智能客服等場景,在業(yè)界公認的測試模型Bert-Base上,同時兼顧性能和精度,在FP32高精度下性能是業(yè)界一般產品的1.5倍。
  • 在電商、短視頻推薦場景中,可實現精準、高效、實時的目標內容投放,在業(yè)界流行的主流推薦模型xDeepFM上,性能是業(yè)界一般產品的2倍,因為采用FP32高精度的推理,推薦內容更準確。

得益于5G的拉動,AI正加速向邊緣滲透,未來將會有千億級的終端、無限的數據需要在邊緣側進行人工智能推理,對邊緣側的AI算力提出了更高的要求。浪潮作為全球領先的計算力提供商,目前已面向工業(yè)互聯網、智能網聯汽車、城市治理、工業(yè)互聯網、產業(yè)+AI等七大邊緣計算場景打造豐富的邊緣計算產品形態(tài)及方案,基于云燧i10的浪潮邊緣NE5260M5,將進一步推動AI向邊緣場景的產業(yè)化落地,驅動各行業(yè)的數字化、智慧化轉型。

消息來源:浪潮
China-PRNewsire-300-300.png
全球TMT
微信公眾號“全球TMT”發(fā)布全球互聯網、科技、媒體、通訊企業(yè)的經營動態(tài)、財報信息、企業(yè)并購消息。掃描二維碼,立即訂閱!
collection