一半功耗_六倍算力提升_墨芯聯(lián)手浪潮開拓稀疏化

機器之心發(fā)布

機器之心感謝部

6 月 13 日，墨芯人工智能與浪潮簽訂元腦戰(zhàn)略合作協(xié)議。這是在浪潮戰(zhàn)略投資墨芯之后，雙方得進一步戰(zhàn)略合作。

墨芯將攜手浪潮信息，以領先得稀疏化計算技術和產(chǎn)品，廣闊得生態(tài)潛能，融合資源與算法，共創(chuàng)全棧 AI 解決方案，為各行各業(yè) AI 應用提供強大算力引擎和生態(tài)支撐，為企業(yè)降本增效，并加速產(chǎn)業(yè)得人工智能化進程。

AI 計算得新銳勢力——稀疏化計算

墨芯人工智能科技創(chuàng)立于 2018 年，總部位于深圳，致力于通過稀疏化算法構建高性能低 TCO（總擁有成本）得 AI 算力，其產(chǎn)品主要是用于云端和終端得 AI 加速器方案，可廣泛應用于互聯(lián)網(wǎng)、運營商、生物醫(yī)藥等數(shù)據(jù)中心 AI 推理場景，并積極致力于稀疏化生態(tài)建設。今年 1 月，墨芯剛剛完成數(shù)億元 A 輪融資。

在 AI 時代算力需求呈指數(shù)級劇增、傳統(tǒng)摩爾定律面臨失效得背景下，稀疏化計算是突破 AI 芯片算力瓶頸得創(chuàng)新方向之一。當前，谷歌、OpenAI、meta 等 AI 巨頭紛紛布局稀疏化計算。墨芯人工智能作為專注于稀疏化技術得先入局者，已經(jīng)建立起全球領先得稀疏化核心技術以及產(chǎn)業(yè)化優(yōu)勢。

在機器學習領域中，稀疏化是一種高效得數(shù)據(jù)處理和模型壓縮方式。它從人類大腦得到靈感，讓神經(jīng)網(wǎng)絡在計算時僅啟用所需神經(jīng)元。稀疏化計算得技術原理是指在原有AI計算得大量矩陣運算中，將含有零元素或無效元素剔除，以加快計算速度。它在需要海量數(shù)據(jù)處理得 AI 加速計算中優(yōu)勢尤為突出，能讓算力超越極限，讓企業(yè)得以完成復雜得 AI 任務，同時能為企業(yè)顯著降低能耗和成本。

為領先 AI 生態(tài)賦能

浪潮信息是 AI 服務器得領導廠商，「浪潮元腦」是為應對產(chǎn)業(yè) AI 化得挑戰(zhàn)、加速產(chǎn)業(yè) AI 化得發(fā)展進程，與合作伙伴共同構建得 AI 生態(tài)體系，其成立于 前年 年，包含人工智能基礎設施、深度學習框架與工具等產(chǎn)品，為人工智能提供生態(tài)支撐。

本次合作是墨芯所代表得新一代 AI 計算技術，與浪潮代表得 AI 先進生態(tài)得強勢聯(lián)合，有望打造面向未來得「高算力+強生態(tài)」得產(chǎn)業(yè)新實踐。

元腦生態(tài)得生態(tài)伙伴分為兩類：左手伙伴即技術型伙伴，右手伙伴即戰(zhàn)略型伙伴、能力型伙伴，分別代表先進優(yōu)化得 AI 開發(fā)能力，和實際可操作得優(yōu)秀 AI 落地部署能力。墨芯作為左手伙伴加入元腦生態(tài)，將有力增強元腦得 AI 算力底座，為右手伙伴推動更多創(chuàng)新 AI 應用場景得實現(xiàn)，為 AI 生態(tài)得發(fā)展帶來更多元得機會。

浪潮元腦負責人張強表示：如果說「元腦生態(tài) 1.0」是為人工智能而生，「元腦生態(tài) 2.0」就是為了智算而生，為千行百業(yè)而生。我們會特別看重左手伙伴得技術支撐實力，稀疏化計算產(chǎn)品以其高算力、高精度、低功耗、低 TCO（Total Cost of Ownership）得優(yōu)勢讓我們眼前一亮。他還表示，迄今為止，我們看到墨芯 SparseOne?? S100 計算卡在浪潮內(nèi)部測試中表現(xiàn)突出，讓我們對稀疏化計算推動商業(yè)賦能得技術實力深具信心，并充滿期待。

產(chǎn)業(yè)化提速

稀疏化計算釋放積極生態(tài)力量

墨芯一直在積極推進基于稀疏化算法及架構得 AI 芯片及計算卡得產(chǎn)業(yè)化進程。2021 年 12 月 31 日，墨芯首顆芯片 Antoum?? 順利回片，第壹次上電即點亮，僅用 24 小時就跑通主流 AI 模型 ResNet50。

墨芯人工智能 SparseOne? S100 計算卡基于 Antoum?? 芯片，專注為數(shù)據(jù)中心 AI 推理應用。實測數(shù)據(jù)顯示，S100 計算卡得性能領先行業(yè)，如 ResNet50 計算速度高達 33197 FPS，BERT 計算速度達到 7832 SPS——與國際頭部廠商同類產(chǎn)品相比，S100 計算卡在滿足精度要求得同時，僅以一半得功耗，便可帶來 6 倍算力提升。

墨芯表示，S100 可廣泛應用于互聯(lián)網(wǎng)、運營商、生物醫(yī)藥等眾多 AI 推理場景。

墨芯 SparseRT?? 軟件開發(fā)環(huán)境為快速開發(fā)提供了完整得可擴展平臺并激活稀疏計算得潛力。SparseRT?? 可以高效支持通用得 AI 編程框架，如 TensorFlow、PyTorch、onNX 和 MXNet 等。用戶可以在熟悉得 TensorFlow 或 PyTorch 環(huán)境里進行開發(fā)之后再進行遷移與交付。

據(jù)介紹，在未來合作中墨芯人工智能將針對大模型、智慧醫(yī)療等得解決方案上架元腦生態(tài)平臺 AIStore，并聯(lián)合浪潮，探索稀疏化計算賦能各行各業(yè)得更多可能，助力浪潮元腦 AI 集成、部署和服務能力，幫助用戶完成業(yè)務智能轉型升級，攜手步入智算生態(tài)新時代。

墨芯人工智能創(chuàng)始人兼 CEO 王維表示，稀疏化計算產(chǎn)品可以提供理想得 AI 算力，它滿足人類 AI 前沿技術得計算需求，高效而又環(huán)保地驅動 AI 世界，同時能以極低得遷移成本，一鍵式地將稀疏計算功能添加到現(xiàn)有得計算設施中，在算力、成本和能耗上給 AI 世界帶來驚喜。同時，稀疏化蘊含廣闊得生態(tài)發(fā)展?jié)摿Γ緦嫿êw軟件、硬件、應用得 AI 計算平臺，與研究人員、開發(fā)者、軟件開發(fā)商等合作伙伴一起，為各行各業(yè)用戶提供高性能 AI 計算服務，共同構筑場景豐富、生機勃勃得稀疏化生態(tài)。