未上市  

創鑫智慧AI推論晶片獲MLPerf v3.0最佳能效比 勝出

創鑫智慧AI推論晶片獲MLPerf v3.0最佳能效比 勝出對手1.7倍

MLPerf v3.0 AI 推論 (Inference) 效能基準測試中，創鑫智慧 (NEUCHIPS)世界首款專為資料中心推薦模型 (Recommendation Model) 設計的AI加速器RecAccel N3000，在伺服器領域的能源效率 (Energy efficiency)上，領先AI大廠輝達 (NVIDIA)，成為世界第一能效的AI加速平台。

MLPerf v3.0 AI 推論測試是由致力提升機器學習技術和應用的開放工程聯盟 MLCommons所進行。創鑫智慧此次採用技鋼 G482-Z54 伺服器搭載 AMD EPYC 7452 32 核CPU及8張RecAccel N3000 32G PCIe 加速卡執行DLRM測試。

根據MLCommons公布的測試數據，在資料中心推薦系統領域，RecAccel N3000 系統除了展現其100%的效能擴充性 (Performance Scalability) 之外，在每瓦可處理1,060次查詢 (Queries) 的評策上，能效為對手NVIDIA H100的1.7倍，高居榜首。未來計畫推出的RecAccel Quad N3000 PCIe 卡更能提供高達 2.2倍的卓越效能。

「為實現量大、精準、即時且節能的人工智慧運算，我們必須找到更可持續和環境友好的解決方案，這不僅僅是一個商業挑戰，更是對社會責任和綠色發展的追求，」創鑫智慧創辦人暨董事長林永隆博士表示。「我們以具體行動證明我們對永續發展的承諾，除了在 MLPerf測試中取得最佳表現，我們還將推出專為開放運算計畫 (OCP) 設計的 DM.2 模組，繼續引領產業發展，提供更多協助雲端服務供應商與資料中心節省成本的平台方案，並助力 AI 技術的繁榮與成長。」

AMD策略業務發展全球副總裁Kumaran Siva則表示：「AMD提供高效能運算產品，幫助智慧系統有效管理複雜的資料集。我們非常高興能與創鑫智慧合作，藉由AMD EPYC處理器為MLPerf v3.0中的DLRM推理實現領先的效能及能耗。我們期待持續與創鑫智慧協同發展與創新，為市場提供不斷引領先進技術的人工智慧解決方案。」

2024/10/18【IC設計攻頂補助計畫名單出爐 聯發科等15家業者拿到】
2024/1/17【經部：AI on Chip計畫創造產值逾350億】
2023/5/18【AI晶片正夯，竟有台廠超越輝達！台灣IC設計新兵如何在短短4】
2023/4/18【創鑫智慧AI推論晶片獲MLPerf v3.0最佳能效比 勝出】
2020/11/27【【高速運算應用-學研之星】HarDNet類神經骨幹網路成功開】
2020/11/30【【高速運算應用-學研之星】TWCC助拳 創鑫智慧AI加速器解】
2021/1/5【站穩智慧運算的設計制高點開拓AI版圖】
2021/12/16【HarDNet進軍智慧醫療 協助自動化診斷醫學影像判讀】
2022/7/4【創鑫智慧7奈米製程AI雲端加速解決案 明年首季問市】
2022/7/4【猛！IC設計新秀創鑫智慧 一出手就投產台積7奈米】
2022/10/31【打造高效AI推薦系統　林永隆率創鑫智慧挺進世界】
2023/3/29【經濟部發表六項世界級關鍵技術 搶攻人工智慧晶片商機】
2023/4/6【創鑫智慧AI晶片節能指標排第一 超越高通輝達】
2023/4/10【評比優於NVIDIA　創鑫智慧AI晶片主打推薦模型應用】