• |
  • 極速報價
  • |

17/01/2025

打破AI開發門檻!AI超級電腦3,000美元即可入手,NVIDIA Project Digits顛覆AI研發生態!

  • 加入最愛專欄
  • 收藏文章
  • 方展策

    方展策

    少年時,曾研習 Geographic Information System,可惜學無所成,僥倖畢業。成年後,誤打誤撞進入傳媒圈子,先後在印刷、電子、網絡媒體打滾,略有小成。中年後,修畢資訊科技碩士,眼界漸擴,決意投身初創企業,窺探不同科技領域。近年,積極鑽研數據分析與數碼策略,又涉足 Location Intelligence 開發項目;有時還會抽空執教鞭,既可向他人分享所學,亦可鞭策自己保持終身學習。

    智城物語

  如要研發類似OpenAI GPT的大型語言模型,一是你的公司內部已架設大型電腦叢集,內置逾萬顆AI晶片執行平行運算,一是租用昂貴的AI雲端平台進行遠距運算,所以開發門檻極高。但NVIDIA Project Digits的誕生,卻可以完全扭轉此局面——這是一部定價只需3,000美元的AI超級電腦,其運算力足以運行基礎的大型語言模型,讓資金有限的AI研究員和學生都可以投入AI研發。究竟Project Digits的效能有多強?對未來AI、甚至電腦市場會帶來甚麼衝擊呢?

 

Read More

機械人ChatGPT時刻將臨?NVIDIA世界模型Cosmos加速全球Robot開發,但有侵權隱憂!

AI PC觸發CPU新戰局!微軟押寶高通Arm處理器,挑戰Intel、AMD的x86電腦霸權!

 

GPU+CPU的AI超級晶片GB10

 

  在全球最大消費電子展CES 2025的主題演講上,輝達(NVIDIA)執行長黃仁勳除發表了上期提及的世界基礎模型Cosmos外,還展示了機身小如 Mac mini 般的個人AI超級電腦Project Digits,定價更低至3,000美元(約23,400港元)。黃氏豪言:「每位數據科學家、AI研究人員和學生的桌上都可以放置一部AI超級電腦,讓他們一起參與並塑造AI時代。」

 

  它的核心是GPU與CPU高效結合的GB10 Grace Blackwell超級晶片:Blackwell GPU內建CUDA核心與第五代Tensor核心,能夠加速AI運算;Grace CPU則坐擁20個高效能Arm核心,跟GPU協同運作,提供每秒高達100兆次的運算力。兩者透過NVIDIA的獨門技術NVLink-C2C連接起來,實現晶片間的高速互聯。

 

黃仁勳用3根手指捏著GB10超級晶片,揚言這是NVIDIA製造過最小Blackwell架構晶片。(圖片來源:翻攝NVIDIA官方YouTube影片)

 

運算力可支撐舊版ChatGPT運算

 

  每部Project Digits均配備128GB的統一記憶體,可讓CPU與GPU共享記憶體,提升處理速度;又擁有4TB的NVMe快閃儲存空間,能夠加快數據讀寫速度,優化模型訓練與執行效率。因此,其整體運算力足以支撐規模達2,000億參數的模型訓練與推論(按:2022年底發表的ChatGPT,其GPT-3.5模型的參數量為1,750億)。若要開發更大規模的模型,用戶可以通過ConnectX網絡把兩部Project Digits串聯起來,運行高達4,050億參數的模型。

 

  Project Digits採用Linux核心的《NVIDIA DGX》作業系統,並預載《NVIDIA AI Enterprise》軟件平台,既支援主流的AI開發技術框架如PyTorch或Python,又整合了NVIDIA NeMo框架和RAPIDS數據科學庫。這使得在Project Digits上創建的AI模型原型,能夠無縫部署到NVIDIA自家的DGX Cloud、或其他採用Grace Blackwell架構的雲端平台或數據中心上。

 

黃仁勳在CES 2025主題演講上,一邊單手捧著小巧的Project Digits,一邊說道它可以讓全球每位數據科學家、AI研究人員和學生,都能擁有自己的AI超級電腦,共同塑造AI時代。(圖片來源:翻攝NVIDIA官方YouTube影片)

 

適合部署到中小企業或大專院校

 

  作為一款定位為「個人電腦」的AI運算設備,Project Digits只需普通電源插座即可運作,擺脫以往超級電腦高耗能的限制,故此可以部署到一般的中小企業或大專院校,讓這些資源受限的機構可以避免長期依賴AI雲端服務所帶來的財務壓力、以及可能產生的私隱問題。

 

  事實上,NVIDIA已將學生和教育機構鎖定為Project Digits的目標市場之一。這不僅有助於其擴展產品生態圈,還能通過支持下一代 AI 人才的培養來穩固其市場領導地位。NVIDIA表示,Project Digits將於2025年5月透過合作夥伴發售。

 

可能為進軍桌面CPU市場鋪路

 

  Project Digits的發布,也被市場解讀為NVIDIA可能進軍桌面電腦CPU市場的布局訊號。GB10 超級晶片中的CPU部分,是由輝達合作夥伴聯發科(MediaTek)所設計,不僅能滿足AI運算需求,還可以透過Windows Sub System for Linux技術跟《Windows》作業系統無縫整合,具有執行桌面應用的潛力。

 

黃仁勳強調,所有NVIDIA的AI開發軟件都能在Project Digits上運行,這是一個可以擺放在辦公桌上的雲端運算平台。(圖片來源:翻攝NVIDIA官方YouTube影片)

 

  華爾街諮詢機構Melius Research分析師本·賴茨(Ben Reitzes)指出,Project Digits可能是NVIDIA進軍PC處理器市場的第一步:未來Windows PC內的CPU與GPU,或許都可以由輝達一手包辦。

 

  其實,自2023年10月以來,有傳言指NVIDIA對市場規模達500億美元(約3,900億港元)的PC處理器市場非常感興趣。內含Arm CPU的Project Digits面世後,更增加了傳言的可信性。被華爾街分析師問到有關傳聞時,黃仁勳回應道:「顯然我們有多項計劃(obviously we have plans)」,具體內容將會在未來公布。

 

輝達推CPU對x86陣營構成威脅

 

  黃仁勳強調,聯發科都有自己的野心,除向NVIDIA供應CPU外,還可能會獨立推出自家的CPU,這是一個雙贏的合作局面。現場市場上適用於Windows PC的Arm CPU,唯有高通(Qualcomm)旗下的Snapdragon X系列,假如日後NVIDIA推出面向消費者市場的Grace CPU,再加上聯發科自推的CPU,WOA(Windows on Arm)陣營勢必變得更加壯大,給AMD與Intel的x86架構造成極大壓力。由此看來,2025年將會是Arm與 x86兩大架構競爭的關鍵時刻。

 

  NVIDIA Project Digits 不僅是一款革命性的個人 AI 超級電腦,還可能成為其進軍桌面處理器市場的重要試金石。假如NVIDIA能成功利用Project Digits的技術優勢,將其延伸至桌面 CPU 和消費級市場,則其市場份額和影響力將進一步擴大。這將是 AI 運算與桌面運算市場的一次重要融合,也將為未來數碼時代的技術發展奠定新基準。

 

 

 《經濟通》所刊的署名及/或不署名文章,相關內容屬作者個人意見,並不代表《經濟通》立場,《經濟通》所扮演的角色是提供一個自由言論平台。

【你點睇?】內地男星王星被誘騙至泰國後失聯,最終獲救回國,事件會否影響你到泰國旅遊的信心?► 立即投票

我要回應

你可能感興趣

版主留言

放大顯示
精選影片
最緊要健康
精選文章
  • 生活
  • DIVA
  • 健康好人生
專業版
HV2
精裝版
SV2
串流版
IQ 登入
強化版
TQ
強化版
MQ