) 具有超越過(guò)去一個(gè)世紀(jì)所發(fā)生的所有變革性創(chuàng)新的潛力,它在醫(yī)療保健、生產(chǎn)力、教育等領(lǐng)域?yàn)樯鐣?huì)帶來(lái)的益處將超乎我們的想象。為了運(yùn)行這些復(fù)雜的 AI 工作負(fù)載,全球數(shù)據(jù)所需的計(jì)算量需要以指數(shù)級(jí)規(guī)模進(jìn)行擴(kuò)展。然而,這種對(duì)計(jì)算無(wú)止盡的需求也揭示了一個(gè)嚴(yán)峻的挑戰(zhàn):數(shù)據(jù)中心需要龐大的電力來(lái)驅(qū)動(dòng)AI這一突破性技術(shù)。
當(dāng)今的數(shù)據(jù)中心已經(jīng)消耗了大量的電力 —— 全球每年需要 460 太瓦時(shí) (TWh) 電力進(jìn)行支持,這個(gè)數(shù)字等同于整個(gè)德國(guó)的用電量。而 AI 的興起預(yù)計(jì)將在 2030 年把該數(shù)字提高三倍,意味著將超過(guò)印度這一世界上人口最多國(guó)家的總耗電量。
未來(lái)的 AI 模型將持續(xù)變得更大、更智能,在帶動(dòng)對(duì)更多計(jì)算能力的需求的同時(shí),對(duì)電力的需求也會(huì)增加,從而成為良性循環(huán)的一部分。而找到降低這些大型數(shù)據(jù)中心電力需求的方法對(duì)于實(shí)現(xiàn)社會(huì)性突破和兌現(xiàn) AI 的承諾至關(guān)重要。
換言之,沒(méi)有電力就無(wú)法實(shí)現(xiàn) AI,企業(yè)需要重新思考如何應(yīng)對(duì)能效問(wèn)題的方方面面。
Arm 最初的產(chǎn)品就是為使用電池的設(shè)備而設(shè)計(jì)的,并推動(dòng)了移動(dòng)電話的變革。因此,深植于 Arm 的能效 DNA 能使業(yè)界重新思考應(yīng)如何構(gòu)建芯片來(lái)滿足 AI 日益增長(zhǎng)的需求。必贏官網(wǎng)首頁(yè)
在典型的服務(wù)器機(jī)架中,僅計(jì)算芯片就可以消耗超過(guò) 50% 的電力預(yù)算。工程團(tuán)隊(duì)正在尋找各種可以降低該數(shù)字的方法,每一瓦特的減少都至關(guān)重要。
正因?yàn)榇?,全球最大?AI 頭部云服務(wù)提供商們轉(zhuǎn)而采用 Arm 技術(shù)來(lái)降低功耗。與同行業(yè)中的其他產(chǎn)品相比,Arm最新的 Arm NeoverseCPU是面向云數(shù)據(jù)中心,性能最高、最節(jié)能的處理器。Neoverse 為頭部云服務(wù)提供商提供了定制芯片的靈活性,以優(yōu)化其苛刻的工作負(fù)載,同時(shí)提供領(lǐng)先的性能和能效。每一瓦特的節(jié)省都可以用來(lái)實(shí)現(xiàn)更多的計(jì)算。這也正是為什么亞馬遜云服務(wù) (AWS)、微軟、Google 和甲骨文 (le) 現(xiàn)在都通過(guò) Neoverse 技術(shù),處理其通用計(jì)算和基于 CPU 的 AI 推理和訓(xùn)練。Neoverse 平臺(tái)正在成為云數(shù)據(jù)中心領(lǐng)域的事實(shí)標(biāo)準(zhǔn)。
Oracle Cloud 采用基于 Arm 架構(gòu)的 Ampere Altra Max:與傳統(tǒng)同類產(chǎn)品相比,每機(jī)架服務(wù)器的性能提高 2.5 倍,能耗降低 2.8 倍,并用于生成式 AI 推理模型,諸如摘要、大語(yǔ)言模型訓(xùn)練的數(shù)據(jù)的標(biāo)記化,以及批量推理用例。
顯然,Neoverse 極大地提升了云端通用計(jì)算的性能和能效。此外,合作伙伴也發(fā)現(xiàn)在加速計(jì)算方面,Neoverse 也能帶來(lái)同樣的益處。大規(guī)模 AI 訓(xùn)練需要獨(dú)特的加速計(jì)算架構(gòu),例如,NVIDIA Grace Blackwell 平臺(tái) (GB200) 結(jié)合了 NVIDIA 的 BlackwellGPU架構(gòu)與基于 Arm 架構(gòu)的 Grace CPU。這種基于 Arm 技術(shù)的計(jì)算架構(gòu)可實(shí)現(xiàn)系統(tǒng)級(jí)設(shè)計(jì)優(yōu)化,與面向大語(yǔ)言模型的 NVIDIA H100 GPU 相比,可帶來(lái) 25 倍的能耗降低,并將每個(gè) GPU 的性能提高 30 倍。這些優(yōu)化能夠帶來(lái)顛覆性的性能和節(jié)能效果,而這一切都得益于 Neoverse 所帶來(lái)的前所未有的芯片定制靈活性。
隨著基于 Arm 架構(gòu)的部署持續(xù)擴(kuò)大,這些企業(yè)將可以節(jié)省高達(dá) 15% 的數(shù)據(jù)中心總能耗。這些巨幅的節(jié)省可以用來(lái)在相同的功率范圍內(nèi)驅(qū)動(dòng)額外的 AI 運(yùn)算,而不會(huì)增加能源負(fù)擔(dān)。換言之,這些節(jié)能相當(dāng)于可以額外運(yùn)行 20 億次 ChatGPT 查詢,驅(qū)動(dòng)四分之一的日常網(wǎng)絡(luò)搜索流量,為 20% 的美國(guó)家庭提供照明,或?yàn)榕c哥斯達(dá)黎加面積相仿的國(guó)家進(jìn)行供電。這對(duì)改善能源消耗和環(huán)境可持續(xù)性產(chǎn)生了驚人的影響。
Arm CPU 正在從根本上推動(dòng) AI 變革,并造福地球。Arm 架構(gòu)是未來(lái) AI 計(jì)算的基石。
文章出處:【微信號(hào):Arm社區(qū),微信公眾號(hào):Arm社區(qū)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)燒友網(wǎng)策劃了《2025年半導(dǎo)體產(chǎn)業(yè)展望》專題,收到數(shù)十位國(guó)內(nèi)外半導(dǎo)體創(chuàng)新領(lǐng)袖企業(yè)高管的前瞻觀點(diǎn)。其中,電子發(fā)燒友特別采訪了
中國(guó)區(qū)業(yè)務(wù)全球副總裁鄒挺,以下是他對(duì)2025年半導(dǎo)體市場(chǎng)的分析與展望。
解決方案加速應(yīng)用落地 /
引領(lǐng)智能革命成為產(chǎn)業(yè)升級(jí)的核心動(dòng)力并點(diǎn)燃了“百模大戰(zhàn)”。多樣化的大模型應(yīng)用激增對(duì)高性能
,促使行業(yè)在摩爾定律放緩的背景下,加速推進(jìn) 2.5D、3D 及 3.5D 異構(gòu)集成技術(shù)。與此同時(shí),
的優(yōu)選 在全球化的經(jīng)濟(jì)背景下,電力設(shè)備的跨國(guó)流通日益頻繁,特別是高效能變壓器,它們成為了不同國(guó)家和地區(qū)間電力傳輸和分配的關(guān)鍵。對(duì)于哥倫比亞這樣
的優(yōu)選 /
虛擬電廠快速發(fā)展 /
?。‥nergy Management System, EMS)應(yīng)運(yùn)而生,
for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》的第6章后,我深刻感受到人工智能在
在 Ampere 2024 年度戰(zhàn)略和路線圖更新視頻中,CEO Renée James 和 CPO Jeff Wittich 強(qiáng)調(diào) Ampere 如何通過(guò) AmpereOne 的設(shè)計(jì)來(lái)遏制快速增長(zhǎng)的
。隨著生成式人工智能技術(shù)的不斷突破,數(shù)據(jù)中心的建設(shè)和運(yùn)營(yíng)成本急劇上升,對(duì)清潔
周開幕式上,COP28主席Sultan Al Jaber博士發(fā)表了振奮人心的演講。他深入探討了人工智能、
轉(zhuǎn)型以及全球南方國(guó)家增長(zhǎng)對(duì)于推動(dòng)氣候可持續(xù)發(fā)展的重要性,并為此提出了一系列前瞻性的觀點(diǎn)和建議。
) 具有超越過(guò)去一個(gè)世紀(jì)所發(fā)生的所有變革性創(chuàng)新的潛力,它在醫(yī)療保健、生產(chǎn)力、教育等領(lǐng)域?yàn)?
工作負(fù)載,全球數(shù)據(jù)中心所需的計(jì)算量需要以指數(shù)級(jí)規(guī)模進(jìn)行擴(kuò)展。然而,這種對(duì)計(jì)算無(wú)止盡的
嵌入式學(xué)習(xí)-飛凌嵌入式ElfBoard ELF 1板卡-mfgtools燒錄流程之燒寫原理