近日，在華為全聯(lián)接大會2024(HUAWEICONNECT2024)期間，華為云舉辦以“AINativeCloud全新為AI負(fù)載和應(yīng)用設(shè)計的云基礎(chǔ)設(shè)施”為主題的專題論壇。論壇上，華為云攜手來自各行業(yè)的AI創(chuàng)新先鋒企業(yè)，共同探討AI在相關(guān)行業(yè)的前沿應(yīng)用和未來發(fā)展。多家行業(yè)領(lǐng)軍企業(yè)，包括徐工集團、網(wǎng)易伏羲、墨境天合、金山辦公、網(wǎng)智天元等應(yīng)邀出席，并分享了他們在各自領(lǐng)域的AI創(chuàng)新成果。這些行業(yè)領(lǐng)袖的分享不僅展示了AI技術(shù)在各個領(lǐng)域的廣泛應(yīng)用，也為與會者提供了寶貴的實踐經(jīng)驗和創(chuàng)新思路。

　　當(dāng)前，全新一代的AI技術(shù)將驅(qū)動全行業(yè)進一步加速數(shù)字化、智能化升級已成為產(chǎn)業(yè)共識。隨著人工智能進入大模型時代，云基礎(chǔ)設(shè)施所面臨諸多挑戰(zhàn)。

　　方國偉以業(yè)界趨勢和華為云自身實踐，總結(jié)出AI時代的云基礎(chǔ)設(shè)施面臨五大關(guān)鍵挑戰(zhàn)，包括AI算力資源建設(shè)與管理挑戰(zhàn)、極致性能與成本挑戰(zhàn)、穩(wěn)定性與快速恢復(fù)挑戰(zhàn)、工具鏈完備性與易用性挑戰(zhàn)、大模型安全風(fēng)險挑戰(zhàn)。

　　針對云基礎(chǔ)設(shè)施面臨的五大挑戰(zhàn)，為了更好的支撐AI模型和應(yīng)用生于云、長于云。方國偉提出，華為云AI原生云基礎(chǔ)設(shè)施圍繞五大方面持續(xù)創(chuàng)新“全景算力、高性價比、穩(wěn)定可靠、開箱即用、安全可信”。

　　1.全景算力：華為云將算力平臺從傳統(tǒng)的單體、通用算力，升級到基于CloudMatrix的下一代AI原生云算力平臺，通過全棧系統(tǒng)性設(shè)計，必贏官網(wǎng)首頁突破算力邊界和網(wǎng)絡(luò)邊界，為客戶提供一切可池化、一切皆對等、一切可組合的云矩陣算力。同時，進一步推進全場景分布式云的構(gòu)建，讓算力可以無處不在，并實現(xiàn)全局調(diào)度。

　　2.高性價比：華為云首創(chuàng)EMS彈性內(nèi)存存儲服務(wù)，在NPU顯存和持久化存儲兩層間增加彈性內(nèi)存存儲層?；贛emoryPooling專利技術(shù)，通過顯存擴展、算力卸載、以存代算三大創(chuàng)新來打破內(nèi)存墻。

　　3.穩(wěn)定可靠：華為云昇騰AI云服務(wù)，通過搭建覆蓋全鏈路場景的可觀測性和可靠性管理方案，實現(xiàn)故障可診斷、可衡量、可恢復(fù)。華為云已實現(xiàn)千卡集群長穩(wěn)訓(xùn)練40天以上，故障自動恢復(fù)，無需人工介入，故障端到端恢復(fù)時長小于30分鐘。下一步華為云還將持續(xù)優(yōu)化，預(yù)計24年底端到端故障恢復(fù)時長將降低至10分鐘以內(nèi)。

　　4.開箱即用：為了方便客戶獲取和使用AI算力，更好的基于百模千態(tài)進行業(yè)務(wù)創(chuàng)新，華為云全新升級了ModelArtsStudio，聚焦優(yōu)質(zhì)大模型全場景性能精度提升，構(gòu)建云上大模型一站式模型開發(fā)托管服務(wù)，踐行大模型即服務(wù)MaaS(Model-as-a-Service)理念。同時，華為云基于OBS對象存儲服務(wù)之上提供了構(gòu)建了實現(xiàn)語義向量化的知識湖存儲，簡化客戶針對海量非結(jié)構(gòu)化數(shù)據(jù)實現(xiàn)RAG方案的難度。讀、寫、算分離，千億數(shù)據(jù)毫秒級查詢，成本降低50%。

　　5.安全可信：人工智能進入大模型時代，引入了新的攻擊面，平臺、插件、環(huán)境、工具鏈等都面臨新的威脅風(fēng)險，結(jié)合安全權(quán)威機構(gòu)OWASP的總結(jié)及華為的自身實踐，從全棧和大模型生命周期關(guān)鍵階段視角看大模型安全風(fēng)險，總結(jié)了四大安全風(fēng)險，包括：基礎(chǔ)運行環(huán)境安全風(fēng)險、訓(xùn)練數(shù)據(jù)安全風(fēng)險、模型內(nèi)生安全風(fēng)險、內(nèi)容應(yīng)用安全風(fēng)險。針對大模型四大安全風(fēng)險，華為云推出4+1大模型安全解決方案。

　　*后，方國偉總結(jié)到：“華為云在過去數(shù)年中專注于云基礎(chǔ)設(shè)施的全棧系統(tǒng)性創(chuàng)新，為即將到來的企業(yè)智能化浪潮做好了充分準(zhǔn)備。今天，向大家分享了華為云AI原生云基礎(chǔ)設(shè)施在‘全景算力、高性價比、穩(wěn)定可靠、開箱即用、安全可信’等五個關(guān)鍵維度所取得的重大突破。華為云的愿景是讓AI業(yè)務(wù)在云端蓬勃發(fā)展，為客戶提供持續(xù)創(chuàng)新的沃土，助力客戶在這個AI驅(qū)動的新世界中保持*地位?！?

　　徐工研究總院高明博士：徐工工程機械A(chǔ)I戰(zhàn)略與實踐

　　在制造領(lǐng)域，徐工集團作為中國工程機械產(chǎn)業(yè)的奠基者、開創(chuàng)者、引領(lǐng)者，是全球工程機械行業(yè)*品牌。徐工研究總院作為徐工集團的核心研發(fā)機構(gòu)，是中國工程機械前沿技術(shù)研究的主陣地，探索工程機械A(chǔ)I戰(zhàn)略布局與應(yīng)用。

　　徐工研究總院的高明博士，為我們揭示了AI技術(shù)在制造業(yè)中的挑戰(zhàn)與機遇、應(yīng)用與實踐，講述了徐工集團在AI領(lǐng)域的研究與應(yīng)用實踐，并指出華為云作為其堅實的合作伙伴，自2019年起便與徐工集團在高性能計算(HPC)和人工智能大模型領(lǐng)域展開了深入的合作。目前已廣泛應(yīng)用于產(chǎn)品開發(fā)、研發(fā)創(chuàng)新等業(yè)務(wù)領(lǐng)域，并在四大關(guān)鍵場景：自主施工場景、自動駕駛場景中、自主作業(yè)場景、工程機械垂直領(lǐng)域大模型場景，取得了顯著成效。

　　展望未來，徐工集團與華為云將繼續(xù)攜手合作，充分發(fā)揮云計算的優(yōu)勢，全面賦能集團的業(yè)務(wù)發(fā)展，共同開創(chuàng)制造業(yè)的新篇章。

　　網(wǎng)易伏羲語音技術(shù)負(fù)責(zé)人莫名：AIx游戲，可實時語音交互的游戲隊友

　　作為中國*游戲人工智能實驗室，網(wǎng)易伏羲自成立以來就持續(xù)在探索AI技術(shù)在游戲行業(yè)的落地場景及能力邊界。今年，網(wǎng)易伏羲推出了全球首創(chuàng)的游戲CopilotAI隊友，為玩家?guī)斫z滑的多模態(tài)游戲交互體驗。其中，為了實現(xiàn)近乎真人的問答效果，時延成了一大挑戰(zhàn)。

　　網(wǎng)易伏羲語音技術(shù)負(fù)責(zé)人莫名在演講中表示，“我們與華為云聯(lián)合創(chuàng)新，在伏羲的多輪對話和公共前綴場景使用EMS內(nèi)存存儲進行體驗優(yōu)化，真正地做到了以存強算，讓CopilotAI隊友可以實現(xiàn)如真人般的流暢對線大優(yōu)化：

　　1.更大的容量，有了EMS，算力卡可以搭配TB級的虛擬顯存。

　　墨境天合AI算法工程師負(fù)責(zé)人李晨陽：AIx視效制作，探索人工智能在影視制作中的應(yīng)用與突破

　　近年來國產(chǎn)制作的科幻電影持續(xù)火爆，讓大家看到了國內(nèi)CG(計算機圖形學(xué))技術(shù)的日新月異。作為國內(nèi)頭部的電影視效公司，墨境天合創(chuàng)新地將大語言模型及圖像模型應(yīng)用到視效制作中。

　　墨境天合AI算法工程師負(fù)責(zé)人李晨陽表示：“在劇本拆解、鏡頭規(guī)劃場景中，墨境天合使用AI輔助加速傳統(tǒng)人工工作內(nèi)容，顯著提升了視效制作效率。在劇本拆解應(yīng)用中，將劇本內(nèi)容作為同樣的文本多次輸入，受顯存限制，每一輪與LLM的交互均需重新計算，越問越慢，且劇本內(nèi)容越長，對時延的影響越大。我們與華為云存儲進行了聯(lián)合創(chuàng)新測試，結(jié)果顯示：使用EMS后首字節(jié)時延降低了75%，吞吐量增加了22%，大大提高了劇本拆解和鏡頭規(guī)劃工具應(yīng)用的效率?！?

　　WPSAI是金山辦公旗下基于大語言模型的人工智能辦公助手，錨定AIGC(內(nèi)容創(chuàng)作)、Copilot(智慧助理)、Insight(知識洞察)三個戰(zhàn)略方向發(fā)展。如果把大模型比做發(fā)動機，那么企業(yè)知識就是燃料。為了更好地搭建企業(yè)知識與大模型之間的橋梁，金山辦公提出了AIDocs智能文檔庫解決方案，使能全程閉環(huán)的可控智能。

　　金山辦公助理總裁朱熠鍔在演講中指出：“今天的企業(yè)AI知識庫，仍然面臨眾多的技術(shù)挑戰(zhàn)。其中如何支持千億規(guī)模的文檔量級、在大并發(fā)請求的同時保持高效檢索、消減數(shù)據(jù)幻覺是數(shù)據(jù)存儲面臨的挑戰(zhàn)。為了解決傳統(tǒng)向量數(shù)據(jù)庫明顯的讀寫性能和成本問題。AIDocs目前在和華為云OBS知識湖存儲進行共創(chuàng)，探索能夠支持更大規(guī)模的文檔量級、檢索更精準(zhǔn)、必贏官網(wǎng)首頁速度更快的使用體驗，給企業(yè)AI提供更好的賦能?！?

　　網(wǎng)智天元創(chuàng)始人莫倩：AIx金融，盤古開天，金鵬展翅，金融大模型的行業(yè)實踐

　　在金融領(lǐng)域，北京網(wǎng)智天元大數(shù)據(jù)科技有限公司以其在金融大模型領(lǐng)域的卓越成就，引領(lǐng)著金融行業(yè)大數(shù)據(jù)智能的創(chuàng)新潮流。該公司致力于挖掘大數(shù)據(jù)的深層價值，為個人、組織以及企業(yè)帶來網(wǎng)絡(luò)智能生活的全新體驗。

　　北京網(wǎng)智天元大數(shù)據(jù)科技有限公司創(chuàng)始人莫倩

　　網(wǎng)智天元的創(chuàng)始人莫倩強調(diào)，金融大模型的訓(xùn)練關(guān)鍵在于數(shù)據(jù)的專業(yè)度、訓(xùn)練的深度、專業(yè)場景的適應(yīng)能力以及全自研AI基礎(chǔ)設(shè)施的構(gòu)建。網(wǎng)智天元擁有高質(zhì)量的數(shù)據(jù)要素和一站式的大模型訓(xùn)練研發(fā)平臺，構(gòu)建了一個全方位、多層次、穿透式的金融風(fēng)險信息管理全流程框架。在基礎(chǔ)設(shè)施層面依托華為云，實現(xiàn)了多維度數(shù)據(jù)處理性能的顯著提升。在云服務(wù)應(yīng)和運維方面，成功實現(xiàn)了成本降低30%。在此基礎(chǔ)上，網(wǎng)智天元開發(fā)了高質(zhì)量的多模態(tài)金融大模型——WiseGPT，并推出了四大主力產(chǎn)品：金鵬——專注于風(fēng)險管控;星圖——知識管理的專家;戰(zhàn)鷹——關(guān)聯(lián)挖掘的先鋒;銀河——智能感知的領(lǐng)航者。這些產(chǎn)品共同賦能三大應(yīng)用場景：運營助手、數(shù)據(jù)資產(chǎn)、風(fēng)控報告，為金融行業(yè)的智能化轉(zhuǎn)型提供了強有力的支持。

　　展望未來，網(wǎng)智天元計劃基于華為云下一代基礎(chǔ)設(shè)施CloudMatrix進行聯(lián)合創(chuàng)新，以支撐大模型訓(xùn)練效率的提升(預(yù)計提升68%以上)。在產(chǎn)品層面打造金融大模型一體機，基于華為云CloudPond的昇騰AI算力，為客戶提供了本地金融業(yè)務(wù)智能化的一站式解決方案。網(wǎng)智天元在金融大模型領(lǐng)域的創(chuàng)新之路將更加寬廣，為金融行業(yè)的智能化發(fā)展貢獻更多的智慧和力量。

　　華為云AI原生云基礎(chǔ)設(shè)施通過在“全景算力、高性價比、穩(wěn)定可靠、開箱即用、安全可信”等五個關(guān)鍵維度的持續(xù)創(chuàng)新，使企業(yè)能夠?qū)?先進的AI技術(shù)無縫集成到其核心業(yè)務(wù)中，更好支撐企業(yè)AI業(yè)務(wù)的創(chuàng)新生于云、長于云。