上世紀(jì)70年代,沃茲尼亞克、喬布斯、費(fèi)爾森斯坦、比爾蓋茨、約翰德雷珀等人成立了名為Homebrew Computer Club的組織,他們在聚會中展示創(chuàng)意、交換想法,希望開創(chuàng)一個每個人都有電腦的世界。
后來的故事大家都很熟悉,沃茲尼亞克和喬布斯在Homebrew Computer Club的會議上展示了Apple I,并在第二年成立了蘋果公司。同時推動了開源文化的興起、個人電腦的普及,成了科技史上最具影響力的技術(shù)社群之一。
當(dāng)世界進(jìn)入到智能化時代,創(chuàng)新的種子在全球遍地開花,類似Homebrew Computer Club的社群也開始在更大范圍內(nèi)萌芽。
其中就有2020年12月30日成立的創(chuàng)原會,由CNCF執(zhí)行董事Priyanka Sharma、中國信通院云大所副所長栗蔚和華為云CTO張宇昕作為創(chuàng)始會員構(gòu)建的全球技術(shù)創(chuàng)新交流平臺,希望通過探索前沿的云原生、AI等技術(shù),共享產(chǎn)業(yè)落地實踐經(jīng)驗的方式,共創(chuàng)技術(shù)與業(yè)務(wù)融合的無限可能。
經(jīng)過四年時間的發(fā)展,創(chuàng)原會已經(jīng)吸納了來自學(xué)術(shù)研究、汽車出行、能源制造、互聯(lián)網(wǎng)、貨運(yùn)物流等行業(yè)的三百多位技術(shù)骨干,不乏銜遠(yuǎn)科技創(chuàng)始人周伯文、面壁智能CEO李大海、吉利汽車數(shù)字中心主任鄭金偉、小紅書云原生基礎(chǔ)平臺負(fù)責(zé)人黃玉奇等懂行的技術(shù)“老炮兒”。
正是在這樣的背景下,每年一次的創(chuàng)原會年度技術(shù)峰會,作為會員們年度相聚、思想碰撞、互動交流的“舞臺”,已成為洞察行業(yè)創(chuàng)新趨勢、落地實踐經(jīng)驗的風(fēng)向標(biāo)。
比如剛剛結(jié)束的2024創(chuàng)原會年度技術(shù)峰會,達(dá)成了“全面擁抱AI-Native”的共識,并為AI-Native的落地指明了方向。
根據(jù)咨詢機(jī)構(gòu)Gartner的預(yù)測,2026年將有超過80%的企業(yè)在生產(chǎn)環(huán)境中落地大模型或調(diào)用API,并部署啟用生成式AI應(yīng)用。
比研究報告更加直觀的,是創(chuàng)原會年度技術(shù)峰會上的熱烈討論:技術(shù)“老炮兒”談?wù)摰牟辉偈恰霸趺词褂肁I”,而是怎么將AI作為業(yè)務(wù)和生產(chǎn)的核心支撐,用AI重塑流程與創(chuàng)新產(chǎn)品,實現(xiàn)更高效與智能的運(yùn)作。
大模型的訓(xùn)練和推理,都需要強(qiáng)大的算力資源,而國內(nèi)的很多企業(yè)無力承擔(dān)龐大的硬件采購成本。即使有了算力,由于大規(guī)模分布式計算、彈性擴(kuò)展和模型調(diào)優(yōu)等技術(shù)的要求較高,常常出現(xiàn)算力浪費(fèi)或利用率不足的問題。
華為云CTO、創(chuàng)原會榮譽(yù)理事長張宇昕在演講中表示:“我們期望每個企業(yè)都能實時按需獲取AI算力,構(gòu)建彈性、高效、多元算力的AI-Native基礎(chǔ)設(shè)施是關(guān)鍵?!?
傳統(tǒng)的數(shù)據(jù)中心是CPU為中心的主從架構(gòu),所有資源的交互和信息傳遞都以CPU調(diào)度為主,CPU性能提升和網(wǎng)絡(luò)帶寬等都成為瓶頸。比如在AI訓(xùn)練推理的場景中,CPU為中心的架構(gòu)無法完全滿足業(yè)務(wù)所需的超大網(wǎng)絡(luò)總線帶寬、內(nèi)存帶寬和顯存容量,直接限制了訓(xùn)練推理效率,并導(dǎo)致NPU算力和其它資源的閑置。
華為云的解題思路是將數(shù)據(jù)中心演進(jìn)到多元算力對等全互聯(lián)的架構(gòu),通過高速互聯(lián)網(wǎng)絡(luò)協(xié)議,將CPU、NPU、內(nèi)存等算力資源全部互聯(lián),實現(xiàn)資源全池化、全對等互連、資源按需組合,從單體算力進(jìn)化到矩陣算力。
張宇昕舉了一個真實的例子:在使用萬億參數(shù)的盤古S模型運(yùn)行訓(xùn)練任務(wù)時,采用多元算力對等架構(gòu)的華為云CloudMatrix,計算效率比傳統(tǒng)架構(gòu)提升了68%;千億參數(shù)的盤古U模型的推理效率提升了30%。
解決算力瓶頸只是第一步,存儲也是制約AI發(fā)展的關(guān)鍵要素:32GB的顯存僅能裝下70億參數(shù)的模型,且隨著模型參數(shù)規(guī)格的增長,推理的顯存需求并發(fā)變大。
針對AI落地應(yīng)用過程中遇到的存儲、數(shù)據(jù)等問題,華為云早已給出了一整套成熟的解決方案:
通過用池化架構(gòu)來擴(kuò)展顯存的方式,解決了推理過程中的內(nèi)存墻限制;通過將KV計算任務(wù)卸載到虛擬顯存和CPU上,讓單卡的并發(fā)數(shù)大幅提升;通過數(shù)據(jù)庫領(lǐng)域大模型+場景小模型的多模型協(xié)同,必贏官網(wǎng)首頁打造了智能的數(shù)據(jù)庫引擎,并利用智能開發(fā)助手和智能運(yùn)維助手,全面提升開發(fā)和運(yùn)維效率;以及在安全合規(guī)、隱私保護(hù)、可靠可控等方面的全盤布局。
走向AI-Native的過程,也是重新定義基礎(chǔ)設(shè)施的過程。就像打開水龍頭時,我們不需要知道水是從哪條河里來的;當(dāng)我們調(diào)用AI算力的時候,不需要知道算力是怎么來的,背后的技術(shù)和運(yùn)維有多復(fù)雜。
回答了算力資源的問題后,AI-Native就不再是一道選擇題,而是千行萬業(yè)數(shù)智化轉(zhuǎn)型升級的必答題。
相對歷史上所有重大技術(shù)變革和創(chuàng)新,不管是云計算、移動互聯(lián)網(wǎng)時代,其商業(yè)生態(tài)鏈都呈倒金字塔結(jié)構(gòu)應(yīng)用和內(nèi)容為王。同時坦言AI正在重塑IT的方方面面,包括重新定義基礎(chǔ)設(shè)施、重塑軟件開發(fā)過程、重塑軟件交互體驗,甚至在重塑軟件生態(tài)。
新的時代序幕已經(jīng)拉開,身在局中的創(chuàng)原會會員們感同身受,他們的態(tài)度體現(xiàn)在討論的議題上:《根據(jù)企業(yè)自身業(yè)務(wù)需求,如何識別和選擇AI在開發(fā)領(lǐng)域的價值場景?》《如何選擇智能化研發(fā)相關(guān)的關(guān)鍵技術(shù)?》《AI時代下的效能雙引擎聯(lián)動,必贏官網(wǎng)首頁如何實現(xiàn)確定性增長?》
面對如何高效打造AI原生應(yīng)用的疑問,張宇昕結(jié)合華為云將大模型落地到30多個行業(yè)的400多個場景的經(jīng)驗,給出了三個建議:
每個企業(yè)都需要持續(xù)思考如何把AI能力融入到自己的產(chǎn)品和應(yīng)用中去,通過用以知識為中心的數(shù)據(jù)湖來構(gòu)筑數(shù)據(jù)底座,用自主智能的工具鏈來開發(fā)應(yīng)用,用AIGC+CG融合的數(shù)字內(nèi)容生產(chǎn)線來創(chuàng)作內(nèi)容等等。這樣的產(chǎn)品和應(yīng)用將具備自主學(xué)習(xí)、持續(xù)迭代、適應(yīng)變化的能力。
大模型落地應(yīng)用的過程中,也產(chǎn)生了“不可能三角”問題需要在專業(yè)性、泛化性、經(jīng)濟(jì)性三者中做好權(quán)衡:通用大模型缺乏行業(yè)Know-how,在專業(yè)性上無法勝任企業(yè)的業(yè)務(wù)需要;訓(xùn)練大量專業(yè)數(shù)據(jù),又會引發(fā)大模型的泛化能力下降;模型參數(shù)規(guī)模越大,性能和精度效果越好,但是訓(xùn)練成本會很高。
張宇昕的答案是:“模型不是越大越好,也不是一個大模型可以打遍天下,企業(yè)要結(jié)合自身經(jīng)驗和行業(yè)Know-how來打造自己專屬的模型?!?
比如將不同行業(yè)專屬的高質(zhì)量數(shù)據(jù),結(jié)合行業(yè)Know-how訓(xùn)練通用大模型,并針對不同行業(yè)對模型能力的偏好進(jìn)行通用數(shù)據(jù)增強(qiáng),打造行業(yè)場景的大模型。各個企業(yè)在行業(yè)大模型的基礎(chǔ)上,增訓(xùn)自己的私有數(shù)據(jù)、企業(yè)Know-how,調(diào)度企業(yè)專用工具和插件,構(gòu)建出企業(yè)自己的專屬模型。
大模型的訓(xùn)練不應(yīng)該重復(fù)造輪子,大模型的落地也不應(yīng)該一次次從0到1,而是將模型與工程化能力相結(jié)合,實現(xiàn)模型接入與對外接口標(biāo)準(zhǔn)化,開發(fā)者可以按照相應(yīng)的規(guī)則調(diào)用,直接創(chuàng)建AI原生應(yīng)用。
相對應(yīng)的正是華為云的大模型系統(tǒng),包含行業(yè)數(shù)據(jù)和知識組成的知識中心,企業(yè)專屬大模型、開源大模型以及傳統(tǒng)小模型構(gòu)成的模型中心,搜索引擎、代碼執(zhí)行器整合而成的組件中心等等。
開發(fā)者可以通過大模型系統(tǒng)的增強(qiáng)插件,譬如安全護(hù)欄保障模型的安全性、RAG檢索增強(qiáng)來消除大模型幻覺,利用標(biāo)準(zhǔn)的API接口,協(xié)同配合多種模型,以取長補(bǔ)短的方式快速實現(xiàn)企業(yè)的智能化升級。
打一個比方的話:如果說傳統(tǒng)的應(yīng)用開發(fā)是“手工作坊”,有了完善的工具鏈、大模型系統(tǒng)和獨立處理復(fù)雜任務(wù)的AI Agent,AI原生應(yīng)用的開發(fā)已經(jīng)進(jìn)入到了“流水線生產(chǎn)”的模式,為數(shù)智化轉(zhuǎn)型按下了“加速鍵”。
當(dāng)AI-Native的路徑被跑通,大模型不再是少數(shù)頭部企業(yè)的“特權(quán)”,AI將和千行萬業(yè)的真實場景碰撞出什么樣的火花?
就歷史經(jīng)驗來看,相較于數(shù)據(jù)上的宏觀論述,可以觸摸的落地案例更有說服力。2024創(chuàng)原會年度技術(shù)峰會上有一個特別的環(huán)節(jié),評選出了“2024年度AI-Native十大先鋒實踐”,也為外界提供了窺探落地現(xiàn)狀的窗口。
作為國內(nèi)規(guī)模領(lǐng)先的在線音頻分享平臺,喜馬拉雅在2023年專門成立了“珠峰實驗室”,著手研發(fā)了“珠峰音頻AI模型”。
為了解決大模型訓(xùn)練和推理的算力需求,喜馬拉雅構(gòu)建了自建AI基礎(chǔ)設(shè)施與公有云AI資源池的混合架構(gòu),讓資源利用效率提升了20%、資源成本降低了10%。目前“珠峰音頻AI模型”已經(jīng)生產(chǎn)了數(shù)萬本有聲書,包括模仿單田芳聲音的AI合成音頻專輯,極大降低了平臺的成本投入。
內(nèi)容生產(chǎn)的流程被重塑后,喜馬拉雅進(jìn)一步研發(fā)了AI智能推送系統(tǒng)、國內(nèi)首個全內(nèi)容智能AI音箱小雅等產(chǎn)品,不僅提升了內(nèi)容推送精準(zhǔn)度和效率,也為聽眾帶來了更加沉浸式、定制化的音頻體驗。
深耕零售行業(yè)近30年的美宜佳,開啟了創(chuàng)辦以來“最具創(chuàng)新”的一次轉(zhuǎn)型,聯(lián)合華為云盤古大模型打造了AI+IoT+美宜佳業(yè)務(wù)平臺的零售智能體,并將其落地到3.7萬家門店,探索零售行業(yè)的新業(yè)態(tài)。
數(shù)字店員可以隨場隨身解答顧客的問題,播放音樂緩解顧客的壓力,像一座智慧化的“城市燈塔”,點亮了深夜歸家的路。
值得一提的是,美宜佳的智能化探索,不僅為品牌商、門店店主、消費(fèi)者提供了服務(wù)成本更低、效率更高、體驗更好的集成生態(tài)服務(wù),沉淀下來的經(jīng)驗和能力還將外溢到整個行業(yè),驅(qū)動零售行業(yè)服務(wù)升級。
基于華為云的AI原生基礎(chǔ)設(shè)施,北京市政一卡通依托AI技術(shù)完成了一卡通支付的智能化改造,有效支撐了一卡通公司在公共交通、商業(yè)消費(fèi)、政府管理、創(chuàng)新應(yīng)用4大領(lǐng)域28個行業(yè)的廣泛落地。
目前北京市政一卡通已經(jīng)覆蓋國內(nèi)330多個城市,每天為數(shù)千萬用戶提供持續(xù)、穩(wěn)定、高效、安全的支付服務(wù)。同時人工智能還在用卡安全等方面發(fā)揮了重要作用,為公共服務(wù)與社會治理提供了創(chuàng)新示范,連續(xù)多年被列入北京市政府“為市民辦實事工程”。
正如張宇昕所說:“中國的AI產(chǎn)業(yè)有著巨大的機(jī)遇,我們可以充分發(fā)揮在行業(yè)場景和行業(yè)數(shù)據(jù)領(lǐng)域的優(yōu)勢,讓AI深入到企業(yè)核心生產(chǎn)系統(tǒng),真正發(fā)揮產(chǎn)業(yè)價值和商業(yè)價值,推動產(chǎn)業(yè)升級和轉(zhuǎn)型?!?
三個跨越互聯(lián)網(wǎng)、零售、政企的例子,僅僅是AI原生應(yīng)用圖景的一隅,卻用事實印證了張宇昕的判斷,讓外界看到了實實在在的新質(zhì)生產(chǎn)力,看到了行業(yè)生產(chǎn)力的躍遷。
Homebrew Computer Club在50年前點燃了個人計算機(jī)革命,為人類的生活和工作方式產(chǎn)生了顛覆性改變。
承襲了這種精神的創(chuàng)原會,為技術(shù)先鋒和產(chǎn)業(yè)創(chuàng)新者搭建了溝通的橋梁,正在將創(chuàng)新的力量擴(kuò)散到更多的行業(yè)和場景中。
也許多年后再來審視2024創(chuàng)原會年度技術(shù)峰會,人們會驚訝地發(fā)現(xiàn):解答了AI原生的算力困境、疏通了原生應(yīng)用的開發(fā)路徑,照亮了一個個創(chuàng)新案例后,AI-Native的“星星之火”從此刻開始燎原。
砍柴網(wǎng)尊重行業(yè)規(guī)范,任何轉(zhuǎn)載稿件皆標(biāo)注作者和來源;砍柴網(wǎng)的原創(chuàng)文章,請轉(zhuǎn)載時務(wù)必注明文章作者和來源:砍柴網(wǎng),不尊重原創(chuàng)的行為將受到砍柴網(wǎng)的追責(zé);轉(zhuǎn)載稿件或作者投稿可能會經(jīng)編輯修改或者補(bǔ)充,有異議可投訴至:
您想第一時間獲取互聯(lián)網(wǎng)領(lǐng)域的資訊和商業(yè)分析,請在微信公眾號中搜索砍柴網(wǎng)或者ikanchai,或用微信掃描左邊二維碼,即可添加關(guān)注,從此和砍柴網(wǎng)建立直接聯(lián)系。
砍柴網(wǎng)(創(chuàng)立于2013年,始終秉承觀點獨到、全面深入、有料有趣的宗旨,在科技與人文之間尋找商業(yè)新價值。