11月12日，百度以“應(yīng)用來(lái)了"為主題的沈抖深度百度世界2024在上海召開(kāi)。會(huì)上，模型模型百度集團(tuán)執(zhí)行副總裁、精調(diào)級(jí)增進(jìn)入百度智能云事業(yè)群總裁沈抖分享了百度智能云在大模型產(chǎn)業(yè)落地方面的指數(shù)最新進(jìn)展，并在企業(yè)級(jí)AI原生應(yīng)用開(kāi)發(fā)、應(yīng)用大模型開(kāi)發(fā)調(diào)優(yōu)等方面發(fā)布一系列全新功能。百度

目前，沈抖深度百度智能云擁有中國(guó)最大的模型模型大模型產(chǎn)業(yè)落地規(guī)模。超過(guò)六成的精調(diào)級(jí)增進(jìn)入央企和大量的民營(yíng)企業(yè)，正在聯(lián)合百度智能云進(jìn)行AI創(chuàng)新。指數(shù)百度智能云千帆大模型平臺(tái)已經(jīng)幫助客戶精調(diào)了3.3萬(wàn)個(gè)模型、應(yīng)用開(kāi)發(fā)了77萬(wàn)個(gè)企業(yè)應(yīng)用、百度文心大模型日均調(diào)用量超過(guò)15億次。沈抖深度

沈抖表示，模型模型AI應(yīng)用正率先在B端爆發(fā)。由企業(yè)級(jí)大模型工程平臺(tái)、異構(gòu)算力平臺(tái)組成的新型AI基礎(chǔ)設(shè)施，將替代傳統(tǒng)云計(jì)算，為大模型應(yīng)用在企業(yè)生產(chǎn)力場(chǎng)景中的規(guī)模落地提供關(guān)鍵支撐。

（百度集團(tuán)執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖）

AI應(yīng)用率先在B端爆發(fā)

60%央企使用百度云AI服務(wù)

2024年，大模型產(chǎn)業(yè)落地顯著提速，在行業(yè)場(chǎng)景覆蓋廣度、落地深度等方面都有顯著提升。目前，百度智能云已經(jīng)在能源、電力、制造、金融、交通、政務(wù)、互聯(lián)網(wǎng)、教育、電商等數(shù)十個(gè)行業(yè)、幾百個(gè)場(chǎng)景中落地大模型應(yīng)用。

在能源電力行業(yè)，國(guó)家電網(wǎng)正在圍繞文心大模型、千帆平臺(tái)，結(jié)合電力行業(yè)高質(zhì)量數(shù)據(jù)，聯(lián)合百度共創(chuàng)電力行業(yè)大模型基礎(chǔ)底座，并在調(diào)度、設(shè)備、營(yíng)銷等六大專業(yè)領(lǐng)域深入探索。目前，已經(jīng)在電力設(shè)備運(yùn)檢、供電服務(wù)等電力行業(yè)核心場(chǎng)景成功完成應(yīng)用落地。

在餐飲行業(yè)，中國(guó)最大的餐飲公司百勝中國(guó)，基于文心大模型打造了AI智能客服系統(tǒng)，為旗下包括肯德基在內(nèi)的多個(gè)品牌提供服務(wù)。百勝中國(guó)CTO張雷表示，目前，AI客服每天能夠?yàn)榘賱僦袊?guó)處理超過(guò)15萬(wàn)次消費(fèi)者溝通，問(wèn)題解決率高達(dá)90%；在輔助人工方面，AI客服能夠快速歸納、總結(jié)消費(fèi)者訴求，輔助客服更快速、更精準(zhǔn)地回復(fù)，整體效率提高10%！此外，大模型還能夠?qū)崟r(shí)評(píng)估客服服務(wù)質(zhì)量，幫助百勝中國(guó)進(jìn)一步提升服務(wù)水平。

（百勝中國(guó)CTO張雷）

目前，百度智能云已經(jīng)擁有中國(guó)最大的大模型產(chǎn)業(yè)落地規(guī)模。已有超過(guò)六成的央企和大量的民營(yíng)企業(yè)，正在聯(lián)合百度智能云進(jìn)行AI創(chuàng)新，文心大模型日均調(diào)用量超過(guò)15億次。

沈抖認(rèn)為，AI應(yīng)用正率先在B端爆發(fā)，而“企業(yè)級(jí)”AI應(yīng)用大量涌現(xiàn)的背后，是產(chǎn)品服務(wù)形態(tài)的突破性變革與能力的大幅拉升。

以百度智能云“曦靈”數(shù)字人平臺(tái)為例，全新升級(jí)的“文生3D數(shù)字人視頻”功能，能夠大幅提升電商、教育、文旅等行業(yè)的內(nèi)容創(chuàng)作、營(yíng)銷推廣效率，大幅降低成本支出。

比如，在電商領(lǐng)域，過(guò)去拍攝制作真人產(chǎn)品推廣短視頻需要專業(yè)團(tuán)隊(duì)花費(fèi)幾天時(shí)間才能完成。而“文生3D數(shù)字人視頻”只需一句話，就能生成符合不同行業(yè)場(chǎng)景特色的3D數(shù)字人形象和專業(yè)靈動(dòng)的視頻，成本僅有傳統(tǒng)方式的1%，工作效率提升超過(guò)1倍！

沈抖表示，無(wú)數(shù)的AI應(yīng)用，正在重新定義人與數(shù)字世界、物理世界之間的交互方式?，F(xiàn)在，這些應(yīng)用已經(jīng)深入到企業(yè)“研產(chǎn)供銷服”的各個(gè)環(huán)節(jié)，并成為企業(yè)提升競(jìng)爭(zhēng)力的關(guān)鍵要素。

模型精調(diào)需求大增

千帆平臺(tái)發(fā)布工作流Agent、模型蒸餾兩大開(kāi)發(fā)功能

傳統(tǒng)的企業(yè)業(yè)務(wù)中，復(fù)雜的工作和任務(wù)往往過(guò)度依賴專家經(jīng)驗(yàn)和固有流程，即工作流；即便在數(shù)字化系統(tǒng)中，傳統(tǒng)工作流配置依舊是沒(méi)有“大腦”的機(jī)械執(zhí)行，難有實(shí)質(zhì)性的突破。

大模型具備強(qiáng)大的意圖理解和泛化能力，能夠充分理解工作流的目的與內(nèi)涵，相當(dāng)于一顆會(huì)思考的“大腦”；通過(guò)與企業(yè)工作流相結(jié)合，又可以有效解決大模型“幻覺(jué)”問(wèn)題，增強(qiáng)大模型“控場(chǎng)能力”，保障復(fù)雜任務(wù)的決策與執(zhí)行準(zhǔn)確。二者結(jié)合，構(gòu)成了智能時(shí)代企業(yè)真正需要的“數(shù)字員工”。

本次大會(huì)，百度智能云千帆大模型平臺(tái)正式發(fā)布“工作流Agent”功能，旨在幫助企業(yè)快速開(kāi)發(fā)出面向復(fù)雜對(duì)話場(chǎng)景的AI應(yīng)用，快速擁有專業(yè)水平的“數(shù)字員工”。通過(guò)學(xué)習(xí)各種企業(yè)流程與規(guī)范，工作流Agent能夠適應(yīng)不同崗位職責(zé)，快速規(guī)?；瘡?fù)制，大幅提升企業(yè)運(yùn)轉(zhuǎn)效率。

以保險(xiǎn)行業(yè)為例，目前百度智能云正在基于工作流Agent探索、落地車險(xiǎn)續(xù)保售前數(shù)字員工。過(guò)去，車險(xiǎn)續(xù)保的工作指導(dǎo)包含大量流程、子流程、文檔等內(nèi)容，優(yōu)秀銷售人員稀缺，且培養(yǎng)周期往往長(zhǎng)達(dá)一到兩年。基于工作流Agent開(kāi)發(fā)金牌銷售數(shù)字員工，則最快可以在1小時(shí)內(nèi)完成、上線，大幅提升了企業(yè)車險(xiǎn)業(yè)務(wù)的核心生產(chǎn)力。這樣的工作流Agent可以快速集成到百度搜索、微信公眾號(hào)、企業(yè)官網(wǎng)等業(yè)務(wù)系統(tǒng)中，便利觸達(dá)用戶。

目前，由工作流Agent開(kāi)發(fā)的“續(xù)保金牌銷售”，已在百度智能云智能客服平臺(tái)“客悅”開(kāi)放體驗(yàn)。（https://keyue.cloud.baidu.com/unit/world-conference）

“我們?cè)趯?shí)踐中發(fā)現(xiàn)，行業(yè)應(yīng)用要達(dá)到更專業(yè)的效果，需要深入模型層面進(jìn)行定制開(kāi)發(fā)或精調(diào)。精調(diào)模型的數(shù)量一定程度上反映了大模型與產(chǎn)業(yè)結(jié)合的深度。這個(gè)數(shù)量今年增長(zhǎng)地特別快，在千帆大模型平臺(tái)上，每天有超過(guò)一半的調(diào)用量是來(lái)自精調(diào)后的模型。”沈抖說(shuō)。

在醫(yī)療行業(yè)，杭州全診醫(yī)學(xué)基于千帆平臺(tái)和文心大模型打造了AI醫(yī)療助理應(yīng)用，能夠在導(dǎo)診、預(yù)診、診間、入院、手術(shù)、隨訪等全階段服務(wù)醫(yī)生患者。以輔助醫(yī)生撰寫病歷為例，全診醫(yī)學(xué)通過(guò)使用20萬(wàn)份精標(biāo)病歷數(shù)據(jù)對(duì)大模型進(jìn)行精調(diào)，使AI醫(yī)療助理的醫(yī)學(xué)用語(yǔ)更準(zhǔn)確、更規(guī)范，大幅提升病歷內(nèi)容質(zhì)量。病歷生成的準(zhǔn)確度提升了45%，病歷書寫時(shí)間減少75%，醫(yī)生的接診量提高了20%，造福更多病患。

而針對(duì)數(shù)據(jù)積累不足，難以承擔(dān)人工精標(biāo)數(shù)據(jù)成本的企業(yè)，千帆平臺(tái)全新推出模型蒸餾解決方案，幫助企業(yè)利用文心旗艦級(jí)大模型生成專業(yè)數(shù)據(jù)，完成全流程的數(shù)據(jù)準(zhǔn)備工作，加速啟動(dòng)模型精調(diào)工作。

以百度電商數(shù)字人直播平臺(tái)“慧播星”為例，通過(guò)使用文心旗艦?zāi)Ｐ虴RNIE 4.0 Turbo萃取訓(xùn)練數(shù)據(jù)，生成模型精調(diào)數(shù)據(jù)集，對(duì)輕量級(jí)大模型ERNIE Lite進(jìn)行精調(diào)，精調(diào)后的模型在特定場(chǎng)景中的效果與旗艦?zāi)Ｐ突境制?，并擁有更快的推理速度，成本大幅下?0%。模型上線以后，數(shù)字人直播間的互動(dòng)率大幅提升11%，帶貨轉(zhuǎn)化率也實(shí)現(xiàn)了極大提升。

大算力管理依然是最大難題

百舸4.0升級(jí)十萬(wàn)卡集群跨地域部署能力

大算力是大模型落地的基礎(chǔ)條件。為了滿足企業(yè)落地大模型從集群創(chuàng)建、開(kāi)發(fā)實(shí)驗(yàn)，到模型訓(xùn)練、模型推理的全旅程算力需求，百度智能云推出百舸AI異構(gòu)計(jì)算平臺(tái) 4.0，服務(wù)了中國(guó)石化、中海石油、長(zhǎng)安汽車、上海交通大學(xué)、地平線等行業(yè)龍頭企業(yè)和機(jī)構(gòu)，目前已具備了成熟的10萬(wàn)卡集群部署和管理能力。

沈抖表示，為了支撐大模型的進(jìn)一步高速發(fā)展，百度智能云提前布局，是行業(yè)內(nèi)最早打磨10萬(wàn)卡集群能力的廠商之一，并通過(guò)技術(shù)創(chuàng)新解決了集群算力供給、跨地域部署兩大核心難題。

首先，在算力供給方面，百舸平臺(tái)兼容昆侖芯、昇騰、海光DCU、英偉達(dá)、英特爾等國(guó)內(nèi)外主流AI芯片，支持同一智算集群中混合使用同一廠商不同代際芯片、不同廠商芯片，最大程度上屏蔽硬件之間差異，幫助中國(guó)企業(yè)擺脫單一芯片帶來(lái)的高溢價(jià)和供應(yīng)鏈風(fēng)險(xiǎn)。

目前，在萬(wàn)卡規(guī)模集群上，百舸能夠?qū)煞N芯片混合訓(xùn)練大模型的效率折損控制在5%以內(nèi)，達(dá)到業(yè)界最領(lǐng)先的水平。未來(lái)，“一云多芯”將成為中國(guó)企業(yè)的必然選擇。

另一方面，10萬(wàn)卡規(guī)模超大集群需要占據(jù)大概10萬(wàn)平方米空間，相當(dāng)于13個(gè)標(biāo)準(zhǔn)足球場(chǎng)；每天則要消耗大約300萬(wàn)千瓦時(shí)的電力，相當(dāng)于北京市東城區(qū)一天的居民用電量。這種對(duì)于空間和能源的巨大需求，遠(yuǎn)超傳統(tǒng)機(jī)房部署的承載能力，而跨地域機(jī)房部署又會(huì)給網(wǎng)絡(luò)通信帶來(lái)巨大挑戰(zhàn)。

通過(guò)設(shè)計(jì)高效的網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)，結(jié)合模型切分優(yōu)化和跨地域無(wú)擁塞高性能網(wǎng)絡(luò)方案，百舸能夠在橫跨幾十公里的多機(jī)房組成的萬(wàn)卡規(guī)模的集群上，將單一模型訓(xùn)練任務(wù)的性能折損控制在4%以內(nèi)，達(dá)到業(yè)界最領(lǐng)先水平。