大模型競爭下半場，全棧能力將成關(guān)鍵看點。

作者丨劉伊倫

編輯丨包永剛

落地大模型的速度和質(zhì)量正成為企業(yè)在智能化浪潮中搶占產(chǎn)業(yè)制高點的關(guān)鍵勝負(fù)手。

據(jù)《2024中國企業(yè)AI大模型應(yīng)用現(xiàn)狀》調(diào)研報告顯示，AI大模型落地總體上仍處在探索孵化階段，滲透率不足1%，但在已部署大模型的企業(yè)中，超半數(shù)企業(yè)感受到了大模型落地帶來的業(yè)務(wù)價值。

割裂感充斥在這場智能化變革之中：一端是洞察價值的企業(yè)持續(xù)加碼投入，另一端則是受限于技術(shù)、資金與人才的企業(yè)，無奈將技術(shù)浪潮視為“行業(yè)泡沫”。二者間存在的認(rèn)知差距與行動鴻溝，折射出大模型落地從“試點紅利”邁向“普惠深水區(qū)”的行業(yè)陣痛。

技術(shù)斷層與能力失衡，則是橫亙在企業(yè)智能化轉(zhuǎn)型路上的雙重障礙。不具備技術(shù)能力的企業(yè)面臨桎梏，而具備一定研發(fā)實力的企業(yè)，也難以規(guī)避單一能力短板引發(fā)的“木桶效應(yīng)”。

某大型集團(tuán)曾斥資3000萬下場研發(fā)企業(yè)大模型，重金聘請技術(shù)專家，卻因技術(shù)落地難、數(shù)據(jù)隱私風(fēng)險及商業(yè)模式模糊等問題，一年內(nèi)耗盡預(yù)算，項目最終擱淺。

實踐表明，企業(yè)大模型落地需要與擁有全棧大模型技術(shù)基因的產(chǎn)業(yè)專家深度協(xié)作。在大模型中標(biāo)項目數(shù)、行業(yè)覆蓋數(shù)、央國企中標(biāo)項目數(shù)三個維度皆“領(lǐng)跑”的百度智能云，正是企業(yè)大模型落地的產(chǎn)業(yè)專家。正如百度集團(tuán)執(zhí)行副總裁沈抖表示，百度智能云系統(tǒng)級智能基礎(chǔ)設(shè)施正助力企業(yè)大模型高效落地。

全棧基礎(chǔ)設(shè)施作為大模型落地的剛需底座，通過自研芯片、算力調(diào)度、模型訓(xùn)練及應(yīng)用部署的技術(shù)閉環(huán)，百度智能云正解決企業(yè)從 “模型可用” 到 “業(yè)務(wù)見效” 的多個障礙。例如，百度智能云與招商銀行合作推進(jìn)大模型落地，以昆侖芯 P800芯片為底層算力支撐，結(jié)合千帆大模型平臺與招行具體業(yè)務(wù)場景，在智能客服、多模態(tài)數(shù)據(jù)分析等領(lǐng)域落地實踐。

大模型競爭下半場，全棧能力將成關(guān)鍵看點。百度如何打造從底層硬件、算力優(yōu)化、模型技術(shù)到應(yīng)用落地的全棧服務(wù)能力？其產(chǎn)業(yè)落地成效又如何？

01

算力資源利用率提升50%，百舸平臺釋放昆侖芯性能

“我們自主可控人工智能技術(shù)走在央企前列。”南方電網(wǎng)公司數(shù)字化部副總經(jīng)理余蕓表示。

據(jù)悉，南方電網(wǎng)研發(fā)的電力行業(yè)大模型“大瓦特”聚焦電力行業(yè)應(yīng)用場景，通過整合電網(wǎng)運行數(shù)據(jù)、設(shè)備狀態(tài)信息、行業(yè)知識規(guī)則等，提升電力系統(tǒng)的智能化水平。其中， “南網(wǎng)調(diào)度值班助手” 可秒級生成故障處置預(yù)案，識別效率是傳統(tǒng)算法的10倍；變電站巡檢機(jī)器人將人工6小時的巡視任務(wù)自動化，準(zhǔn)確率顯著提升。

而效率躍遷的背后，離不開百度智能云全棧算力能力的深度支撐。

昆侖芯P800芯片作為“大瓦特”的算力底座之一，采用了完全自研的XPU-P架構(gòu)，僅需32臺服務(wù)器即可完成千億參數(shù)模型的全參數(shù)訓(xùn)練，幫助南方電網(wǎng)在大模型訓(xùn)練上顯著降低了成本。

“AI芯片是高度敏感的硬件。隨著集群規(guī)模擴(kuò)展，故障率會呈指數(shù)級上升。這個難題，即使是全球最領(lǐng)先的芯片廠商，也無法避免。”沈抖說，“在硬件之上，必須有一套強大的軟件平臺，保障集群的穩(wěn)定運行。”

百度智能云混合云總經(jīng)理杜海同樣認(rèn)為，獲得行業(yè)重要客戶的信任，基礎(chǔ)能力是關(guān)鍵因素。對于集群穩(wěn)定性以及使用效率的關(guān)注，已經(jīng)成為了行業(yè)的新趨勢。

國內(nèi)具備萬卡集群建設(shè)能力的公司屈指可數(shù)，能同時兼具高效算力統(tǒng)籌與算力優(yōu)化能力的企業(yè)更是鳳毛麟角。這類企業(yè)不僅需要突破芯片性能、集群架構(gòu)等硬件瓶頸，還需在算力調(diào)度算法、資源利用率優(yōu)化、多模態(tài)任務(wù)適配等軟件層面實現(xiàn)深度創(chuàng)新。

憑借全棧自研能力，百度成功點亮自研三萬卡集群。自研驅(qū)動的模式消除了硬件、軟件與生態(tài)融合的壁壘，使昆侖芯算力集群成為性能領(lǐng)先的單體集群。沈抖表示，這是國內(nèi)首個如此大規(guī)模采用昆侖芯P800和海光CPU全國產(chǎn)方案的集群。

當(dāng)算力集群規(guī)模觸及當(dāng)前技術(shù)邊界時，擁有強大的軟實力才能發(fā)揮出硬件的潛能。百舸平臺是支持一云多芯及國產(chǎn)開源模型的算力管理平臺，其可以有效提升集群訓(xùn)練推理效率，保障集群穩(wěn)定性的同時，突破利用率瓶頸。

“百舸平臺是百度自主研發(fā)的核心組件，百舸4.0支持多種異構(gòu)芯片、不同的高速網(wǎng)絡(luò)互聯(lián)技術(shù)，以及高性能存儲和相關(guān)存儲架構(gòu)技術(shù)。”杜海說，“在這之上，我們通過全套云原生組件解決通信問題，百舸平臺不僅支持單一的英偉達(dá)芯片或昆侖芯，還能兼容多種芯片的不同通信協(xié)議與算力規(guī)則，實現(xiàn)統(tǒng)一調(diào)度。”

目前，百舸平臺實現(xiàn)了超高的穩(wěn)定性，3萬卡集群有效訓(xùn)練時長占比超95%，且具備秒級故障感知與定位能力，通過自動回滾機(jī)制可快速恢復(fù)集群運行，保障了業(yè)務(wù)的無間斷。同時，百舸平臺創(chuàng)新性采用混合云形態(tài)進(jìn)行集群交付與運營，通過全局優(yōu)化計算節(jié)點和存儲資源，資源利用率提升50%，大幅降低算力成本，提供“快、穩(wěn)、省”的算力服務(wù)體驗。

集群利用率方面，百舸平臺已具備成熟的10萬卡集群部署和管理能力，且在萬卡集群上實現(xiàn)了99.5%以上的有效訓(xùn)練時長，能夠?qū)⒉煌男酒旌嫌?xùn)練大模型的效率折損控制在5%以內(nèi)，達(dá)到業(yè)界最領(lǐng)先的水平。

“最能打動客戶的，正是百舸平臺把集群穩(wěn)定性以及算力利用率不斷調(diào)至更優(yōu)狀態(tài)。”杜海說，“百舸平臺的設(shè)計理念是從應(yīng)用、模型、框架到芯片，自上而下地將四層體系深度融合，只有這樣端到端的體系，才能讓集群效能最大化。”

百舸平臺的兼容性與自主性也非常出色，得益于百舸平臺踐行的“一云多芯”策略，除昆侖芯外，還適配多種主流國產(chǎn)芯片，滿足企業(yè)在不同算力架構(gòu)下的自主部署需求，讓客戶的算力選擇自主可控。

在算力選擇自主可控的基礎(chǔ)上，百舸平臺還具備對不同規(guī)模算力的兼容性。杜海表示，百舸平臺支持在一體機(jī)部署輕量化版本（百舸 Lite）；同時，針對百卡、千卡等不同集群規(guī)模，平臺提供差異化的集群化組網(wǎng)方案，確保業(yè)務(wù)開展過程的平滑性。

在對AI部署非常關(guān)鍵的模型支持方面，百舸平臺向上適配主流大模型框架，對包括DeepSeek在內(nèi)的國產(chǎn)開源模型的訓(xùn)練與推理均表現(xiàn)穩(wěn)定且性能優(yōu)異。以DeepSeek R1滿血版為例，基于百舸+昆侖芯的方案，昆侖芯P800單機(jī)8卡配置可實現(xiàn)2437tokens/s吞吐，而百舸DeepSeek一體機(jī)在支持500人團(tuán)隊并發(fā)使用時，推理延遲平均在50毫秒以內(nèi)。

02

開發(fā)超100萬個企業(yè)級AI應(yīng)用，千帆平臺正在成為「智能體」工廠

昆侖芯與百舸平臺的深度協(xié)同，為大模型提供了直接的硬件支撐與平臺保障。在此前提下，一站式企業(yè)級大模型平臺千帆為大模型能力的整合和場景落地提供有力支撐。

4月25日的Create2025百度AI開發(fā)者大會上，文心大模型4.5 Turbo及文心大模型X1 Turbo正式發(fā)布。

文心4.5 Turbo作為多模態(tài)大模型，源自文心4.5，大幅提升了跨模態(tài)學(xué)習(xí)效率及多模態(tài)融合效果，多模態(tài)理解效果提升超過30%，在多個測試集上追平甚至部分超越了OpenAI的旗艦?zāi)Ｐ虶PT-4.5。

文心X1 Turbo則是基于文心4.5 Turbo的深度思考模型，側(cè)重于深度思考，尤其擅長推理和工具調(diào)用，具備更先進(jìn)的思維鏈，在問答、創(chuàng)作、邏輯推理、工具調(diào)用和多模態(tài)能力上均有進(jìn)一步增強。在信通院最近公布的大模型推理能力評估中，文心 X1 Turbo的綜合評級獲得了當(dāng)前最高級“4+級”，是國內(nèi)首款通過該測評的大模型。

基礎(chǔ)模型具備強大的性能是落地應(yīng)用的必要條件，而非充分條件，由于“通用”與“專用”的先天隔閡而導(dǎo)致落地效果大打折扣，只有足夠“懂業(yè)務(wù)”的大模型才能夠深入行業(yè)深水區(qū)。正如沈抖所言，基礎(chǔ)模型能力再強，放到具體的行業(yè)場景中，效果往往不達(dá)預(yù)期。

基于對行業(yè)大模型落地的深刻理解，百度首次發(fā)布金融行業(yè)大模型“千帆慧金”，該模型基于海量金融語料深度訓(xùn)練，構(gòu)建金融專用合成數(shù)據(jù)管線，優(yōu)化算法策略，并提供知識增強大模型和推理增強大模型兩類模型，每類模型分別提供8B和70B兩個版本，支持最長32K上下文輸入，覆蓋金融行業(yè)多數(shù)場景。

在金融領(lǐng)域Benchmark評測中，千帆慧金金融大模型綜合表現(xiàn)領(lǐng)先，百億參數(shù)模型得分超過千億參數(shù)的通用模型。在金融銷售賦能場景中，相比通用模型，千帆慧金金融大模型能更完整地列出貸款材料清單、拆解工作流程，并明確風(fēng)險管控要點，展現(xiàn)出深厚的行業(yè)知識與推理能力。

對于智能體的落地，強大的模型固然重要，但讓更多企業(yè)負(fù)擔(dān)得起、用得起來，才是推動普及的關(guān)鍵。

文心4.5 Turbo以及文心X1 Turbo均已上線千帆平臺并對外提供服務(wù)，在千帆平臺上，文心 4.5 Turbo的百萬token價格僅為DeepSeek V3調(diào)用價格的40%，而文心X1 Turbo價格只有DeepSeek R1的四分之一。

除文心大模型外，千帆平臺還提供超過100個模型服務(wù)，市場上效果好的模型，都可以在千帆上找到。除模型服務(wù)外，千帆平臺還提供模型開發(fā)、應(yīng)用開發(fā)的全套工具鏈，在應(yīng)用開發(fā)方面，千帆平臺已累計幫助用戶開發(fā)出100多萬個企業(yè)級應(yīng)用。

經(jīng)過大量落地案例積累與多次技術(shù)迭代，千帆平臺已成為功能完備、高效易用的 “智能體工廠”。企業(yè)可直接調(diào)用百度提供的成熟智能體，包括行業(yè)智能體，以及智能客服、內(nèi)容審核等通用智能體，快速開發(fā)并構(gòu)建智能體生態(tài)。

伴隨著大模型部署進(jìn)入深水區(qū)，千帆平臺在智能體開發(fā)領(lǐng)域也將進(jìn)一步向行業(yè)廣度與企業(yè)深度延伸。

未來，企業(yè)既可通過A2A等協(xié)議調(diào)用集團(tuán)內(nèi)部及上下游合作伙伴的第三方智能體，打通跨組織業(yè)務(wù)流并以最優(yōu)策略協(xié)調(diào)智能體分工協(xié)作；也能開發(fā)企業(yè)自有智能體，通過MCP協(xié)議連接企業(yè)內(nèi)部服務(wù)，激活過往數(shù)字化積累的 IT 與數(shù)據(jù)資產(chǎn)，讓智能體成為企業(yè)業(yè)務(wù)流程的有機(jī)組成部分。

而千帆平臺支持所有市場上主流大模型的策略，也讓企業(yè)在智能體開發(fā)過程中，能將自身的業(yè)務(wù)匹配到合適的模型，并且企業(yè)還能根據(jù)千帆平臺上真實的用戶反饋對模型進(jìn)行微調(diào)，提升智能體的落地效果。

此外，千帆平臺的能力還支持“私有化部署”， 模型以及工具的更新都將在一周內(nèi)上架到千帆平臺上。

03

全棧自研，百度智能云跑通AI落地的「最后一公里」

從硬件基礎(chǔ)設(shè)施到模型及應(yīng)用開發(fā)平臺，百度智能云在不斷探索及夯實智能化轉(zhuǎn)型的全流程，提供了從算力、模型開發(fā)、應(yīng)用開發(fā)以及數(shù)據(jù)管理的全套人工智能基礎(chǔ)設(shè)施，與企業(yè)沉淀的行業(yè)數(shù)據(jù)資源相結(jié)合，真正跑出能落地、能夠深入行業(yè)的模型及智能體。

超65%央企選擇與百度合作探索智能化轉(zhuǎn)型之路，而百度智能云也以行業(yè)場景為錨點，打造深入行業(yè)的智能體矩陣。

“輕量定制行業(yè)智能體，正在成為大模型產(chǎn)業(yè)落地的最快路徑。”沈抖說，“它會根據(jù)場景的特點，選擇合適的大、小模型，并給出最佳的協(xié)作方式；通過知識庫等方式激活企業(yè)的專屬數(shù)據(jù)，拓展智能體的專業(yè)知識；還可以根據(jù)業(yè)務(wù)流程要求，自動編排任務(wù)；同時與企業(yè)現(xiàn)有系統(tǒng)打通，實現(xiàn)從數(shù)據(jù)到應(yīng)用的閉環(huán)。”

由人民日報文化傳媒、百度公司聯(lián)合主辦的 “2025 智能經(jīng)濟(jì)論壇”全新發(fā)布了 “精選行業(yè)場景智能體家族”，包含能源、醫(yī)療、交通、政務(wù)等領(lǐng)域，覆蓋B端企業(yè)、C端用戶及G端政務(wù)場景，推動AI從通用技術(shù)向行業(yè)生產(chǎn)力轉(zhuǎn)化。

企業(yè)辦理用電相關(guān)業(yè)務(wù)效率低？百度智能云營銷供電方案智能體讓業(yè)務(wù)辦理提質(zhì)增效。

傳統(tǒng)的供電方案制定工序繁瑣，需填報上百項數(shù)據(jù)并經(jīng)過多個部門進(jìn)行勘查，辦電效率低下容易影響企業(yè)正常經(jīng)營活動的開展。為此，百度智能云聯(lián)手國家電網(wǎng)推出“營銷供電方案智能體”，通過多輪對話識別需求、大模型自動生成方案并動態(tài)調(diào)整優(yōu)先級，實現(xiàn)客戶辦電效率的提升。

“智能體已經(jīng)全面掌握了整套流程，能準(zhǔn)確地調(diào)動行業(yè)知識和工具系統(tǒng)，實現(xiàn)企業(yè)辦電流程的全面智能化。”沈抖說。

在醫(yī)療領(lǐng)域，百度智能云的智能體致力于提升患者的就醫(yī)體驗。

2024年上海市公立醫(yī)療機(jī)構(gòu)病人滿意度調(diào)查顯示，在2224人次的門診病人反饋意見中，31.74%的改善意見與 “等候和排隊時間” 有關(guān)，門診等候時間位居門診病人改善建議的前列。

對此，百度智能云推出智慧就醫(yī)智能體，在就診前便通過大模型收集病情信息，并利用多模態(tài)語義融合解析技術(shù)，自動生成患者“病情卡”。這一功能落地武漢協(xié)和醫(yī)院，病情卡加上專家模型判斷患者是否符合加號要求，審核準(zhǔn)確率達(dá)95%以上，并節(jié)省專家篩選時間85%以上。

而在和民生密切相關(guān)的的政務(wù)領(lǐng)域，百度推出的行業(yè)智能體同樣讓業(yè)務(wù)的開展提質(zhì)增效。

公路交通事故的發(fā)生往往會引發(fā)系列的連鎖反應(yīng)。相關(guān)研究表明，當(dāng)車輛駛?cè)腼柡蜖顟B(tài)的道路，會使其他所有車輛速度降低約0.7%，這種 “蝴蝶效應(yīng)” 在高峰期可能讓整體通行時間延長20%以上。

百度智能云推出的公路應(yīng)急指揮智能體嵌入“事件感知-事件播報-應(yīng)急處置預(yù)案生成-預(yù)案選擇-預(yù)案執(zhí)行-處置結(jié)束”全流程，將檢測準(zhǔn)確率提升到95%以上，讓監(jiān)控人員介入處置的工作量降低50%。利用大模型實現(xiàn)部門及設(shè)備聯(lián)動，并生成應(yīng)急處置報告，實現(xiàn)突發(fā)事件應(yīng)急響應(yīng)效率提升30%。

環(huán)境管理是綠色及可持續(xù)發(fā)展的核心，而智能化則讓環(huán)境管理變得高效。沈抖表示：“今天，AI 正在讓生態(tài)環(huán)境的監(jiān)測和治理變得可感、可行。”

百度智能云聯(lián)手中國環(huán)境監(jiān)測總站打造生態(tài)環(huán)境監(jiān)測智能體，依托環(huán)境監(jiān)測總站高質(zhì)量的環(huán)境監(jiān)測數(shù)據(jù)，面對復(fù)雜的氣候條件，能生成環(huán)境質(zhì)量分析報告并出具精準(zhǔn)預(yù)測，其在空氣質(zhì)量問答、水監(jiān)測站點信息問答、污染源答疑等場景下回答準(zhǔn)確率超95%，為環(huán)境管理決策提供數(shù)據(jù)支撐。

百度智能云“全棧自研”的智能基礎(chǔ)設(shè)施，直擊人工智能時代算力與算法面臨的瓶頸，通過昆侖芯芯片與百舸平臺構(gòu)建高效算力底座，依托文心大模型探索算法創(chuàng)新邊界。在此基礎(chǔ)上，百度智能云深度融入行業(yè)場景，背靠企業(yè)的高質(zhì)量數(shù)據(jù)資產(chǎn)，讓智能化轉(zhuǎn)型發(fā)生。

受AI驅(qū)動，百度智能云業(yè)務(wù)在2025年第一季度增長強勁，同比增速達(dá)42%。

“這是一場長期的接力。我們會堅定投入，打造更先進(jìn)、高效的人工智能基礎(chǔ)設(shè)施，服務(wù)更多的中國企業(yè)，加快推動大模型產(chǎn)業(yè)化發(fā)展，釋放更多場景價值。”沈抖說。

全棧自研的技術(shù)實力以及持續(xù)投入的決心，將讓百度在智能涌現(xiàn)的時代不缺席。（雷峰網(wǎng) (公眾號：雷峰網(wǎng)) ）

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見 轉(zhuǎn)載須知 。