王永
在國(guó)內(nèi)大模型領(lǐng)域同不斷取得突破性進(jìn)展時(shí),2021年浪潮信息就發(fā)布了當(dāng)時(shí)全球最大的中文AI訓(xùn)練模型“源”:各種詩(shī)文創(chuàng)作不在話(huà)下,玩轉(zhuǎn)劇本殺,懂心理學(xué)......然而,衡量技術(shù)是否存在商業(yè)價(jià)值的核心在于其是否能夠適用于企業(yè)數(shù)字化轉(zhuǎn)型的業(yè)務(wù)場(chǎng)景。因此在不斷創(chuàng)造神奇感知的同時(shí),如何將大模型的智能落地在各行各業(yè),創(chuàng)造更大的產(chǎn)業(yè)價(jià)值,才是重中之重。
目前,“源”已經(jīng)落地在浪潮信息的服務(wù)領(lǐng)域,成功打造出“智能客服大腦”。值得一提的是,由于浪潮信息自身IT業(yè)務(wù)的原因,服務(wù)工作多是專(zhuān)業(yè)和復(fù)雜的垂直領(lǐng)域,這雖加劇了與AI應(yīng)用結(jié)合的高難度和挑戰(zhàn)性,但也為AI的發(fā)展提供了豐富的應(yīng)用場(chǎng)景。
“從大模型的角度開(kāi)看,尤其是落地到行業(yè)應(yīng)用里邊,需要跟行業(yè)業(yè)務(wù)相關(guān)的數(shù)據(jù)支持,智能客服就是一個(gè)很好的代表?!崩顺毙畔I軟件研發(fā)總監(jiān)吳韶華介紹道,大模型學(xué)習(xí)的知識(shí)主要是來(lái)自于互聯(lián)網(wǎng)上開(kāi)源的各類(lèi)對(duì)話(huà)、文檔以及百科類(lèi)知識(shí)等,在專(zhuān)業(yè)性方面需要行業(yè)專(zhuān)門(mén)的知識(shí)來(lái)做支撐,這種支撐方式可以有兩種:大模型基于具體行業(yè)數(shù)據(jù)做微調(diào)以及采用外掛知識(shí)庫(kù)的形式,浪潮信息選擇的是第二種?!拔覀儼研袠I(yè)數(shù)據(jù)編碼成具體的知識(shí)庫(kù),在大模型在實(shí)際用的時(shí)候通過(guò)知識(shí)庫(kù)的形式來(lái)做有針對(duì)性的檢索以及知識(shí)的綜合,隨后將綜合之后的知識(shí)返回給終端用戶(hù)。”
那么如何針對(duì)已經(jīng)擁有的行業(yè)數(shù)據(jù)來(lái)構(gòu)建相關(guān)的知識(shí)庫(kù)?這兩個(gè)其實(shí)是相互連帶的問(wèn)題。事實(shí)上,行業(yè)數(shù)據(jù),有相當(dāng)一部分是沒(méi)有經(jīng)過(guò)處理的數(shù)據(jù),浪潮信息需要把這些數(shù)據(jù)抽取,形成知識(shí)庫(kù)。這些內(nèi)容通過(guò)浪潮信息在智能客戶(hù)方面的實(shí)踐,最終形成比較好的知識(shí)庫(kù)自動(dòng)化構(gòu)建的工具和方法。
當(dāng)大模型落地到具體應(yīng)用場(chǎng)景時(shí),需要結(jié)合業(yè)務(wù)場(chǎng)景會(huì)做具體的適配,比如知識(shí)庫(kù)的知識(shí)編碼模型,由大模型蒸餾出來(lái)小模型,做知識(shí)編碼,通過(guò)蒸餾出來(lái)的具體小模型,它不僅可以非常有效的提升大模型的編碼效率,還可以針對(duì)編碼后的知識(shí)進(jìn)行二次檢索的精度。
“浪潮信息探索的基于外掛知識(shí)庫(kù)的方式,具有更強(qiáng)的特殊性——當(dāng)我們把行業(yè)知識(shí)統(tǒng)一聚合到知識(shí)庫(kù),大模型的通用能力可以和行業(yè)知識(shí)形成一種松耦合。行業(yè)知識(shí)經(jīng)過(guò)檢索之后,反饋給大模型的是用戶(hù)的問(wèn)題強(qiáng)相關(guān)知識(shí),利用大模型對(duì)知識(shí)的綜合的能力,反饋給用戶(hù)需要的回答。在這種情況下,行業(yè)的數(shù)據(jù)的更新,可以很方便的通過(guò)知識(shí)庫(kù)的更新來(lái)做,然后大批的能力可以持續(xù)的被復(fù)用到每一次知識(shí)庫(kù)的更新?!眳巧厝A表示,大模型基于行業(yè)數(shù)據(jù)庫(kù)的微調(diào),浪潮信息也在探索,只不過(guò)會(huì)持續(xù)產(chǎn)生較高的開(kāi)銷(xiāo)和成本。因此,浪潮信息當(dāng)前比較傾向于大模型在具體行業(yè)落地的時(shí)候,采用大模型外掛知識(shí)庫(kù)的形式,更好的將行業(yè)知識(shí)和大模型本身的能力進(jìn)行結(jié)合。
回到AI和業(yè)務(wù)場(chǎng)景如何形成良好的互動(dòng)的話(huà)題,服務(wù)作為一家公司重要的窗口業(yè)務(wù)部門(mén),是和客戶(hù)交互最緊密的平臺(tái),所以首先考慮是怎樣把實(shí)際業(yè)務(wù)和AI算法結(jié)合在一起。
“浪潮信息在IT的服務(wù)場(chǎng)景非常復(fù)雜,面對(duì)更多大量的B類(lèi)客戶(hù),我們也在討論是否需要花費(fèi)精力,做AI相關(guān)技術(shù)和算法的落地?!崩顺毙畔⒎?wù)總監(jiān)陳彬表示,從這幾年取得的成果來(lái)看,浪潮信息總結(jié)了兩個(gè)心得:因地制宜,按照公司的長(zhǎng)期目標(biāo)和實(shí)踐條件,堅(jiān)定不移的沿著AI方向和業(yè)務(wù)結(jié)合為目的落地;在具體落地時(shí),小步快跑,前期找痛點(diǎn)、后期分階段。
以客服機(jī)器人為例,這是客戶(hù)服務(wù)的一個(gè)重要窗口。浪潮信息深知,不突破智能機(jī)器人的實(shí)際“智能”的瓶頸,僅僅是在形式上做“表面工夫”解決不了業(yè)務(wù)的痛點(diǎn),因此,浪潮信息選擇用“源”嵌入智能客服底層,變革傳統(tǒng)模式并嘗試突破瓶頸,,下一步,浪潮信息將根據(jù)業(yè)務(wù)需求來(lái)拓展智能客服機(jī)器人的功能屬性,持續(xù)推進(jìn)服務(wù)智能化轉(zhuǎn)型。據(jù)了解,浪潮信息規(guī)劃在明年把AR等技術(shù)嵌入到整個(gè)服務(wù)的流程,進(jìn)一步夯實(shí)服務(wù)能力。
如今,浪潮信息智能客服在“源”的強(qiáng)智能的加持下,做到了解決問(wèn)題廣、客戶(hù)答案精準(zhǔn)專(zhuān)業(yè)以及交互貼心智能:智能客服能力覆蓋浪潮信息八大產(chǎn)品線(xiàn),和客戶(hù)問(wèn)答的匹配率達(dá)到92%;同時(shí),智能客服對(duì)常見(jiàn)的復(fù)雜問(wèn)題解決率達(dá)到了85%以上,平均解決率65%左右。此外,智能客服不僅支持圖片交流,還可以針對(duì)客戶(hù)輸入信息自動(dòng)查詢(xún)匹配,最大程度減少對(duì)話(huà)交流花費(fèi)的時(shí)間,原來(lái)和人工客服需要10分鐘才能解決的問(wèn)題,在智能客服中可能經(jīng)過(guò)三輪對(duì)話(huà)10秒鐘就解決了。
從模式上來(lái)看,不同于傳統(tǒng)智能客服多模型和多數(shù)據(jù)庫(kù)架構(gòu),浪潮信息智能客服采用統(tǒng)一架構(gòu),支持多種任務(wù)?!耙酝悄芸头际嵌嗄P秃投鄶?shù)據(jù)庫(kù),整個(gè)技術(shù)架構(gòu)比較復(fù)雜,維護(hù)難度較大,因此浪潮信息將智能客服升級(jí)為大模型驅(qū)動(dòng),完成了從碎片級(jí)到集成化的躍升,也改變了在多個(gè)知識(shí)庫(kù)、多個(gè)模型之間進(jìn)行任務(wù)調(diào)度的情況?!标惐虮硎?,在成本上,通過(guò)大模型的引入直接省去知識(shí)庫(kù)的人工標(biāo)注的工作,同時(shí)智能客服大腦還支持對(duì)企業(yè)文檔、知識(shí)庫(kù),對(duì)內(nèi)部的產(chǎn)品資料自動(dòng)學(xué)習(xí)能力,能夠時(shí)刻讓智能客服大腦保證專(zhuān)業(yè)知識(shí)的實(shí)時(shí)更新,做到更快的進(jìn)化學(xué)習(xí)。
目前,浪潮信息智能客服大腦以InService產(chǎn)品為載體對(duì)外提供服務(wù)。InService平臺(tái)是完全免費(fèi)開(kāi)放給浪潮信息的客戶(hù)使用。同時(shí),基于“源”大模型構(gòu)建智能客服大腦的流程、方法和經(jīng)驗(yàn),浪潮信息形成了面向不同行業(yè)構(gòu)建“行業(yè)大腦”的解決方案,以標(biāo)準(zhǔn)化的流程,高效快捷的助力企業(yè)構(gòu)建精準(zhǔn)滿(mǎn)足自身客戶(hù)服務(wù)需求的智能大腦,來(lái)加速企業(yè)的數(shù)智化進(jìn)程推進(jìn)。
“‘源’在智能客服服務(wù)大腦以及在InService打造的過(guò)程中起到了隱性的作用,通俗的講就是powered by 源。這種狀態(tài),InService平臺(tái)基于源的智能客服大腦助力各個(gè)環(huán)節(jié)有效的協(xié)同?!痹陉惐蚩磥?lái),在InService客戶(hù)端,浪潮信息主要是利用自然語(yǔ)言理解的技術(shù)把龐大的客服知識(shí)庫(kù)轉(zhuǎn)化成客戶(hù)隨時(shí)能夠問(wèn)的服務(wù)專(zhuān)家,通過(guò)告警壓縮、性能預(yù)測(cè)、容量預(yù)測(cè)等多種能力來(lái)實(shí)現(xiàn)設(shè)備的實(shí)時(shí)在線(xiàn)管理,貫穿著客戶(hù)和客戶(hù)產(chǎn)品使用的全生命周期。保證設(shè)備穩(wěn)定不間斷運(yùn)行,滿(mǎn)足客戶(hù)在智能客服智能運(yùn)維智能在線(xiàn)管理的需求。
另一方面,InService的后臺(tái)也就是浪潮內(nèi)部的運(yùn)維端,能夠把客戶(hù)的需求精準(zhǔn)轉(zhuǎn)譯成資源的指令,協(xié)調(diào)各部分的大腦各部分的運(yùn)轉(zhuǎn),并提供資源儲(chǔ)備的相關(guān)信息。準(zhǔn)確的診斷結(jié)果為智能調(diào)派、智能供應(yīng)鏈提供準(zhǔn)確的人機(jī)料法環(huán)觸發(fā)的指令,基于這種系統(tǒng)的準(zhǔn)確前瞻性的數(shù)據(jù),把調(diào)度運(yùn)籌學(xué)和機(jī)器學(xué)習(xí)相結(jié)合,高效快速的調(diào)撥人和備件的資源,同時(shí)指導(dǎo)資源安排,補(bǔ)充備件或者人員進(jìn)行跨區(qū)調(diào)動(dòng),實(shí)現(xiàn)服務(wù)運(yùn)營(yíng)的智能化。
整體上來(lái)看,浪潮服務(wù)體系涵蓋熱線(xiàn)、指揮、備件、實(shí)施、服務(wù)管理、渠道管理、技術(shù)管理等模塊,分別承擔(dān)海量服務(wù)接入、服務(wù)工程師調(diào)派、備件倉(cāng)儲(chǔ)調(diào)撥、現(xiàn)場(chǎng)服務(wù)實(shí)施、服務(wù)流程管控、服務(wù)商體系管理以及工程師培養(yǎng)和知識(shí)庫(kù)更新等核心要?jiǎng)?wù)。
目前,浪潮信息服務(wù)整體人員規(guī)模占浪潮信息總?cè)藛T規(guī)模的4%,與業(yè)內(nèi)15%到20%的占比相比,浪潮信息整體服務(wù)人員的ROI處在行業(yè)領(lǐng)先水平。而這背后,是浪潮信息多年來(lái)對(duì)于服務(wù)智能化轉(zhuǎn)型的堅(jiān)持與創(chuàng)新。