2023年1月23日 星期一

對話浪潮信息:AI大模型“源”煉造客服大腦


2018年至今,NLP領域經歷了非常大的變化,Transformer、ELMO、BERT、GPT-3,再到最近的ChatGPT(GPT 3.5的微調)的突破,NLP在預訓練大模型的暴力拆解路上越走越遠,這也讓各行業開始相信:很多之前無法做到的場景、效果,現在可以有新的解法和落地。


智能客服,是NLP和深度學習技術落地的重要領域之一。客服可以基於提前設定好的規則,對用戶意圖進行判斷並生成對應的固定話術。文本機器人、外呼機器人,可以替代掉原有重複性比較強的人工動作,逐漸轉變為相對日常的落地場景。比如你日常所接聽到的快遞客服電話,訂單諮詢的對話框等等,背後都有來自客服機器人的驅動。


但在對客服要求比較高的企業級場景中,對多輪對話理解用戶意圖和知識專業度要求高,現有的客服機器人仍有很大提升的空間。



  • 一是系統整體搭建的維護成本比較高,效率比較低,因為大多數的企業級智能客服的知識庫不是流程化的,而是技術知識庫,需要人工/半自動的方式進行搭建。

  • 二是業務場景複雜,專門知識門檻會更高,往往會涉及不同客戶的應用場景,與業務流程相關的複雜場景。

  • 三是持續突破比較難,邊際效益遞減明顯,一般在良好技術知識庫的支撐下,企業級智能客服的起步較快,但受制於方法論的影響,前期需要投入的大量人力、算力和數據,而到一定階段則會陷入提升的瓶頸。


這樣的問題也曾經困擾浪潮信息的客服系統研發人員。


近日,鈦媒體App對話浪潮信息服務總監陳彬、浪潮信息AI軟件研發總監吳韶華,圍繞智能客服市場當前解決的難題,以AI大模型的實際落地應用為視角,進行深入交流。


具體來講,浪潮信息以AI大模型"源"為智能引擎,和InService智能服務平台,搭建出了"智能客服大腦"。


據介紹,"智能客服大腦"學習了2萬餘份產品文檔和用戶手冊的數據,並結合百萬條浪潮信息專家工程師服務對話、數十萬份日誌、工單數據等算法訓練,具備語言理解、數據分析、自主學習和智能推理等能力,支持自然語言交互服務、已授權IT設備的智能運維與診斷、以及備品備件等資源的智能管理和調度。


AI大模型在應用過程中必然會面臨各個行業的應用落地。在此之前,浪潮AI大模型"源"已經在人機交互、知識檢索、語言翻譯、文學創作等領域有所應用。


以大模型作為基礎能力,通過大模型的蒸餾實現相關的小模型,不僅實現的速度更快,智能化水平更高,從技術角度來講,大模型在落地過程中呈現出了與以往模型非常不同的技術特徵,也帶來了更好的智能化水平。不論對大模型進行微調,還是引入領域知識庫的方式,均是業界在探索的路徑。


在浪潮信息AI軟件研發總監吳韶華看來,"大模型想要在某個方向上訓練得更好,智能化水平更高,確實需要在具體落地場景引入額外的領域知識,才能解決實際問題。AI大模型有其自身特點,訓練時使用的數據集主要來自互聯網,在通用知識和領域知識的分佈上存在不均,會影響其在具體行業的應用。"


舉個例子,在浪潮信息服務所面臨的主要客戶問題,包括諮詢和故障報修兩大類:前者如各類的產品服務政策、設備使用、以及複雜的技術諮詢,如技術諮詢方面其實比較常見的是如何做系統安裝、Raid配置等,因為這個過程比較複雜,常出現各種問題;產品諮詢包括購買產品的內存配置、保修時長等等;故障報修相對會比較有針對性、更多元,例如無法開機、硬盤故障、內存故障等等。


在浪潮信息的諮詢客戶中,有80%的用戶為非專業工程師,智能客服需要在準確理解用戶、精準定義問題的基礎上,通過多輪迴答解決技術問題,給予客戶滿意的答案。對於客戶而言,如若智能客服所給予的答案過於標準和冗餘,卻無法快速幫客戶解決具體問題,客服所給予的答案只可被定義為對的答案而不是好的答案。


實際上,浪潮信息從4、5年前就開始進行客服的数字化轉型和探索,並且在2019年開始着手應用業內在探索的FAQ、任務式對話、知識圖譜等NLP領域相關技術,對客服系統進行了一定程度的改造和提升。

如何將貨櫃屋變身活動展場空間?

金誠貨櫃屋設計,結合生活理念、發揮無限的創意及時尚的設計,顛覆以往「貨櫃」給人骯髒、簡陋、四方無聊的印象、打造出獨一無二的展示空間。

什麼是POGOPIN?

POGOPIN是一種應用於手機等電子產品中的精密連接器,廣泛應用於半導體設備中,起連接作用。


專業客製化禮物、贈品設計,辦公用品常見【L夾】搖身一變大受好評!

採用PVC0.2白色軟皮料印製,4色印刷加上表層防刮油墨,另也可選表層上亮膜。

如何利用一般常見的「L型資料夾」達到廣告宣傳效果?

滑鼠墊是滑鼠的好夥伴,可使滑鼠游標穩定滑順,多樣的材質尺寸與專屬設計的圖案, 成為您電腦桌上的亮點!


但當時遇到的瓶頸也十分明顯,主要在於兩方面:"一是企業產品信息更新快,造成模型訓練任務非常大,加之模型知識庫的封閉,在訓練效果上也受到制約;二是機器人需要對上下文結合語境進行語義理解,引導客戶提問並且精準識別問題,在專業知識領域的IT行業,難度非常高。"浪潮信息服務與實施部總監陳彬指出。


除了在大模型的落地中引入領域知識外,浪潮智能客服在研發過程中還重點考慮了其他幾點因素:


第一,客服系統是不是真正地理解客戶,是否能夠通過多次對話了解到客戶真實的服務意圖。企業級場景中,客戶有個報修問題,但無法用專業的技術語言對服務場景進行準確描述時,就非常考驗客服系統的理解能力。


第二,是否需要投入額外和高昂的人力成本讓客服機器人具備自主學習、迭代的能力。讓專業工程師做重複的模型訓練工作,既不符合企業成本要求,也不符合企業建設專家型團隊的長期規劃。


第三,B端客戶對企業的服務體驗、服務口碑要求高,訓練出的客服系統是否能夠讓更多的客戶接受、信任並滿意地使用


相較於傳統的智能客服採用多模型、多數據庫的架構,浪潮信息智能客服系統最終實現統一架構支持多任務解決問題。而此前完成一套客服動作,往往涉及FAQ、任務式知識圖譜、知識檢索等模塊,需要在多個知識庫、模型之間進行任務調度,架構複雜且維護難度比較大。


此外,由於在模型訓練上實現了自進化、快進化學習,而不是原有需要人工或半人工搭建和訓練模型的過程,在人工標註和訓練成本上得到了極大降低。


從浪潮信息數據中心服務的成效來看,在應用智能客服系統后,客戶問答的匹配率(即覆蓋率)達到92%,對常見的複雜問題的解決率目前能達到80%以上,平均解決率是65%左右。此外,服務整體人員規模占浪潮信息總人員規模的4%,而業內一般都佔比15%到20%左右,在整體人均效能上得到了一定提升。


"服務作為一個公司的重要窗口業務部門,也是和客戶交互最緊密的平台。所以我們首先考慮的是怎麼把實際業務和AI算法結合在一起。本身IT的服務場景非常複雜,且面對是更多大量的B類客戶,我們當初也在討論,是否真的需要花這麼大的精力,把傳統的服務場景,做AI的相關技術和算法的落地,在項目初期也是比較有爭議的。"陳彬表示。


但從目前取得的成效來看,當初的投入是值得的。


結合鈦媒體的觀察,客服機器人的背後仍是複雜的AI技術棧作為支撐。涉及語音識別、語義理解和生成、人機交互等等,存在系統搭建成本較高。如AI的邊際成本,模型訓練中對人工標註數據的成本,加之企業多數存在二次開發的定製化要求,導致部署交付成本也難以避免。


企業對技術的投入和成熟與否直接決定了體驗的高低,而如今浪潮AI大模型"源"在智能客服場景的實際落地應用,為業界提供了一種另一種可參考的解決方案。


(本文首發鈦媒體APP 作者 | 楊麗)

https://www.tmtpost.com/6364088.html


塑膠射出成型不良品原因及改善對策 !

隨著技術的不斷提升新觀念、新技術、新設備的不斷加入。



CCD Taping Machine

包裝設計實際上涵蓋了多種設計範疇,需要高度設計專業,以酒為例,酒瓶上的標籤設計是包裝設計的一種,需考量美觀與形塑產品特色提供充足資訊等,至於酒的外盒,提袋等,同樣是包裝設計的範疇,但更必須思考運送、保護、送禮、便利性與價值感等不同層面之問題。



高價位跟低價位的示波器又有何差異?

示波器是一種能夠顯示電壓訊號動態波形的電子測量儀器。它能夠將時變的電壓訊號,轉換為時間域上的曲線,原來不可見的電氣訊號



飲水機設備有哪些?

步步經營服務始終如一於雲嘉南地區,建立優質的飲水機之品牌




Orignal From: 對話浪潮信息:AI大模型"源"煉造客服大腦

沒有留言:

張貼留言