本文首次發(fā)布于《企業(yè)家》雜志2024年3月刊
作者：用友iuap數(shù)據(jù)中臺專家 姚春雷
今年兩會期間，“人工智能+”首次被寫入政府工作報告。隨著人工智能在企業(yè)的深化應用，無論是ChatGPT的誕生，還是Sora的橫空出世，大模型在豐富人工智能的應用場景中起到重要作用。當前，企業(yè)對大模型的討論也不再局限于技術本身，而是更加關注大模型可以在哪些場景真正落地？如何通過大模型賦能千行百業(yè)，從而為人類、企業(yè)以及社會的高質量發(fā)展創(chuàng)造價值。
1
企業(yè)應用大模型的難題：
私有化部署
從大模型的能力來看，其具備記憶、推理、邏輯理解、內容生成、代碼生成等多項能力，包括現(xiàn)在多模態(tài)的發(fā)展，所以大模型在很大程度上能完成很多復雜的任務。企業(yè)對于數(shù)據(jù)的安全性要求較高，對于企業(yè)而言私有化部署是企業(yè)在大模型應用時的優(yōu)先選擇。但是私有部署，對于軟硬件設備、技術開發(fā)能力等有很高的要求。
其一，計算資源需求大。大模型的訓推需要大量的計算資源，如高性能計算機、大規(guī)模集群和云計算平臺等。
其二，存儲空間大。大模型參數(shù)越大所需要的數(shù)據(jù)量就越大，這也意味著需要具備先進的數(shù)據(jù)處理和存儲技術。
其三，持續(xù)學習問題。大模型是基于資料自我學習后再把信息進行整合、加工，傳遞給用戶。大模型只有不斷的學習，才能滿足企業(yè)即時搜索的需要。這樣大模型中的數(shù)據(jù)量會越來越大，計算過程越來越復雜，所以對大模型的運算能力和運算時間提出更高要求。
其四，復雜場景的落地成本高。企業(yè)復雜的業(yè)務場景對模型的參數(shù)要求越高，隨之成本越高。
用友企業(yè)服務大模型YonGPT，考慮落地過程中成本高、落地難等問題，對大模型進行了裁剪，也就是模型壓縮。壓縮以后，硬件和軟件方面的成本都可以降到企業(yè)可接受的范圍。這一步完成后，軟硬件的成本解決了，但想讓大模型真正落地，最重要的就是場景。
2
大模型落地企業(yè)
場景的便捷入口：
智能大搜
用友在服務企業(yè)客戶時發(fā)現(xiàn)，大部分企業(yè)尤其是龐大的組織中的非結構化數(shù)據(jù)量是非常大的，尋找文檔、人、圖片、視頻等內容的過程非常復雜。
其一，很難鑒定“搜”和“答”的邊界。比如，我們平時用百度或谷歌搜索，通常是搜索具體的關鍵詞，搜索和問答很難鑒定是因為搜索有時候無形地伴隨著問答。比如“智能大搜是一款什么樣的產品？”這是一個問題，但它也可能是搜索“智能大搜”的關鍵詞，所以我們在搜索中很難鑒定到底是問還是搜。這就要求我們要對整個關鍵詞進行很好的語義理解，把關鍵詞提取出來進行相關的搜索。
其二，海量數(shù)據(jù)需要持續(xù)運營。上面提到大模型需要不斷學習，那就需要把企業(yè)海量的數(shù)據(jù)進行處理，其次是標注、標簽，更重要，還需要知識的運營。比如企業(yè)如何構建知識庫，如何讓知識庫里的知識快速滿足不同角色不同場景下的搜索需要。
用友作為一個大型企業(yè)同樣遇到這些問題。因此用友從2014年開始在解決自身企業(yè)搜索問題的同時，于2023年結合大模型底座YonGPT正式推出了智能大搜，為企業(yè)提供AI大模型驅動的新一代搜索引擎，讓知識賦能業(yè)務和組織。
智能大搜的出現(xiàn)，一方面讓企業(yè)大模型的落地有了便捷的入口；另外企業(yè)對資料的持續(xù)迭代，在大模型的作用下，解決了即時搜索的難題；同時，智能大搜也是企業(yè)大模型在搜索能力上的增強應用，為企業(yè)搜索提升了人性化的體驗，也降低了大模型的落地成本難題。
3
智能大搜應用場景：
智搜、智問、智推
智能大搜的主要目的是解決企業(yè)構建知識庫的問題。通過搜文檔、搜視頻等功能，用友智能大搜能夠迅速定位所需內容，幫助企業(yè)提升知識獲取效率、降低學習成本。
目前國內市場上，智能搜索相關產品非常多，但大多數(shù)產品的核心能力是語言型的搜索能力，YonGPT智能大搜具備多模態(tài)的搜索能力，可以支持文檔搜索、圖片搜索、視頻搜索、圖譜搜索等，同時也可以綁定工作流來根據(jù)需要進行配置；智能大搜是多級門戶的設計，企業(yè)可以通過不同組織、不同角色來定義不同的搜索門戶；智能大搜支持門戶的運營分析。包括有多少文件數(shù)量、文件類型、文件空間、圖片數(shù)量等，包括一級節(jié)點數(shù)、二級節(jié)點數(shù)、搜索關鍵詞排名、用戶排名、命中率排名、失敗率排名等。企業(yè)在大模型管理方面，可以默認使用用友YonGPT，也可以配置文心一言、通義千問、智譜等模型，甚至匹配自己的模型；支持資源庫的創(chuàng)建、修改、編輯等。包括文件批量上傳、單文件的上傳、自動分詞，包括按照分詞處理，按照分詞以外的處理。也包括把分詞部分內容退給GPT，作為GPT的學習入口、數(shù)據(jù)入口，同時也支持PDF、DOC等多種文檔類型。并且用友的智能大搜完全支持私有化部署。
用友智能大搜可以為企業(yè)帶來智搜、智答、智推三方面價值，基于用戶畫像猜用戶所想，推用戶所需，助力企業(yè)內部資源高效應用。
一、智搜：智能大搜基于用友企業(yè)服務大模型YonGPT，提供“沉浸式”搜索新體驗，低成本接入，聚焦企業(yè)各類搜索場景，幫助員工快速、準確獲取所需知識。
具體到某些特定的場景，比如搜索時具備修正詞的能力。諸如法律、金融醫(yī)療行業(yè)通常有大量專業(yè)名詞，信息名稱在輸錯的情況下，能否精準命中，考驗的就是修正詞的能力，所以用友智能大搜構建了修正詞的能力，用戶也可以根據(jù)自己的需求構建自有的修正詞庫，同時還支持一些知識圖譜、資源標注、資源權限的控制能力。
以醫(yī)療行業(yè)為例，比如輸入“復方甘草片”，其中方是方塊的“方”，不是芳草的“芳”。但是如果我們輸入錯了，大模型是不能精準判斷的。但是在大模型底層命中的時候，它會直接替換成正確的詞去查詢，也就是說即使你輸入的詞是錯誤，但依然能查到正確的結果。
經調查發(fā)現(xiàn)，醫(yī)療行業(yè)每人每天上百次查詢的錯誤率高達60%，用了修正詞庫功能后正確率確實提高了很多。
再如權限功能，即支持多級的搜索門戶和權限搭配。大部分搜索引擎中是不會劃分權限的，但一般企業(yè)是非常嚴肅的企業(yè)。比如政府，文件分為公開、機密、保密文件，不同文件需要匹配不同的角色。所以用友智能大搜在搭建搜索門戶時，綁定了有權限的資源庫，進行角色分配，即不同的角色可以訪問相對權限的搜索門戶，不是所有角色都能訪問統(tǒng)一的門戶。
在這種情況下，如果我們給每個門戶分配多個權限非常繁瑣，所以我們把資源和門戶綁定過以后，用戶在搜索時會攜帶用戶信息進入到搜索層，根據(jù)用戶信息來決定你能訪問哪個資源庫的權限，從而解決典型的權限問題，也大大降低了配置的工作量。
以政府搜索門戶為例，普通科員搜索的一般是公開文件，市委書記或者更高層領導一般是能看到保密或機密文件的，在這種情況下智能大搜會自然無感的給你做權限劃分。也就是說你在搜索的時候，普通科員根本搜索不到機密文件，模型也不會把機密文件輸出來。
二、智答：強大的語義理解和分析能力，挖掘企業(yè)沉淀的領域/行業(yè)知識寶藏，提供高質量的多模態(tài)知識問答，降低學習成本，提升工作效率。
智能大搜的一大挑戰(zhàn)是很難解決“搜”和“問”的邊界，所以智能大搜把“搜”和“問”做了模糊處理，可以為用戶提供匹配真實需求的答案
比如我們問“張三是誰？”在正常搜索中一般會搜“張三”兩個字，但這個提問后面多了一個“是誰”，如果我們把這四個字整體作為一個語義理解的時候會比較麻煩，到底是在問張三，還是問后面是誰？如果僅僅問張三，搜索張三的關鍵詞，和張三相關的內容都會出來。但是你要問是誰？更多是要找他的簡歷及關的介紹。所以智能大搜把“搜”和“問”進行了模糊處理，也就是說不管輸入“張三”還是“張三是誰？”，他都能精準的理解用戶的意圖，整個過程不需要用戶自己做特別的界定。
三、智推：基于用戶畫像，猜用戶所想，推用戶所需，助力企業(yè)內部資源高效應用。
智推功能，可以理解為推薦的功能。在整個搜索過程中，智能大搜推薦的是用知識圖譜感知用戶的理解后輸出的內容。比如搜索“微服務宕機了怎么辦？”除了給你推薦解決微服務宕機的解法，還會推薦和微服務宕機相關的其他內容，這就是它的推理能力。
用友智能大搜已經在企業(yè)得到成功應用，比如致力于采購與招標領域深圳市遠東數(shù)智采技術服務有限公司。遠東數(shù)智采基于YonGPT，實現(xiàn)對海量標書進行智能化搜索和快速智能撰寫標書。其中通過用友智能大搜，遠東數(shù)智采構建了新的大模型搜索門戶，為每個用戶提供快速的文檔檢索能力，并且提供問答式的檢索，在日常生活中我們很難定義什么是搜索，什么是問答，新的大模型搜索有效的將這兩塊的界限消除，使得平臺使用者能有效的獲得需要的內容，我們在問答式檢索中同時為用戶提供知識圖譜的能力，問答內容的相關性以及與之有關系的內容也會以圖譜的方式進行呈現(xiàn)。
從實踐來看，單一大模型很難在企業(yè)落地。智能大搜是適合全行業(yè)，企業(yè)全角色的一套工具，讓大模型在企業(yè)的應用中找到了落地點。而且針對不同行業(yè)不同用戶需求，智能大搜還可以支持定制化應用。因此未來智能大搜一定會成為企業(yè)級大模型的前端能力，為大模型在企業(yè)的落地提供了統(tǒng)一的且便捷的入口，通過人工智能+提升企業(yè)新質生產力，實現(xiàn)高質量發(fā)展！
