我們認為， AI Answer 為結合大語言模型（LLM）和信息檢索（IR，Information retrieval）技術的智能信息互動應用。在這個應用中，LLM 負責理解語境并構建查詢，而 IR 技術則依據這些查詢獲取相關數據或文檔。檢索到的結果最終由LLM 生成回應，從而形成一個以模型外部信息為支撐的動態對話過程。

AI Answer檢索的信息可以是企業閉源知識庫、行業知識圖譜、或是互聯網開放信息。相較于傳統知識檢索應用，AI Answer在交互模式、泛化能力及精確度上均有能力躍遷，我們認為通用智能模型在企業端或將率先以AI Answer模式落地，價值增量包括：

??數據價值挖掘：企業端根據企業內部數據與已有知識，自動生成數據洞察與前瞻性的預測分析，提高企業運維效率與知識創新動能。同時用戶端AI Answer通過分析用戶的角色、需求、歷史查詢記錄，自動分配合適的數據訪問權限，推薦個性化檢索路徑與知識生成。

??知識資產沉淀：自動為線上知識文檔生成分類標簽，降低人工信息整理成本。根據用戶使用應用的情況跟蹤企業知識庫變化，自動更新生成內容，確保信息準確性與實時。同時用戶使用AI Answer產生的行為可作為人類反饋，訓練AI Answer在生成內容上進一步對齊應用領域的需求和偏好。

??搜索效率提升：通過精準分析用戶需求，自動剔除重復或冗余的信息，整合高質量知識資產。同時AI Answer應用可作為虛擬助手，在平臺上同步協助員工解決問題、主動提供建議和關聯資料，促進信息獲取的及時性。

以C端檢索范式演進為鑒，我們認為B端 AI賦能內部知識庫重建有望帶來諸多價值增量，滿足企業端提效需求。微軟2月8日發布基于OpenAI大模型的搜索引擎新版Bing（中文名“必應”）[1]，首次推出嵌入搜索引擎的“問答式搜索”功能，搜索界面的問答機器人可以與用戶聊天、協助撰寫文本、匯總全網絡信息并以對話方式響應查詢。

StatCounter數據顯示谷歌的搜索引擎幾乎占據了90%的市場份額，我們認為Bing憑借智能化檢索有望不斷突破市場份額。據 Data.AI 的圖示區間數據，在嵌入了OpenAI大模型能力后，Bing的APP日均下載量在全球范圍內增長了823%，同期對比谷歌搜索應用的下載量僅增長3%。

以Glean為例，大模型賦能的AI Answer重構企業管理軟件。AI技術在企業端的應用場景廣闊，其中知識內容檢索場景知識密度要求較高，需求明確且技術路徑相對成熟。Glean通過打通跨應用數據打造駕于SaaS層之上的“聚合層”，成為企業應用場景的入口級產品。Glean可以結合企業內部知識圖譜、以及上百家第三方SaaS應用中進行信息檢索，為每位用戶的自然語言查詢生成定制化的結果，覆蓋信息查找、復雜功能執行等場景。

目前，Glean只面向企業客戶提供服務，公司推出兩種定價方案，1）按席位收費，每月不超過100美元；2）根據企業的需求定制價格，目前商業模式以第二種為主。此外，在服務模式上，Glean 還提供高水平的安全性和靈活性，可以選擇在本地或云端部署，并且對用戶數據進行加密和權限層級管理。

供給端，模型層技術趨于平權，企業具備閉源數據卡位，商業落地可得性較高。數據層面，與其他B端AI應用相比集成了垂直行業知識的AI Answer應用更易實施落地。

通用人工智能積累了強大的通識能力，但由于其廣泛而非專精的數據結構，其在專業領域的檢索實效性及性價比尚有欠缺。通過擬合垂直領域的數據，AI Answer能理解行業內的專業詞匯、概念和信息，從而在搜索過程中融入垂域要素，更好的理解用戶意圖并產生更準確的搜索結果。

模型層面，B端企業AI Answer場景對于算法模型在知識涌現、數理分析等高階能力需求較弱，對檢索能力和文本生成能力需求較強，技術平權背景下可以通過使用LLAMA、Bloom、ChatGLM等開源模型也可在垂域細分領域達到較優效果。

例如，企業可以使用LangChain將數據庫文檔加載并索引到本地知識庫中，通過嵌入模型對文本進行矢量化，助力快速檢索相關段落，再通過ChatGLM協助用戶基于檢索到的信息和用戶會話歷史生成精準的答案。

需求端，AI Answer助力企業知識圖譜重構，實現內外雙向賦能。

1）企業需要快速準確地獲取和利用特定領域的知識和信息，以提高決策效率和質量。傳統的搜索引擎往往不能滿足企業的個性化需求，而需要一個能夠理解企業商業模式下特定語境和邏輯的智能問答系統。

2）企業需要對自己擁有或者能夠獲取的數據和知識進行有效地組織和管理，以提高數據質量和可用性。傳統的知識庫構建和維護往往需要大量的人力和時間成本，AI Answer能夠助力企業自動化地從各種數據源中抽取、整合、更新和驗證知識。

3）企業需要與客戶、合作伙伴、員工等各方有效地溝通和協作，傳統的人工客服或者機器人往往不能滿足用戶的多樣化和復雜化的問題，AI Answer經過細化調優，能夠靈活地適應不同場景和需求。

LangChain是一個封裝了各種大語言模型應用開發工具的開源Python框架，提供了一套開發大模型的工具、組件和接口。LangChain幫助開發者將大模型和其他知識源/數據庫結合起來，以創建功能更強大的應用程序，包括基于知識庫問答、聊天機器人、智能代理等。該開源Python可被用于整合和管理大模型（如ChatGLM）的輸出，提供了標準的模塊化組件、集成了不同的大語言模型并將其進行整合，并將它們連接到各種外部數據源和API。

通過各種模塊化組件，LangChain框架提供了全方位全流程的優化服務。傳統的大模型無法聯網、無法調用其他API、無法訪問本地文件、對Prompt要求高、生成能力強但內容準確度無法保證，而LangChain則提供了相應模塊，旨在解決這一系列問題。

? Prompt：使用LLM需要用戶輸入需求，LangChain將用戶的輸入傳遞給Prompt Template。一個Prompt通常由Instructions、Context、Input Data和Output Indicator組成，但一般用戶并不會完整地輸入每個部分，使用LangChain的Prompt Template可以很好地根據用戶輸入定義各個部分，同時將Input Data留作動態輸入項。

? Chain：利用該模塊，LangChain可以不單單利用本身的LLM和Prompt Template，而是將原模型鏈接到其他信息源或API，將模塊組合成完整的工作流，拓展LLM應用邊界。

? Agent：如果LLM僅利用Chain模塊，那么模型將按照預設的接口和順序執行工作，而Agent模組可以利用LLM分析應該使用哪個API或者搜索引擎、數據源等工具鏈，并自行決定調用和實現的順序。比如，ChatGPT有很強的生成回答能力，但不夠準確；Wolfram Alpha有很準確的知識儲備，但語義理解能力較差，Agent可以針對ChatGPT的問題，自行判斷是否需要調用Wolfram Alpha，并生成回答。

? Memory：默認情況下，Chain和Agent是無狀態（stateless）的[2]，這意味著它們獨立地處理每個傳入的Query（就像底層的LLM和聊天模型），不具備上文記憶的能力。為了記住先前的交互，LangChain通過每次Prompt加入上文內容和記錄的tricks，在不同的Query間傳遞上文，在前ChatGPT時代就實現了記憶的功能。

案例：YouTube博主Data Independent通過LangChain構建了一個PDF問答機器人。

LangChain憑借PDF Loader的幫助加載上傳的PDF，并使用Splitter分割語句向量，同時盡可能保留原始語義，調用OpenAI的Embedding引擎進行長向量變換并存儲在本地或者Pinecone云向量數據庫，最后用戶只需調用LangChain的QA Chain就可以針對上傳的PDF進行問答。整個過程中，LangChain相當于對每個環節集成，并對整體的交互進行封裝。

LangChain受到廣泛關注和使用，獲得種子輪融資，但商業化任重道遠。2023年4月6日，LangChain宣布獲得由Benchmark領投的1,000萬美元種子輪融資。

截至2023年4月19日，LangChain在Github上已有2.8萬Stars、478位貢獻者，被2,400多名用戶使用。但究其本質，LangChain是“整合其他開源庫的開源庫”，提供開發LLM的框架，以此節省開發人員編寫代碼的時間。而由于開源加之經濟成本不穩定、對輸出沒有評估步驟，客戶目前更偏好直接的模型交付，LangChain商業化仍有待探索。

LangFlow為LangChain開源且無代碼的可視化開發界面，用戶可以通過拖拽模塊和自然語言交互的模式構建應用原型。

Langchain將制作AI應用的工具能力模板化和標準化，而LangFlow 提供了一系列可供選擇的LangChain組件，包括 LLMs、提示模板、代理和鏈等等，用戶可以通過鏈接節點的方式輕松構建和測試產品原型，例如聊天機器人和文本解析助手。LangFlow基于Python開發，同類產品還有基于JavaScript開發的Flowise。

圖表：LangFlow通過簡單鏈接四個模塊即可構建具備記憶且可自定義模板的聊天機器人

大模型：開源模型百花齊放，助力B端高效部署

ChatGLM等開源模型帶來大模型普惠，助力B端部署AI Answer。

企業可以通過Langchain平臺調用部分開源的自然語言處理模型，例如ChatGLM、Bloom與LLAMA模型等，這些開源模型為企業級AI應用的推廣奠定了基礎。其中，ChatGLM是可被集成到LangChain的一款重要開源模型，能夠通過提供自然語言處理能力為企業打造高效的AI Answer應用。

其研發企業智譜AI成立于2019年，源自清華大學計算機系知識工程實驗室。2022年，公司合作研發了支持中英雙語的千億級超大規模預訓練模型GLM-130B，并搭建了高精度通用知識圖譜。

GLM-130B在多個公開評測榜單上超越了GPT-3的性能，支持單張消費級推理并且具備跨平臺跨芯片的快速推理能力。基于GLM-130B模型，公司又開發了6B參數規模的雙語對話模型ChatGLM，可以處理多種自然語言任務（如對話聊天和智能問答），并且支持在單張消費級顯卡上推理使用。目前，GLM-130B和ChatGLM均開源，為企業端客戶提供了更低門檻和更高安全性的應用方案。

向量是多模數據的壓縮，是AI學習的通用數據形式。非結構化數據通常需要向量化之后才能被AI模型所理解，向量嵌入（vector embedding）是自然語言處理和深度學習中常用的數據預處理技術，即將非數值如文本、圖片、視頻等源數據轉化為機器可以理解的多維數值向量。

向量搜索是一種模糊匹配，區別于傳統的關鍵詞索引精準查詢。向量搜索一般采用K近鄰法或近似臨近算法，計算目標對象與數據庫中向量嵌入的距離以表示兩者的相似度，排序后返回最為相似的結果。區別于傳統數據庫的精確索引，向量搜索是一種模糊匹配，輸出的是概率上的最近似答案。

向量數據庫是專門用來存儲和查詢向量的數據庫。向量數據庫即原生面向向量設計的、專門用于存儲、管理、查詢、檢索向量的數據庫。向量化技術已較為成熟，也出現了不少開源的向量搜索算法庫（如Facebook的FAISS），但向量數據庫提供一種開箱即用的解決方案，在數據持久化、實時增刪改、分布式計算、容災備份等方面提供更完整的支持，更適合企業級應用。

向量數據庫幫助拓展LLM時空邊界，是企業知識庫的必備存儲“大腦”。目前向量數據庫的核心應用場景之一便是拓展LLM的時空邊界，賦能企業打造基于專屬知識庫的AI Answer應用。

時間維度上，初始的LLM是基于歷史的通用語料庫訓練的，而實際企業應用場景中需要補充實時的、專業性的知識；空間維度上，LLM的輸入token存在長度限制，因此無法直接將企業知識庫的全量信息作為prompt一次性輸入，僅需最相關的部分。

向量數據庫和LLM的具體交互過程為：用戶首先將企業知識庫的全量信息通過嵌入模型轉化為向量后儲存在向量數據庫中，用戶輸入prompt時，先將其同樣向量化，并在向量數據庫中檢索最為相關的內容，再將檢索到的相關信息和初始prompt一起輸入給LLM模型，以得到最終返回結果。

案例：星環科技Hippo向量數據庫具備多種企業級特性。目前向量數據庫市場參與者以海外初創型公司的開源產品為主，近期一級市場投融資熱度較高。

國內大數據基礎軟件領軍企業星環科技在向量數據庫上已有數年技術積累，之前主要內部自用，今年5月底正式產品化對外發布為Hippo向量數據庫產品，在高可用、高性能、易拓展等方面具備優勢，支持多種向量搜索索引，支持數據分區分片、數據持久化、增量數據攝取、向量標量字段過濾混合查詢等功能，能夠很好地滿足企業針對海量向量數據的高實時性查詢、檢索、召回等場景。

應用場景和未來展望：企業內部知識庫有望重構

知識管理平臺重新整合內部知識，助力B端客戶打造AI Answer應用。我們認為企業知識庫有望成為AI Answer在B端的先行落地形式，目前我們觀察到第四范式、星環科技、云知聲、創新奇智、中科聞歌、鼎捷軟件等廠商均具備了基于企業內部知識打造知識庫的能力。

OA有望成為企業管理軟件領域AI Answer先行落地場景。知識管理是OA的新興模塊，其主要用于企業內部文檔和知識資料的存儲和管理，目前泛微、致遠、藍凌等頭部OA廠商均推出了知識管理類產品（如泛微采知連、致遠知識管理解決方案、藍凌知識管理平臺等），而現階段知識管理模塊主要為知識存儲，并通過簡單的搜索功能實現知識提取，企業應用效率低下。

我們認為AI有望助力知識管理能夠進行全方位升級，通過第三方大模型賦能實現AI Answer，真正將企業知識靈活運用，進一步激勵企業員工充實知識庫并提高其使用效率。

? 泛微網絡：千里聆&采知連&小E助手實現知識的管理和問答。泛微千里聆基于RPA（機器人流程自動化）和NLP（自然語言處理）技術，具備信息采集功能；采知連未知識管理領域專項產品，實現文檔管理、知識倉庫、知識運營；小E智能語音輔助系統能夠實現智能助理、知識問答、數據查詢、業務處理等功能。我們認為未來公司產品有望與大模型實現深度融合，期待大模型融合后的企業協同管理應用推出。

? 致遠互聯：AICOP助力實現“智能協同”。6月12日，致遠互聯發布智能協同應用AICOP的視頻演示，展示了智能協同助手“小致”在預訂會議、準備會議資料、生成報告&文稿&會議紀要、填寫表單、發起流程等場景的賦能應用。

ERP 中 AI Answer落地展望：大模型助力下AI Answer 賦能生產流程管理。與OA相比，ERP與業務和生產聯系更緊密且具有更明顯的行業屬性，在業務運行過程ERP沉淀的行業垂類數據有望助力大模型的訓練。海外微軟的Dynamics 365 Copilot展示了客服、市場、供應鏈管理等場景的AI賦能應用；國內對標來看，用友網絡深耕ERP多年布局二十余個行業并積累了各行業豐富的用戶授權數據，公司計劃后續將通過和通用大模型廠商合作+自研結合的方式進一步訓練企業服務大模型，期待大模型賦能下AI Answer在財務、人力、采購、制造、營銷等領域場景落地。

釘釘有望為中小組織和個人構建“知識圖譜”。2023年6月，釘釘AI正式邀請測試，其展示了AI+文檔、AI+群聊、AI+應用、AI+問答機器人等功能。其中AI+問答機器人能夠接收用戶主動上傳特定的文檔數據，生成特定場景的問答機器人，并作為專業模型實現更有效、準確的AI問答。我們認為這類功能為中小型組織和個人快速構建知識庫，實現知識的沉淀和應用。

WPS、印象筆記等文檔類軟件有望基于用戶端海量文檔實現AI Answer。我們認為WPS、印象筆記等文檔類軟件作為文檔沉淀的平臺，具備天然接入AI大模型的應用條件。如印象筆記的“知識星圖”功能，能夠借助AI語義分析產生知識圖譜和知識網絡，實現信息的高效收集和利用。我們認為文檔類軟件有望在B端和C端幫助用戶更好地基于平臺沉淀的文檔實現AI Answer。

垂類場景：各行業知識應用有望百花齊放

各個細分行業積累的大量知識有望在大模型賦能下實現歸集，賦能千行百業。如醫療行業的衛寧健康、保險行業的新致軟件、教育行業的科大訊飛均憑借過去在垂類行業的深耕，借助大模型實現知識的賦能應用。展望未來，我們期待更多行業能夠在大模型賦能下實現行業知識萃取，各行業知識應用有望百花齊放。

圖表：衛寧健康推出醫療垂類模型WiNGPT賦能問診、報告生成等場景，未來計劃以Copilot形式融入WiNEX

于鐘海 SAC 執證編號：S0080518070011 SFC CE Ref：BOP246

魏鸛霏 SAC 執證編號：S0080523060019 SFC CE Ref：BSX734

王之昊 SAC 執證編號：S0080522050001 SFC CE Ref：BSS168

韓蕊 SAC 執證編號：S0080121080059

胡安琪 SAC 執證編號：S0080122070070

譚哲賢 SAC 執證編號：S0080122070047