隨著大型語言模型（LLM）技術的快速發展，越來越多的企業開始探索如何將這一強大的工具集成到他們的應用程式中。本文提供了一個基於LLM構建應用程式的詳細設計指南，以智慧客服系統為例，為產品經理或項目經理提供了一個全面的框架，從需求確立到技術選型，每一步都至關重要。瞭解如何有效地利用LLM的能力，不僅能夠提升產品的智能水準，還能為企業帶來顯著的效率和成本優勢。

在前2節中，我們介紹了LLM的基本原理，以及如何在企業的真實業務中，應用LLM（大語言模型）。

大語言模型：LLM的基本原理解讀

大語言模型：LLM如何應用到實際的業務中

今天我們來詳細介紹一下：基於LLM構建應用程式：設計指南。本文將以“智慧客服”系統為例來進行說明，主要的閱讀對象為產品或項目經理。整個設計指南，遵循以下流程：

一、 

一、確立需求

第一步要先明確需求，即目前業務中的痛點，並且這個痛點是可以通過LLM的能力，來得到有效的改善。

建議使用以下“需求評估模版”，來綜合性的分析需求。在分析需求的過程中，要重點評估ROI。畢竟LLM的實施，不管是調用第三方介面，還是部署開源LLM，都會有不小的成本支出。

—-需求評估模版—-

場景：什麼角色，在哪裡，執行什麼任務

需求：遇到什麼問題？具體的影響是什麼？需求強度如何？

解決方案：借助LLM的什麼能力來解決？（文本補全、知識檢索、意圖識別、情感分析、多輪對話、創意生成、數據分析等等）

成本投入：所需花費成本（伺服器資源、人力資源、資金成本，等等）

產品收益：短期收益：例如，為客服團隊，節省了xx小時/天/人；長期收益：提升客戶滿意度、產品續費率等等；

投入產出比（ROI）：短期ROI評估：每天節省xxx成本；長期ROI評估：提高續約率，品牌知名度等等；

清晰明瞭的需求分析，不僅有利於向上資源申請，也有助於向下的需求溝通。

有的時候，得不到上下協作的支援，並不是因為他們反對你，而是他們缺少決策支撐。

二、市場調研競品分析

市場調研和競品分析，是最容易被忽略的環節，但是這個環節卻相當的重要。如果不進行市場調研和競品分析，僅局限於自身業務的個人化，而陷入具體的問題解決中，則會導致系統設計與整個市場脫節，在後續的反覆運算中以及對外賦能時遇到更大問題。

下文將以“智慧客服系統”來舉例。為了確保智慧客服系統的持續競爭力，深入的市場調研和競品分析必不可少。對於競品分析，可以聚焦以下幾個方面：

• 回答的準確性與豐富度：對比不同智慧客服的回答是否準確且情感化。
• 回應速度與多輪對話能力：評估競品的回應效率與多輪對話流暢度。
• 自定義業務知識庫的支持情況：查看競品是否支援特定業務場景的知識庫，以及定製的難易度。
• 用戶介面與交互設計：智慧客服的易用性和介面設計對用戶體驗有重要影響，可借鑒競品在介面設計上的優點。

通過調研了解市場主流趨勢和競品優劣勢，有助於為我們智慧客服的功能和流程設計提供重要的參考依據。

三、業務流程設計

通過前2個環節的梳理，我們基本上已經能夠確定，整個業務的行業通用流程，以及自身業務的個人化訴求。

在業務流程設計的過程中，一方面需要考慮疏通現有業務的阻塞點，另一方面還需要考慮未來的業務擴展性，以及產品的更長遠規劃（比如，由內部孵化到外部商業化輸出等）。

進行業務流程設計過程時，可以將行業內通用的流程，作為主業務流程，將自身業務的個人化訴求拆解到子流程中，這樣一方面確保自身的業務訴求得到解決，另一方面確保未來的可擴充性。

智慧客服的業務流程設計要充分考慮到實際客戶服務的業務邏輯。主流程如下：

• 意圖識別：通過LLM強大的自然語言理解能力來快速判斷用戶意圖。
• 問題分類：根據問題意圖將問題劃分給不同的模組，並自動觸發知識庫查詢等操作。
• 任務分派：將不同的任務分配到不同的任務處理智慧體流程中；
• 多輪對話管理：通過上下文關聯和指令工程實現對多輪對話的精準回應。
• 升級和轉接機制：針對LLM無法處理的複雜或特殊問題，智慧客服應具備及時轉接至人工服務的功能，保障用戶問題的全面解決。

業務流程的合理設計可以讓任務實例在遇到不確定性或理解難點時，能有效調用備選方案或進入備用流程，最大程度地提升系統的穩定性和用戶體驗。

四、確定核心功能

通過以上環節的梳理，基本上可以確定系統的核心能力，接著還需要將其細化為具體的核心功能，這將構成未來系統反覆運算的藍圖。

以智慧客服為例，對於智慧客服，核心功能通常包括：

• 知識庫構建：包括QA文件庫、情緒詞庫、專業知識文檔、以及API介面庫等，維護好這些知識，便於LLM的學習和調用；
• 智慧問答：支援基於知識庫的快速回答、模糊匹配、模版回復等。
• 情感識別與回應：利用LLM生成符合使用者情感的答案，以更具人性化的方式溝通。
• 多輪對話能力：在多輪對話中追蹤上下文，確保使用者的複雜需求得以滿足。
• 智慧轉接：當LLM未能準確識別使用者需求時，將對話無縫轉接至人工客服。
• 自學習與優化：定期基於使用者交互數據優化模型，讓智慧客服持續成長，適應業務變化。

確定核心功能后，我們可以根據優先級合理分配開發資源，以確保在有限的時間和預算內實現商業價值最大化。

五、產品流程設計

產品流程設計環節涉及如何讓用戶順暢地使用智慧客服的每一個功能，並確保對話流程的高效和準確性。產品流程節點包括：

1. 歡迎語和起始引導：為使用者提供簡潔友好的對話開場詞，引導使用者更好地使用智慧客服。
2. 主任務流程：設計各類問題的基本應答流程和備選流程，涵蓋用戶的常見需求和意外問題。
3. 錯誤處理流程：當智慧客服識別錯誤或理解不準確時，設計柔性引導流程，避免使用者流失。
4. 終止對話與用戶反饋：引導對話結束並收集用戶反饋，以評估客服效果和用戶滿意度。

有效的流程設計不僅讓用戶體驗更為流暢，也能夠提升客服系統的服務水準。

六、  UI交互設計

UI設計直接影響使用者的操作感受，因此UI介面和交互設計必須簡潔、直觀且貼合使用者需求。

以下為關鍵點：

• 對話介面設計：提供簡潔的對話框，突出聊天內容與選項，減少視覺干擾。
• 按鈕與操作提示：通過適當的按鈕設計，引導使用者快速選擇和進入不同服務流程。
• 輸入交互：支援文字和語音輸出，提高輸入效率，讓整個交互更流程。
• 多輪對話切換：為每輪對話提供清晰的上下文指示，讓用戶始終知道當前對話的狀態。
• 即時反饋與情感化設計：通過動畫和表情元素，讓使用者感到智慧客服的溫暖和親切。

UI設計和交互設計的核心在於提供一致、清晰的用戶體驗，讓使用者無需培訓即可輕鬆上手並持續使用。

七、  參與技術選型與研發

在完成設計工作后，作為產品和設計人員，同時也需要深度參與到技術的選型和研發中。

參與到技術中去，一方面，有助於我們瞭解更多的技術原理和特性，另一方面我們能夠站在業務和產品的角度一起來評估技術的可行性，同時也方便後續的測試驗收，以及未來要是出了問題，我們能夠快速預判故障，提高解決問題的效率。

例如：在完成智慧客服的需求評審后，參與到技術評審中（選型與研發），瞭解到其他研發團隊已經私有化部署了Llama大模型，且算力充足，但是對模型效果上不確定是否可以滿足，此時產品人員可介入與業務人員一起來作用例評估。

最後，項目經理需要注意，技術選型時要注意平衡功能需求、性能需求與開發成本，確保專案在實際應用中穩定運行。

以上，便是一個真實的基於LLM的應用程式的設計過程。其中LLM作為核心引擎，知識庫作為LLM的服務升級燃料，不斷的優化業務流程和系統能力，使LLM能夠發揮出更大的作用。