某大型IT服務商旨在為其運營服務提供一個工具,戴文科技利用最新的AI大語言模型,結合豐富的客戶服務經驗、標準、文檔等數據,為其一二級客戶提供更快的服務識別和解決方案,提高整體效率。
為什么選擇 Drupal
文檔和知識都是內容類型,因此,選擇成熟的內容管理系統(CMS)可以大大加快平臺建設的速度。在CMS選型過程中,Drupal因其開源性、安全性和高度可定制性而被選擇作為平臺的CMS。
面臨的挑戰
該項目與網站建設等工作不同,作為一個應用平臺,需要在需求分析、邏輯、技術使用等方面進行周密的規劃。在選擇人工智能大語言模型時,考慮到企業正在快速迭代模型,如何選擇合適的大語言模型也需要深思熟慮。
解決方案
該平臺是根據RAG(檢索參數生成)原理設計和開發的,經過多次討論,我們得出的結論是,單一的多語言模型并不是最佳選擇,我們認為人工智能的未來應該涉及特定領域的小型模型,以提供更好的成本效率。因此,我們將這個平臺定位為多模型平臺。
它支持大型語言模型,例如 ChatGPT for Sass,還允許通過 Ollama 部署私有模型。對于矢量數據庫,我們選擇了Weaviate,從而創建了一個全面的知識庫管理平臺,擁有多個知識庫、模型和文檔庫,可以針對各種場景進行自由配置和管理。此外,我們還計劃與搜索引擎 API 集成,以獲取更多實時信息。
設計
在我們的設計中,我們采用了極簡的UI布局方式,適度使用圖形來點綴某些細節。
此外,我們采用了基于主題的設計方法,保證了UI風格可以在一定程度上快速改變,方便客戶針對不同的服務對象進行定制。
前端開發
Drupal本身已經構建了一套優秀的前端展示方法,大大加快了我們整體前端的開發速度。同時,它也帶來了一定的局限性。雖然這些可以通過各種方法來解決,但是投資成本是必須要考慮的,這也是我們前端開發過程中需要多多溝通的一個細節。
后端開發
人工智能知識管理平臺采用當前最穩定的Drupal V10版本作為底層開發框架,平臺基于Drupal的數據結構建立組織部門管理、用戶角色及權限管理、文件管理等業務系統,并為各部門配置相應的文件讀寫權限,保證部門數據管理的相互獨立性。
為了提供成熟的AI知識獲取體驗,我們實現了Drupal AI模塊,部署了集成的生成式AI應用開發框架,支持文檔信息的組織,并以知識切片的形式存儲相應的內容,用戶可以通過AI對話獲取相關知識,也可以利用內置的大語言模型獲取更全面的數據信息。