北京靈奧科技：幫助企業解決數據問題，打通大模型企業端落地“最后一公里”

中國發展網訊 記者成靜報道 目前，數據問題已成為企業落地大模型的核心挑戰之一。這主要體現在四個方面：首先，模型需要深入理解企業多樣化的業務數據，然而數據的類型繁多、格式雜亂且來源無法統一；其次，業務數據隨著企業運營實時變化，模型需不斷學習不同來源的、持續變化的業務信息；第三，數據隱私和大模型使用的安全合規是企業業務不能觸碰的紅線。企業既要讓模型理解好數據，又需要做到安全合規；最后，數據偏見和公平性問題：不同大語言模型由于訓練數據來源不同，側重點有差異，導致模型會存在偏見。因此，企業需要評估不同模型的能力以及為不同業務場景選擇合適的模型。

作為一家快速成長的初創企業，北京靈奧科技（Vanus）致力于推動生成式AI技術的普及，將大模型優勢和業務數據無縫結合，幫助企業解決數據問題，從而加速企業的商業成功。

“我們提供了幫助構建AI Agent的SaaS平臺。我們堅信，未來AI Agent將成為推動企業業務快速增長的關鍵力量。公司先后推出了Vanus Connect、Vanus AI和VanChat三款SaaS產品，累計服務全球30,000+用戶。目前已經獲得靖亞資本、PNP等機構的多輪融資。”北京靈奧科技CEO 厲啟鵬說。

厲啟鵬介紹說，大模型中間件介于大模型和應用之間，幫助企業解決數據問題，打通大模型企業端落地最后一公里，是企業構建AI應用的必備組件。在神經網絡層，Vanus Connect可以連接企業不同的數據源，實時感知企業業務事件的變化，并推送給神經中樞，然后接收神經中樞的指令去做執行。在神經中樞層，Vanus AI結合知識庫（向量數據庫）和大模型，幫助企業做業務的決策。

同時，大模型中間件Vanus將大模型優勢和企業數據無縫結合，提供Claude 3等多模型選擇，實現商品數據自動同步，包括商品數據自動更新、Shopify數據自動接入等，還可與網站、釘釘、飛書、企業微信等第三方應用無縫集成，助力企業靈活定制機器人，自定義聊天風格、歡迎詞、外感顏色等等。

厲啟鵬舉了一個關于Vanus AI為國內某ERP企業客服人員構建AI Copilot的例子。該企業各部門沉淀大量內部數據，但是跨部門知識共享效率低，需花費大量時間對客服進行培訓。同時，客服人員基于傳統搜索方式獲取知識，響應時間長導致用戶的投訴率較高。“Vanus基于Amazon S3、數據庫等云服務，幫助用戶從文檔、數據庫、SaaS軟件等多個數據源中實時抽取數據，構建統一的企業知識庫；并借助AmazonBedrock等服務，為企業客服人員構建AI Copilot，基于全域業務數據實時推理，為客服人員秒級提供回復建議，大大降低了客服響應時間。現在，客服人員將問題回復時間從分鐘級降至秒級。AI Copilot將客服團隊的人效提高70%，很大程度降低了客服投入的成本。”厲啟鵬說。

另外一個則是VanChat服務南美州某服飾類電商企業的例子。該電商企業擁有兩個Shopify電商獨立站，10000+ SKU?？蛻裘刻煊写罅慨a品、退換貨、物流等問題咨詢，需要很多客服人員，管理成本高。而且客服人員下班后仍然有很多客戶詢問，延時回復不僅導致客戶滿意度下降，還因此錯失了很多商機。Vanus通過基于Amazon Bedrock、Amazon S3等云服務為Shopify電商客戶構建客服類AgentVanChat，為網站購物者提供7*24小時即時問題回復，為企業節省大量人力資源，提高客戶滿意度。此外，通過VanChat提供的用戶意圖識別、產品推薦等功能加速用戶產品購買，提升網站的銷售額。VanChat為該客戶帶來快速的營收增長，僅上線首月ROI高達611%；同時，了解用戶主要關注的產品以及最近常被提及的問題，提供客戶洞察。

“Vanus絕大部分的技術問題在亞馬遜云科技上都能找到答案，找到相關的云產品。這些產品能夠增強性能、提升穩定性，為我們提供強有力的支撐。”厲啟鵬表示。

事實上，Vanus整個平臺都是基于亞馬遜云科技構建的，利用亞馬遜云科技的基礎云服務、大語言模型、數據存儲三類云服務，為企業構建AI Agent平臺，現已服務全球數萬家用戶。亞馬遜云科技為Vanus提供了幾個顯著優勢：

一是彈性可擴展。利用Amazon Elastic KubernetesService（Amazon EKS）基于網絡流量的彈性擴展能力，Vanus AI構建的Agent可以根據用戶業務流量平滑彈性伸縮。幫助企業平均成本降低30%，性價比提高20%。

二是提高系統可用性。通過Amazon DocumentDB原生的3可用區、6副本的設計，提高可用性和可靠性，可以達到不低于99.99%正常運行時間的服務等級協議（SLA）。

三是降低回復延時。借助Amazon Simple Storage Service（Amazon S3）及數據庫高并發數據查詢能力提高大模型上下文加載時間，同時借助亞馬遜云科技全球網絡節點加速能力，整體將Agent回復系統延時降低40%。

四是推理能力強。通過Amazon Bedrock提供的Claude模型，為Vanus平臺的AIAgent提供非常強的語言理解和邏輯推理能力。

談到為何選擇亞馬遜云科技作為合作伙伴，厲啟鵬表示，亞馬遜云科技提供使用簡單、功能強大的云服務，這是合作的基礎。而且，亞馬遜云科技還提供全方位的技術服務，包含技術方案和架構師等，加速Vanus的產品落地。同時，通過亞馬遜云科技合作伙伴網絡（APN）提供全面的推廣資源和支持，加速產品進入市場。

“我認為亞馬遜云科技是最值得信賴的云服務提供商。作為全球最大的一朵云，它有非常強大的運營經驗，能夠幫助我們更好地服務分布在不同區域、不同國家的客戶。同時，它也是我們首選的一朵云，經過了全球最多用戶的打磨，是最安全的云。”厲啟鵬說。