關(guān)于三諾生物

三諾公司總部大樓

三諾是一家利用生物傳感技術(shù)，針對慢性疾病患者和醫(yī)療健康專業(yè)人員，研發(fā)、生產(chǎn)、銷售一系列快速診斷檢測慢性疾病產(chǎn)品，并提供相關(guān)專業(yè)服務(wù)和糖尿病數(shù)字健康管理的高新技術(shù)企業(yè)；致力于為全球糖尿病及相關(guān)慢性疾病的人們提供創(chuàng)新、優(yōu)質(zhì)的產(chǎn)品和服務(wù)，幫助他們提高生活質(zhì)量。

作為國內(nèi)血糖監(jiān)測領(lǐng)域的領(lǐng)軍企業(yè)，三諾始終將創(chuàng)新作為企業(yè)發(fā)展的核心驅(qū)動(dòng)力。隨著 AI 技術(shù)的興起，三諾敏銳地意識(shí)到 AI 在慢病管理、智能客服等領(lǐng)域的巨大潛力，并成立了專門的 AI 探索小組，積極探索 AI 技術(shù)的應(yīng)用。

面臨挑戰(zhàn)

三諾的 AI 探索小組最初聚焦于 AI 客服場景，希望通過 AI 技術(shù)提升客服效率，降低人力成本，改善用戶體驗(yàn)。然而，在實(shí)際開發(fā)過程中，他們遇到了諸多挑戰(zhàn)：

大模型幻覺問題：大模型輸出不穩(wěn)定，經(jīng)常出現(xiàn) “一本正經(jīng)地胡說八道” 的情況，導(dǎo)致客服質(zhì)量難以保證。 開發(fā)部署復(fù)雜：傳統(tǒng) AI 開發(fā)流程繁瑣，需要編寫大量代碼，配置復(fù)雜環(huán)境，部署和運(yùn)維難度大。 資源成本高昂：AI 模型訓(xùn)練和推理需要大量的計(jì)算資源，傳統(tǒng)模式下資源利用率低，成本居高不下。 團(tuán)隊(duì)協(xié)作困難：AI 探索小組的成員并非都是專業(yè)的算法工程師，傳統(tǒng)開發(fā)模式下，團(tuán)隊(duì)協(xié)作效率低，難以快速迭代。

我們之前的技術(shù)路徑受限于 Langchain 框架，只有具備編程能力的團(tuán)隊(duì)成員才能做，而且在實(shí)際應(yīng)用中我們發(fā)現(xiàn)，大模型直接輸出存在 “幻覺” 現(xiàn)象，因?yàn)樗?jīng)常說一些不著邊際的話，就是一本正經(jīng)地胡說八道，這種 AI 輸出與業(yè)務(wù)需求脫節(jié)的問題，實(shí)際上是當(dāng)前行業(yè)普遍面臨的挑戰(zhàn)。

為什么選擇 Sealos？

Sealos 云操作系統(tǒng)

為了解決上述問題，三諾開始尋找更高效、更便捷的 AI 開發(fā)解決方案。在對比了多種方案后，他們最終選擇了 Sealos。Sealos 之所以能夠脫穎而出，主要得益于以下幾個(gè)方面的優(yōu)勢：

簡化開發(fā)流程：Sealos 提供了云開發(fā)和 Devbox 等工具，極大地簡化了 AI 應(yīng)用的開發(fā)流程。云開發(fā)允許開發(fā)者無需關(guān)心底層基礎(chǔ)設(shè)施，只需編寫業(yè)務(wù)邏輯代碼即可快速部署應(yīng)用。Sealos 團(tuán)隊(duì)的另一款產(chǎn)品 FastGPT 則提供了強(qiáng)大的 AI 編排能力，幫助開發(fā)者輕松構(gòu)建復(fù)雜的 AI 應(yīng)用。 彈性資源調(diào)度：Sealos 基于 Kubernetes 構(gòu)建，具備強(qiáng)大的容器編排和資源調(diào)度能力，可以根據(jù) AI 應(yīng)用的實(shí)際需求自動(dòng)調(diào)整計(jì)算資源，確保應(yīng)用在高峰期也能穩(wěn)定運(yùn)行。 高可用性保障：Sealos 的容器化架構(gòu)和 Kubernetes 的自愈機(jī)制，保證了 AI 應(yīng)用的高可用性。即使出現(xiàn)故障，系統(tǒng)也能自動(dòng)恢復(fù)，最大限度地減少服務(wù)中斷時(shí)間。 與阿里深度合作：Sealos 與阿里云深度合作，底層基礎(chǔ)設(shè)施跑在阿里云上，數(shù)據(jù)安全性和穩(wěn)定性得到了充分保障。

實(shí)施過程

在選擇了 Sealos 之后，三諾的 AI 探索小組迅速開始了 AI 客服的開發(fā)和部署工作，完整技術(shù)路徑可分為兩個(gè)階段：

第一階段：技術(shù)驗(yàn)證

使用 FastGPT 的 UI 界面進(jìn)行內(nèi)部測試，快速驗(yàn)證 AI 客服核心功能 通過可視化編排實(shí)現(xiàn)：用戶問題分類 → 知識(shí)庫檢索 → 大模型核驗(yàn) → 結(jié)構(gòu)化輸出 → 人工抽查的完整流程 重點(diǎn)解決大模型 “幻覺” 問題：大模型只負(fù)責(zé)幕后任務(wù)，最終輸出仍為客服審核過的話術(shù)和圖片視頻素材，杜絕捏造、錯(cuò)誤引導(dǎo)、亂開藥、亂診斷等問題

三諾利用 FastGPT 構(gòu)建的 AI 客服技術(shù)驗(yàn)證流程圖，展示了問題分類、知識(shí)庫檢索到人工審核的步驟

第二階段：生產(chǎn)部署

技術(shù)棧組合

Sealos：采用 Sealos 云操作系統(tǒng)作為基礎(chǔ)平臺(tái) Sealos 云開發(fā)：開發(fā)灰度調(diào)度、消息解析、記憶緩存、異常狀態(tài)監(jiān)測、Ican 平臺(tái) API 接入等定制功能模塊 FastGPT：通過 API 對接三諾 APP 和 CRM 系統(tǒng)，日均服務(wù) 56 千位用戶，處理 23 萬次對話

關(guān)鍵優(yōu)化措施：

在 FastGPT 流程中增加雙重校驗(yàn)機(jī)制： 第一層：基于規(guī)則引擎的關(guān)鍵詞過濾 第二層：人工審核樣本的持續(xù)學(xué)習(xí) 采用 Sealos 彈性伸縮策略，應(yīng)對早晚高峰流量波動(dòng) (峰值 QPS 從 15 提升到 45)

我們現(xiàn)在的技術(shù)棧是 Sealos + 云開發(fā) + FastGPT 的組合，這套方案既能通過 FastGPT 的流程編排降低開發(fā)門檻，又能用云開發(fā)實(shí)現(xiàn)定制化業(yè)務(wù)邏輯。比如最近客服希望 AI 收到的催發(fā)貨的信息能發(fā)到企微，從需求提出到上線只用了 3 天。

三諾 AI 客服采用 Sealos、云開發(fā)與 FastGPT 組合的技術(shù)棧架構(gòu)

效率提升 20%，成本降低 50%

通過使用 Sealos，三諾的 AI 客服開發(fā)取得了顯著成效：

客服效率提升：灰度測試中，AI 客服能夠一次性解決約 20% 的用戶問題，顯著降低了人工客服的工作量。 開發(fā)效率提升：開發(fā)周期從原來的幾天縮短到幾分鐘，實(shí)現(xiàn)了 “一天和一分鐘的區(qū)別”。 資源成本降低：IT 硬件資源成本降低了 50% 以上。 團(tuán)隊(duì)協(xié)作改善：非專業(yè)開發(fā)人員也能參與 AI 應(yīng)用的開發(fā)和維護(hù)，團(tuán)隊(duì)協(xié)作效率大幅提升。

未來展望

三諾計(jì)劃未來將 Sealos 應(yīng)用于更多的 AI 場景，并積極探索更多技術(shù)合作：

GPU 資源需求：Sealos 接下來會(huì)上線獨(dú)立的 GPU 可用區(qū)，以滿足三諾在 AI 模型訓(xùn)練和推理方面的需求。GPU 資源將支持直接運(yùn)行模型、使用 Docker 鏡像部署大語言模型以及微調(diào)訓(xùn)練等多種使用場景。同時(shí)，Sealos 還將提供完善的 GPU 資源管理工具，幫助企業(yè)更好地管理和優(yōu)化 GPU 資源的使用。 異地多中心架構(gòu)：針對數(shù)據(jù)庫異地備份需求，Sealos 團(tuán)隊(duì)將邀請數(shù)據(jù)庫專家與三諾團(tuán)隊(duì)一起進(jìn)行配置。雖然配置過程較為復(fù)雜，但通過持續(xù)增量遷移功能可以實(shí)現(xiàn)異地多中心架構(gòu)，從而提高數(shù)據(jù)容災(zāi)能力和系統(tǒng)高可用性。 拓展 AI 應(yīng)用場景：三諾的終極目標(biāo)是實(shí)現(xiàn) AI 醫(yī)療，計(jì)劃將 AI 做成智能體，從當(dāng)前的客服場景逐步拓展至： 健康管理師角色：協(xié)助進(jìn)行醫(yī)療監(jiān)管工作 醫(yī)生助手角色：輔助醫(yī)生診斷和治療 多渠道覆蓋：包括醫(yī)院、ToB 等不同場景 智能慢病管理：利用 AI 提供智能化的慢病管理服務(wù) 規(guī)?；渴?/strong>：三諾計(jì)劃在本月開啟大規(guī)模試運(yùn)行，重點(diǎn)關(guān)注： 服務(wù)器穩(wěn)定性保障 高峰期資源調(diào)配 用戶規(guī)模擴(kuò)展 (預(yù)計(jì) APP 日活用戶將增長三倍)

總結(jié)

作為醫(yī)療行業(yè)數(shù)字化轉(zhuǎn)型的標(biāo)桿企業(yè)，三諾的智能客服經(jīng)歷了從大模型 “答非所問” 到日均處理 2~3 萬次對話的跨越式發(fā)展，隨著三諾 2 代 CGM 產(chǎn)品上市，未來預(yù)計(jì)日均處理 5~6 萬次對話。

當(dāng)看到客服人員從重復(fù)勞動(dòng)中解放出來，轉(zhuǎn)而處理更有價(jià)值的服務(wù)及慢病溝通時(shí)，我們更加確信：好的技術(shù)方案不該讓企業(yè) “削足適履”，而要讓業(yè)務(wù) “如虎添翼”。

三諾生物使用 Sealos 加速 AI 創(chuàng)新，構(gòu)建慢病健康普惠新路徑

相關(guān)知識(shí)

聚焦健康產(chǎn)業(yè)新增量 三諾生物亮相2024西普會(huì)
三諾生物與平安健康達(dá)成戰(zhàn)略合作，探索慢病健康管理新路徑！
高濟(jì)健康構(gòu)建“15分鐘步行健康生活圈”，讓數(shù)字化創(chuàng)新普惠百姓
盈康生命CMEF首發(fā)AI創(chuàng)新應(yīng)用平臺(tái)，重構(gòu)醫(yī)療服務(wù)新生態(tài)
中國電信巧用AI　構(gòu)建全民健康新生態(tài)
中國電信巧用AI 構(gòu)建全民健康新生態(tài)
聚焦健康產(chǎn)業(yè)新增量，三諾生物率先破局閃耀2024西普會(huì)
聚焦健康新零售，三諾生物閃耀2024西普會(huì)
創(chuàng)新領(lǐng)航：開拓普惠醫(yī)療健康新局面
陽光諾和三季報(bào)：創(chuàng)新藥物研發(fā)加速，如何惠及我們的健康

網(wǎng)址: 三諾生物使用 Sealos 加速 AI 創(chuàng)新，構(gòu)建慢病健康普惠新路徑 http://m.u1s5d6.cn/newsview1331214.html