首頁 資訊 大語言模型新突破!MSSP刊登北航國新院智能測試與健康管理技術(shù)聯(lián)合實(shí)驗(yàn)室研究團(tuán)隊(duì)成果

大語言模型新突破!MSSP刊登北航國新院智能測試與健康管理技術(shù)聯(lián)合實(shí)驗(yàn)室研究團(tuán)隊(duì)成果

來源:泰然健康網(wǎng) 時(shí)間:2025年08月16日 19:34

(通訊員/宋登巍)近日,Mechanical System and Signal Processing(MSSP)在線發(fā)表刊登了北航PHM團(tuán)隊(duì)最新研究成果:基于大語言模型的軸承故障診斷框架(LLM-based Framework for Bearing Fault Diagnosis)。

圖片

論文原文鏈接:https://doi.org/10.1016/j.ymssp.2024.112127(MSSP期刊)

研究團(tuán)隊(duì)在健康管理大模型領(lǐng)域提出了基于大語言模型的故障診斷框架,有效提升了預(yù)訓(xùn)練大模型對振動數(shù)據(jù)的解析與泛化能力。以軸承為例,他們探索并打通了基于預(yù)訓(xùn)練大語言模型解決泛化故障診斷難題的技術(shù)路線,初步展現(xiàn)了對跨工況、小樣本、跨對象等泛化診斷任務(wù)的綜合解決能力。該成果為業(yè)界學(xué)者應(yīng)對故障診斷領(lǐng)域泛化痛點(diǎn)問題提供了新思路,也是深入開展大模型與健康管理交叉研究并建立健康管理大模型的重要基礎(chǔ)與參考。

北航國新院為第一完成單位,智能測試與健康管理技術(shù)聯(lián)合實(shí)驗(yàn)室主任陶來發(fā)研究員為論文的第一作者,首席科學(xué)家呂琛教授為論文的通訊作者。

健康管理(Prognostics and Health Management,PHM)是避免設(shè)備故障導(dǎo)致人員安全和經(jīng)濟(jì)財(cái)產(chǎn)損失的重要技術(shù)手段,而算法模型泛化性不足等瓶頸問題嚴(yán)重制約著PHM技術(shù)的發(fā)展應(yīng)用。作為健康管理的重要環(huán)節(jié),傳統(tǒng)故障診斷也面臨著跨工況適應(yīng)能力、小樣本學(xué)習(xí)能力和跨對象泛化能力等諸多挑戰(zhàn)。

大語言模型(LLM)通過千億級參數(shù)化的先驗(yàn)知識與深層次的模式識別能力,為提升故障診斷模型的泛化性提供了新的可能性。因此,團(tuán)隊(duì)整合LLM與傳統(tǒng)故障診斷技術(shù)優(yōu)勢,以軸承為例探索并打通基于預(yù)訓(xùn)練大語言模型解決泛化故障診斷難題的可能性和技術(shù)路線,初步展現(xiàn)了對跨工況、小樣本、跨對象等泛化診斷任務(wù)的綜合解決能力。

團(tuán)隊(duì)分別開展了單數(shù)據(jù)集跨工況實(shí)驗(yàn)和全量及少量樣本的跨數(shù)據(jù)集遷移實(shí)驗(yàn),驗(yàn)證所提出框架同時(shí)完成三種泛化故障診斷任務(wù)的能力,證明LLM對輸入的模式和形式具有良好的適應(yīng)性。

為解決泛化診斷難題,論文提出基于LLM的軸承故障診斷框架,創(chuàng)新點(diǎn)主要包括振動數(shù)據(jù)特征的文本化處理和預(yù)訓(xùn)練模型微調(diào)方法。

針對軸承故障診斷中振動數(shù)據(jù)難以挖掘語義信息的問題,基于傳統(tǒng)故障診斷的統(tǒng)計(jì)學(xué)分析框架,提出了一種融合時(shí)域和頻域特征提取的信號特征量化方法,將時(shí)序數(shù)據(jù)進(jìn)行文本化處理,旨在通過精簡的特征選擇高效學(xué)習(xí)小樣本和多工況下的共性特征。

針對LLM在解析振動數(shù)據(jù)特征時(shí)泛化能力不足的問題,該團(tuán)隊(duì)采用基于LoRA和QLoRA的振動數(shù)據(jù)微調(diào)方法,有效利用預(yù)訓(xùn)練模型的深層語義理解能力,提高故障診斷的精確度并增強(qiáng)模型的泛化性能。

針對創(chuàng)新點(diǎn)的實(shí)驗(yàn)驗(yàn)證。通過單數(shù)據(jù)集實(shí)驗(yàn)、單數(shù)據(jù)集跨工況實(shí)驗(yàn)以及全量、少量跨數(shù)據(jù)集實(shí)驗(yàn),該團(tuán)隊(duì)證明了所提出框架同時(shí)具備跨工況、小樣本、跨數(shù)據(jù)集故障診斷能力。

研究團(tuán)隊(duì)采用CWRU、MFPT、JNU、PU四個(gè)軸承故障診斷公開數(shù)據(jù)集,分別針對基于特征的LLM故障診斷和基于數(shù)據(jù)的LLM故障診斷方法進(jìn)行驗(yàn)證。

案例實(shí)驗(yàn)驗(yàn)證了所提出框架在三種泛化任務(wù)上的適應(yīng)性,且經(jīng)過跨數(shù)據(jù)集學(xué)習(xí)的模型同比獲得10%左右的精度提升。

1. 該框架更多地在特征提取和故障模式判別階段將LLM與故障診斷相結(jié)合,未來可充分利用診斷領(lǐng)域知識和大模型架構(gòu)知識,實(shí)現(xiàn)大模型與裝備故障診斷的深度融合。

2. 論文以軸承為例,探索了預(yù)訓(xùn)練LLM解決泛化故障診斷難題新思路。未來可將其作為基礎(chǔ)與參考,特異性設(shè)計(jì)模型結(jié)構(gòu),將框架拓展至其他領(lǐng)域?qū)ο?,如動力、控制系統(tǒng)的電源、功能電路等。

3. 論文以故障診斷為例展示了LLM對傳統(tǒng)健康管理手段的擴(kuò)展能力,未來還可將技術(shù)延拓到預(yù)測、評估等典型健康管理領(lǐng)域,打通PHM開發(fā)方案生成、數(shù)據(jù)生成、能力生成、解決方案生成、驗(yàn)證評價(jià)、方案更新等技術(shù)流程,支撐裝備PHM設(shè)計(jì)、診斷、評估、預(yù)測、決策、推薦、驗(yàn)證、更新等下游任務(wù)。

4. 論文利用LLM的文本處理能力及泛化性能,初步實(shí)現(xiàn)了基于預(yù)訓(xùn)練LLM的泛化故障診斷功能;未來將在此基礎(chǔ)上,構(gòu)建以健康管理領(lǐng)域多模態(tài)信息為基礎(chǔ)、以PHM各種功能需求為主要業(yè)務(wù)、以生成涌現(xiàn)能力為目標(biāo)的垂直領(lǐng)域健康管理大模型,實(shí)現(xiàn)以通用化、判別式、實(shí)戰(zhàn)性為主要特點(diǎn)的健康管理領(lǐng)域新生態(tài)及根本性技術(shù)轉(zhuǎn)變。

(參考 An Outline of Prognostics and Health Management Large Model: Concepts, Paradigms, and Challenges, https://arxiv.org/abs/2407.03374)

(審核:洪冠新 陳龍飛)

編輯:謝雨倩

相關(guān)知識

《經(jīng)濟(jì)參考報(bào)》刊發(fā):通用技術(shù)攜鵬城實(shí)驗(yàn)室 欲破大型企業(yè)員工健康管理“痛點(diǎn)”
攜手鵬城實(shí)驗(yàn)室 通用技術(shù)欲破大型企業(yè)員工健康管理“痛點(diǎn)”
上海交大萬佳雨團(tuán)隊(duì)在Joule等Cell子刊發(fā)表人工智能加速電池研發(fā)最新成果
上海交大研究團(tuán)隊(duì)合作破解腸道菌群結(jié)構(gòu)密碼,人體菌群“蹺蹺板”模型有望成為健康評估新標(biāo)準(zhǔn)
喜訊:杭師大智能健康管理技術(shù)創(chuàng)新團(tuán)隊(duì)驗(yàn)收優(yōu)秀
科研新突破!中國團(tuán)隊(duì)研發(fā)長效鋰離子電池“健康”監(jiān)測技術(shù)
第一!醫(yī)渡科技大模型登頂上海AI實(shí)驗(yàn)室權(quán)威評測榜?5月9日,面向中文醫(yī)療大語言模型的開放評測平臺MedBench更新評測榜單,?醫(yī)渡科技?大模型(評測名:HH
2022年人工智能與主動健康交叉創(chuàng)新實(shí)驗(yàn)室21級本科生招新
課題組在Joule等Cell子刊發(fā)表人工智能與大模型助力電池加速研發(fā)最新成果
GHDDI與微軟研究院科學(xué)智能中心達(dá)成合作,聯(lián)手通過AI 革命性賦能新藥研發(fā)

網(wǎng)址: 大語言模型新突破!MSSP刊登北航國新院智能測試與健康管理技術(shù)聯(lián)合實(shí)驗(yàn)室研究團(tuán)隊(duì)成果 http://m.u1s5d6.cn/newsview1687514.html

推薦資訊