本公開(kāi)涉及醫(yī)療設(shè)備及心理健康管理，尤其涉及一種基于大語(yǔ)言模型驅(qū)動(dòng)的心理健康教練語(yǔ)音模型優(yōu)化方法。

背景技術(shù)：

1、隨著人工智能技術(shù)的不斷進(jìn)步，智能語(yǔ)音助手在健康管理領(lǐng)域的應(yīng)用越來(lái)越廣泛，雖然取得了一定的成果，但仍面臨諸多挑戰(zhàn)。傳統(tǒng)基于規(guī)則或模板的方法在處理復(fù)雜、多變的健康咨詢場(chǎng)景時(shí)顯得力不從心，而現(xiàn)有的基于自然語(yǔ)言處理(nlp)技術(shù)和對(duì)話生成模型的語(yǔ)音助手，雖然在問(wèn)答流暢性和基礎(chǔ)知識(shí)覆蓋上有所進(jìn)步，但在以下幾個(gè)方面存在明顯局限：

2、專業(yè)深度不足：多數(shù)現(xiàn)有系統(tǒng)依賴于通用的語(yǔ)言模型，缺乏針對(duì)心理健康領(lǐng)域的深度學(xué)習(xí)和專業(yè)知識(shí)融合，導(dǎo)致在提供具體健康建議時(shí)往往過(guò)于泛泛，無(wú)法給出精準(zhǔn)、專業(yè)的解答。

3、個(gè)性化缺失：用戶的心理健康狀況、生活習(xí)慣、心理狀態(tài)等個(gè)體差異巨大，但現(xiàn)有語(yǔ)音助手往往采用“一刀切”的回答方式，缺乏根據(jù)用戶個(gè)人情況定制化的心理健康建議。

4、情感交互生硬：在健康咨詢中，用戶的情緒狀態(tài)對(duì)咨詢效果有著重要影響。然而，現(xiàn)有系統(tǒng)往往忽視了情感交流的重要性，回復(fù)缺乏溫度，難以建立用戶信任。

5、因此，亟需一種新型技術(shù)路線，融合心理健康知識(shí)和個(gè)性化特征，提升語(yǔ)音助手在心理健康管理中的綜合能力。

技術(shù)實(shí)現(xiàn)思路

1、為了解決現(xiàn)有技術(shù)的不足，本公開(kāi)實(shí)施例提供了一種基于大語(yǔ)言模型驅(qū)動(dòng)的心理健康教練語(yǔ)音模型優(yōu)化方法，該方法旨在通過(guò)融合健康知識(shí)圖譜、改進(jìn)大語(yǔ)言模型、加強(qiáng)個(gè)性化與情感交互等技術(shù)手段，實(shí)現(xiàn)心理健康咨詢的專業(yè)化、個(gè)性化和情感化，以解決傳統(tǒng)方法專業(yè)深度不足、個(gè)性化缺失以及情感交互生硬等問(wèn)題。

2、本公開(kāi)實(shí)施例提供了一種基于大語(yǔ)言模型驅(qū)動(dòng)的心理健康教練語(yǔ)音模型優(yōu)化方法，包括以下步驟：

3、從多種渠道采集健康知識(shí)數(shù)據(jù)和健康咨詢對(duì)話數(shù)據(jù)，并構(gòu)建多源異構(gòu)數(shù)據(jù)集合；

4、對(duì)所述多源異構(gòu)數(shù)據(jù)集合中的數(shù)據(jù)進(jìn)行預(yù)處理，所述預(yù)處理包括數(shù)據(jù)清洗、標(biāo)注數(shù)據(jù)和統(tǒng)一數(shù)據(jù)格式；

5、基于預(yù)處理后的數(shù)據(jù)，構(gòu)建健康知識(shí)圖譜和處理對(duì)話上下文；

6、設(shè)置改進(jìn)的大語(yǔ)言模型；其中，所述改進(jìn)的大語(yǔ)言模型包括嵌入層、多層遞歸結(jié)構(gòu)、殘差連接和全連接層，它們按照數(shù)據(jù)流的順序依次排列，并通過(guò)特定的方式相互連接；

7、創(chuàng)建知識(shí)問(wèn)答任務(wù)，將健康知識(shí)圖譜嵌入到所述改進(jìn)的大語(yǔ)言模型進(jìn)行健康知識(shí)融合訓(xùn)練；

8、構(gòu)建對(duì)話場(chǎng)景，將對(duì)話上下文與知識(shí)嵌入融合所述改進(jìn)的大模型進(jìn)行對(duì)話訓(xùn)練；

9、確定評(píng)估指標(biāo)，并根據(jù)評(píng)估指標(biāo)的反饋結(jié)果，分析模型存在的不足和問(wèn)題，并進(jìn)行優(yōu)化。

10、一種可以的實(shí)現(xiàn)方式中，其中，所述改進(jìn)的大語(yǔ)言模型中的嵌入層、多層遞歸結(jié)構(gòu)、殘差連接和全連接層通過(guò)如下特定的方式相互連接：

11、所述嵌入層，用于將離散的類別型數(shù)據(jù)轉(zhuǎn)換為低維的連續(xù)向量表示，即嵌入表示，所述類別型數(shù)據(jù)包括單詞和類別標(biāo)簽；

12、所述多層遞歸結(jié)構(gòu)，用于對(duì)所述嵌入層輸出的嵌入表示進(jìn)行遞歸計(jì)算操作，其由多層相同或相似的子層堆疊而成，每層都基于前一層的輸出進(jìn)行遞歸計(jì)算，每層包含以下三個(gè)組件：自注意力處理、切比雪夫特征提取和歸一化操作；

13、所述殘差連接，用于將所述多層遞歸結(jié)構(gòu)每層的輸入與該層的輸出進(jìn)行相加，形成殘差連接；

14、所述全連接層，用于對(duì)所述多層遞歸結(jié)構(gòu)的最后一層的輸出進(jìn)行線性變換，輸出預(yù)測(cè)結(jié)果。

15、一種可以的實(shí)現(xiàn)方式中，其中，所述改進(jìn)的大語(yǔ)言模型的網(wǎng)絡(luò)每一層的權(quán)重由切比雪夫多項(xiàng)式系數(shù)矩陣表示，通過(guò)訓(xùn)練動(dòng)態(tài)調(diào)整，且所述網(wǎng)絡(luò)的核心參數(shù)包括嵌入維度、注意力頭數(shù)、切比雪夫特征提取次數(shù)和切比雪夫多項(xiàng)式階數(shù)。

16、一種可以的實(shí)現(xiàn)方式中，其中，所述方法包括：

17、基于切比雪夫多項(xiàng)式tdegree(x)對(duì)輸入x進(jìn)行展開(kāi)或表示：

18、tdegree(x)＝cos(degree·arccos(x))

19、t0(x)＝1

20、t1(x)＝x

21、tdegree(x)＝2x·tdegree-1(x)-tdegree-2(x)

22、其中，輸入x為健康知識(shí)圖譜或?qū)υ捝舷挛模磺斜妊┓蚨囗?xiàng)式tdegree(x)是一個(gè)degree次多項(xiàng)式，tdegree-1(x)是階數(shù)為degree-1的切比雪夫多項(xiàng)式，tdegree-2(x)是階數(shù)為degree-2的切比雪夫多項(xiàng)式；arccos(x)是反余弦函數(shù)，degree是索引值，用于索引對(duì)應(yīng)的切比雪夫多項(xiàng)式的階數(shù)，從而計(jì)算每個(gè)階數(shù)下的多項(xiàng)式值；

23、輸入x被投影到每個(gè)切比雪夫多項(xiàng)式階數(shù)的系數(shù)chebycoeffs上進(jìn)行前向傳播計(jì)算：

24、

25、其中，cdegree為系數(shù)，tdegree(x)為切比雪夫多項(xiàng)式展開(kāi)項(xiàng)，degree為切比雪夫多項(xiàng)式階數(shù)；ym表示是最終輸出的第m個(gè)特征值，通過(guò)對(duì)每個(gè)輸入特征在不同階數(shù)的切比雪夫多項(xiàng)式上的加權(quán)和，得到輸出的特定維度即輸出的第m個(gè)元素，m是輸出空間中特征的索引，表示當(dāng)前計(jì)算的第m個(gè)輸出特征。

26、一種可以的實(shí)現(xiàn)方式中，其中，健康知識(shí)融合訓(xùn)練過(guò)程中，包括：

27、通過(guò)所述嵌入層將健康知識(shí)圖譜中的實(shí)體和關(guān)系的離散數(shù)據(jù)轉(zhuǎn)換為低維的連續(xù)向量表示，其中，所述健康知識(shí)圖譜由三元組頭實(shí)體、關(guān)系和尾實(shí)體表示，所述向量表示包含了圖譜中實(shí)體和關(guān)系的語(yǔ)義信息；

28、所述嵌入層輸出的所述向量表示被送入所述多層遞歸結(jié)構(gòu)中，進(jìn)行深度的特征提取和序列建模；其中，在每一層中，自注意力處理機(jī)制能夠捕捉到圖譜中實(shí)體和關(guān)系之間的復(fù)雜依賴關(guān)系；切比雪夫特征提取則通過(guò)切比雪夫多項(xiàng)式對(duì)輸入向量進(jìn)行非線性變換，進(jìn)一步提取出圖譜中的特征信息；歸一化操作則確保模型在訓(xùn)練過(guò)程中的穩(wěn)定性；

29、經(jīng)過(guò)所述多層遞歸結(jié)構(gòu)處理后的特征表示被送入所述全連接層，所述全連接層根據(jù)具體的任務(wù)，將特征表示映射到輸出空間，輸出預(yù)測(cè)結(jié)果；

30、并且，使用聯(lián)合損失函數(shù)來(lái)優(yōu)化模型，使改進(jìn)的大語(yǔ)言模型能夠在生成回答時(shí)準(zhǔn)確關(guān)聯(lián)和運(yùn)用相關(guān)知識(shí)。

31、一種可以的實(shí)現(xiàn)方式中，其中，所述健康知識(shí)融合訓(xùn)練采用的聯(lián)合損失函數(shù)，包括實(shí)體分類任務(wù)的損失、關(guān)系分類任務(wù)的損失和混合損失函數(shù)，以加強(qiáng)實(shí)體識(shí)別與關(guān)系推斷能力。

32、一種可以的實(shí)現(xiàn)方式中，其中，對(duì)話訓(xùn)練過(guò)程中，包括：

33、通過(guò)所述嵌入層將文本中的單詞和短語(yǔ)的離散數(shù)據(jù)轉(zhuǎn)換為低維的連續(xù)向量表示，其中，所述向量表示包含了對(duì)話上下文中的語(yǔ)義信息；

34、所述嵌入層輸出的所述向量表示被送入所述多層遞歸結(jié)構(gòu)中，進(jìn)行深度的特征提取和序列建模；其中，在每一層中，自注意力處理機(jī)制能夠捕捉到對(duì)話上下文中的語(yǔ)義依賴關(guān)系；切比雪夫特征提取則通過(guò)切比雪夫多項(xiàng)式對(duì)輸入向量進(jìn)行非線性變換，進(jìn)一步提取出對(duì)話上下文中的關(guān)鍵信息；歸一化操作則確保模型在訓(xùn)練過(guò)程中的穩(wěn)定性；

35、經(jīng)過(guò)所述多層遞歸結(jié)構(gòu)處理后的對(duì)話上下文特征表示被送入所述全連接層，所述全連接層根據(jù)具體的任務(wù)，將特征表示映射到輸出空間，輸出預(yù)測(cè)結(jié)果；

36、并且，使用聯(lián)合損失函數(shù)來(lái)優(yōu)化模型，以提升對(duì)話的流暢性和情感適宜性。

37、一種可以的實(shí)現(xiàn)方式中，其中，對(duì)話訓(xùn)練過(guò)程中，還包括：

38、將對(duì)話上下文嵌入到高維向量空間，上下文中每個(gè)詞通過(guò)所述嵌入層和自注意力機(jī)制處理，上下文向量與知識(shí)嵌入融合后輸入解碼器，所解碼器根據(jù)上下文和目標(biāo)回復(fù)的歷史生成部分，逐詞預(yù)測(cè)目標(biāo)回復(fù)。

39、一種可以的實(shí)現(xiàn)方式中，所述對(duì)話訓(xùn)練采用的聯(lián)合損失函數(shù)，包括對(duì)話生成損失、情感適宜性約束和流暢性約束，以提升對(duì)話的流暢性和情感適宜性。

40、一種可以的實(shí)現(xiàn)方式中，其中，所述確定評(píng)估指標(biāo)，并根據(jù)評(píng)估指標(biāo)的反饋結(jié)果，分析模型存在的不足和問(wèn)題，并進(jìn)行優(yōu)化，包括：

41、根據(jù)評(píng)估指標(biāo)的反饋結(jié)果，對(duì)模型存在的不足和問(wèn)題進(jìn)行分析，并相應(yīng)地增加相關(guān)數(shù)據(jù)的訓(xùn)練量、調(diào)整訓(xùn)練任務(wù)的設(shè)計(jì)或優(yōu)化模型的語(yǔ)言生成部分的參數(shù)。

42、相比于現(xiàn)有技術(shù)，本公開(kāi)實(shí)施例具有以下有益效果：

43、1、提升健康知識(shí)專業(yè)性：通過(guò)融合健康知識(shí)圖譜與改進(jìn)的大語(yǔ)言模型特征提取技術(shù)，本公開(kāi)能夠更深入地理解和運(yùn)用健康知識(shí)，為用戶提供專業(yè)、準(zhǔn)確的心理健康建議。

44、2、增強(qiáng)對(duì)話個(gè)性化：本公開(kāi)在對(duì)話生成過(guò)程中充分考慮了用戶的個(gè)性化特征，通過(guò)優(yōu)化模型參數(shù)和訓(xùn)練任務(wù)設(shè)計(jì)，使得對(duì)話內(nèi)容更加貼近用戶的實(shí)際需求，提高了對(duì)話的針對(duì)性和實(shí)用性。

45、3、提升情感適宜性：通過(guò)引入情感分類器和情感適宜性約束，本公開(kāi)在對(duì)話生成過(guò)程中能夠更好地把握情感因素，使得對(duì)話更加自然、流暢，增強(qiáng)了用戶與語(yǔ)音助手之間的情感聯(lián)系。

46、4、綜合性能提升：經(jīng)過(guò)評(píng)估和優(yōu)化，本公開(kāi)的心理健康教練語(yǔ)音模型在心理健康知識(shí)準(zhǔn)確性、回答相關(guān)性、建議有效性以及對(duì)話流暢與情感適宜性等方面均取得了顯著提升，為用戶提供了更加優(yōu)質(zhì)、全面的健康管理服務(wù)。

47、綜上所述，本公開(kāi)提出的基于大語(yǔ)言模型驅(qū)動(dòng)的心理健康教練語(yǔ)音模型優(yōu)化方法，解決了傳統(tǒng)方法專業(yè)深度不足、個(gè)性化缺失以及情感交互生硬等問(wèn)題，為智能語(yǔ)音助手在心理健康管理領(lǐng)域的應(yīng)用開(kāi)辟了新的道路。

相關(guān)知識(shí)

一種用于失語(yǔ)癥患者康復(fù)訓(xùn)練專用的語(yǔ)音識(shí)別方法與流程
ChatGLM大模型驅(qū)動(dòng)的AI健身教練革新體驗(yàn)
掌握深度學(xué)習(xí)：PyTorch框架下的大型語(yǔ)言模型（LLM）訓(xùn)練實(shí)踐
AI語(yǔ)音交互新維度：心辰Lingo端到端語(yǔ)音大模型的全面能力探索
全國(guó)首家！智能指數(shù)爆棚！基于大語(yǔ)言模型的智能醫(yī)生助理上線啦！
基于融合語(yǔ)音識(shí)別的失語(yǔ)癥患者輔助康復(fù)訓(xùn)練方法及裝置
【神麻人智】使用術(shù)前神經(jīng)心理學(xué)評(píng)估開(kāi)發(fā)腦深部刺激術(shù)后語(yǔ)言流暢性的預(yù)測(cè)模型
大模型語(yǔ)音和 DHS智慧健康 監(jiān)測(cè)等尖端技術(shù)
首個(gè)知識(shí)與數(shù)據(jù)聯(lián)合驅(qū)動(dòng)的多物種生命基礎(chǔ)大模型GeneCompass
階梯式兒童語(yǔ)言康復(fù)模式的構(gòu)建與運(yùn)用

網(wǎng)址: 基于大語(yǔ)言模型驅(qū)動(dòng)的心理健康教練語(yǔ)音模型優(yōu)化方法與流程 http://m.u1s5d6.cn/newsview1369428.html