近日，中央網(wǎng)信辦印發(fā)通知，在全國范圍內(nèi)部署開展為期3個月的“清朗·整治AI技術(shù)濫用”專項行動。本次專項行動分兩個階段開展。第一階段強(qiáng)化AI技術(shù)源頭治理，清理整治違規(guī)AI應(yīng)用程序，加強(qiáng)AI生成合成技術(shù)和內(nèi)容標(biāo)識管理，推動網(wǎng)站平臺提升檢測鑒偽能力。第二階段聚焦利用AI技術(shù)制作發(fā)布謠言、不實(shí)信息、色情低俗內(nèi)容，假冒他人、從事網(wǎng)絡(luò)水軍活動等突出問題，集中清理相關(guān)違法不良信息，處置處罰違規(guī)賬號、MCN機(jī)構(gòu)和網(wǎng)站平臺。

　　近年來，AI技術(shù)以其強(qiáng)大的數(shù)據(jù)處理和智能決策能力，為各行各業(yè)帶來了巨大變革，其在提高生產(chǎn)效率、優(yōu)化服務(wù)質(zhì)量，以及推動科研創(chuàng)新、助力社會治理等方面，日益展現(xiàn)出無可比擬的優(yōu)勢。但隨著AI技術(shù)的應(yīng)用滲透到社會生活的各個領(lǐng)域，其濫用風(fēng)險也日益凸顯，若得不到恰當(dāng)規(guī)范，可能會對公民個人隱私權(quán)的保護(hù)、社會的公平和秩序、國家的治理和安全穩(wěn)定等帶來沖擊。為規(guī)范AI技術(shù)的服務(wù)和應(yīng)用，中央網(wǎng)信辦在全國范圍內(nèi)部署開展“清朗·整治AI技術(shù)濫用”專項行動，引導(dǎo)相關(guān)行業(yè)健康有序發(fā)展，保障公民合法權(quán)益。

　　AI技術(shù)濫用的風(fēng)險

　　AI技術(shù)的濫用風(fēng)險包含個人隱私泄露、算法歧視及數(shù)據(jù)安全等。在個人隱私方面，人工智能系統(tǒng)分析的數(shù)據(jù)通常為大量個人信息，在個人數(shù)據(jù)收集和利用環(huán)節(jié)中，如果出現(xiàn)系統(tǒng)漏洞、操作人員疏忽或外部黑客攻擊，就可能導(dǎo)致數(shù)據(jù)被未經(jīng)授權(quán)的人員獲取，從而泄露個人信息，甚至被用于詐騙或其他不法行為。在社會公平方面，AI系統(tǒng)算法設(shè)計和應(yīng)用運(yùn)行過程中，可能存在數(shù)據(jù)偏差、算法偏見和操作人員的故意操縱，進(jìn)而使處于弱勢地位的群體面臨各種不公平待遇，阻礙社會公平與發(fā)展。如某公司曾開發(fā)一款用于自動簡歷篩選和初步面試評分的AI系統(tǒng)，該系統(tǒng)的訓(xùn)練數(shù)據(jù)主要來源于過去幾年的招聘記錄，而該公司過去的員工隊伍中男性占比較高，這使得該AI系統(tǒng)在學(xué)習(xí)過程中強(qiáng)化了這種性別不平衡，導(dǎo)致對女性求職者的評分普遍偏低。此外，安全方面，除數(shù)據(jù)本身可能被攻擊與篡改外，還可能使基于人工智能技術(shù)生成的信息與服務(wù)面臨黑客攻擊，這不僅會導(dǎo)致數(shù)據(jù)丟失甚至系統(tǒng)癱瘓，還可能對國家安全構(gòu)成威脅。

　　除此之外，隨著人工智能技術(shù)的不斷演進(jìn)及應(yīng)用場景拓展，既有的濫用風(fēng)險可能會呈現(xiàn)出新的形態(tài)和特征，而全新的濫用風(fēng)險和問題也將不斷涌現(xiàn)。如AI技術(shù)在社交媒體等領(lǐng)域可能會形成信息的失實(shí)傳播與誤導(dǎo)，AI技術(shù)的深度偽造功能還可被直接用于制造虛假信息，這不僅會對社會輿論造成嚴(yán)重影響，還可能被用于欺詐等犯罪活動。同時，復(fù)雜的惡意算法程序，還可能以更隱蔽的方式進(jìn)行市場操控，從而引發(fā)不公平競爭。

　　治理AI技術(shù)濫用面臨的挑戰(zhàn)

　　目前，AI技術(shù)濫用的風(fēng)險呈現(xiàn)多樣性與多變性，這使得其治理存在諸多挑戰(zhàn)。

　　技術(shù)標(biāo)準(zhǔn)和規(guī)范的科學(xué)性、通用性和可執(zhí)行性仍存在一定難題。一是在法律規(guī)制方面，針對AI技術(shù)規(guī)制的法律法規(guī)還不完善，對算法濫用行為的判定和處罰目前缺乏明晰的定義和依據(jù)，這可能引發(fā)市場分割、逃避監(jiān)管等現(xiàn)象，而跨國界的AI數(shù)據(jù)流動和技術(shù)應(yīng)用則進(jìn)一步帶來了法律適用和管轄權(quán)等棘手問題。二是標(biāo)準(zhǔn)的剛性有待加強(qiáng)。部分企業(yè)和組織因為技術(shù)實(shí)力有限、過分追求利益最大化和成本控制，對技術(shù)標(biāo)準(zhǔn)執(zhí)行不嚴(yán)謹(jǐn)、不嚴(yán)格。三是伴隨著AI技術(shù)的迭代升級，相關(guān)標(biāo)準(zhǔn)往往滯后于其技術(shù)的升級，從而使新的濫用手段、方法層出不窮，容易造成治理被動。

　　監(jiān)管的準(zhǔn)確性和有效性有待提高。一是監(jiān)管機(jī)構(gòu)對AI技術(shù)專業(yè)知識和技能的儲備有限，使得難以準(zhǔn)確識別和有效打擊濫用行為。二是AI技術(shù)濫用行為往往具有跨地域、跨行業(yè)特點(diǎn)，現(xiàn)有監(jiān)管體制在部門間和區(qū)域間的協(xié)同合作上尚存在一些障礙，無法充分提高其監(jiān)管效能。此外，由于AI技術(shù)的復(fù)雜性和隱蔽性，濫用行為往往難以被及時發(fā)現(xiàn)并取證，即使被發(fā)現(xiàn)的濫用行為，也可能因為難以對其合理定性和量刑從而怠于治理。

　　AI技術(shù)在關(guān)乎生命權(quán)、道德決策和社會責(zé)任的應(yīng)用場景中缺少具有普遍性的倫理尺度。例如，自動駕駛的“電車難題”，即當(dāng)發(fā)生不可避免的事故時，自動駕駛汽車究竟應(yīng)該把保障車內(nèi)駕駛員的生命放在首位，還是把保證路上行人的人身安全放在首位？實(shí)際的交通環(huán)境是不可預(yù)估的，在發(fā)生事故時留給自動駕駛系統(tǒng)作決策的時間很少，信息處理需要速度很快。由此可見，要解決“電車難題”不能只停留在理論層面，而是要從技術(shù)和制度層面不斷創(chuàng)新。在教育領(lǐng)域，普及AI教育機(jī)器人雖然為個性化教學(xué)提供了新的可能，但也引發(fā)了關(guān)于教育公平性、人文關(guān)懷等問題的討論。這些倫理道德問題不僅影響AI技術(shù)的社會接受度，也為其治理工作帶來了諸多困擾。

　　AI技術(shù)濫用風(fēng)險的治理路徑

　　AI技術(shù)的濫用不僅是一個技術(shù)問題，還涉及法律、倫理、社會等多個層面，對其治理是一個復(fù)雜而系統(tǒng)的工程，要綜合、全面考量。

　　健全法律法規(guī)。首先，根據(jù)AI技術(shù)的特點(diǎn)和使用場景，制定具體法律法規(guī)，明確規(guī)定AI技術(shù)的使用范圍、條件及禁忌，明確規(guī)定AI系統(tǒng)的安全性及技術(shù)指標(biāo)，明確規(guī)定違法使用應(yīng)承擔(dān)的法律責(zé)任等。同時，對現(xiàn)行的法律法規(guī)進(jìn)行及時修改、完善，確保相關(guān)法律法規(guī)能及時對新出現(xiàn)的AI技術(shù)濫用問題進(jìn)行規(guī)制，以保障監(jiān)管工作有法可依。其次，加強(qiáng)對執(zhí)法人員的培訓(xùn)和教育，提高他們的專業(yè)素養(yǎng)和執(zhí)法能力，做到有法必依。最后，加強(qiáng)國際間相關(guān)領(lǐng)域的交流合作，打造全球統(tǒng)一的AI技術(shù)治理規(guī)則體系，以應(yīng)對各種風(fēng)險挑戰(zhàn)。

　　加強(qiáng)對技術(shù)的監(jiān)督與評估。一方面，建設(shè)規(guī)范的執(zhí)法機(jī)制和監(jiān)督機(jī)制，設(shè)立專門的監(jiān)管機(jī)構(gòu)，承擔(dān)對AI技術(shù)的研發(fā)、應(yīng)用和推廣的整體性、過程性監(jiān)督；另一方面，加強(qiáng)對人工智能系統(tǒng)的安全審查和測試，建立定期安全審查制度，對人工智能系統(tǒng)定期進(jìn)行安全漏洞掃描和風(fēng)險評估，及時發(fā)現(xiàn)問題、修復(fù)漏洞。在此基礎(chǔ)上，進(jìn)一步建立算法設(shè)計和數(shù)據(jù)質(zhì)量評估機(jī)制，要求開發(fā)者提供人工智能算法及其數(shù)據(jù)使用情況的說明，并定期審查系統(tǒng)的運(yùn)行數(shù)據(jù)，確保數(shù)據(jù)透明、準(zhǔn)確、可解釋，以避免出現(xiàn)算法歧視、算法偏見等問題。除此之外，還應(yīng)加強(qiáng)對AI技術(shù)應(yīng)用場景的監(jiān)管和評估，密切關(guān)注AI技術(shù)在各個領(lǐng)域的具體運(yùn)用情況，及時調(diào)整不合理的應(yīng)用。

　　推進(jìn)倫理道德建設(shè)。推進(jìn)倫理道德建設(shè)，既有利于促進(jìn)AI技術(shù)健康發(fā)展，也是維護(hù)社會公平正義的內(nèi)在要求。首先，強(qiáng)化倫理道德的教育和宣傳，提升公眾對AI技術(shù)倫理道德問題的認(rèn)知。其次，形成倫理道德審查機(jī)制。在AI技術(shù)應(yīng)用于實(shí)踐之前，對其應(yīng)用場景、算法設(shè)計等進(jìn)行全覆蓋的倫理道德審查、評估，對可能涉及的倫理道德問題進(jìn)行深入的討論分析，確保其符合社會價值、倫理道德。最后，強(qiáng)化行業(yè)自律和社會監(jiān)督。行業(yè)協(xié)會應(yīng)制定完善的行業(yè)規(guī)范，要求會員單位在研發(fā)和應(yīng)用AI技術(shù)時嚴(yán)格遵守行業(yè)規(guī)范。同時，鼓勵公眾、媒體和其他利益相關(guān)者加大社會監(jiān)督，一旦企業(yè)出現(xiàn)違反倫理道德的情況，要及時對其進(jìn)行糾正。在這一過程中，企業(yè)應(yīng)積極履行社會責(zé)任，在倫理道德上嚴(yán)于律己，建立良好的企業(yè)內(nèi)控制度和企業(yè)道德規(guī)范，確保AI技術(shù)的研發(fā)和應(yīng)用在倫理道德的約束范圍內(nèi)進(jìn)行。

　?。ㄗ髡邌挝唬何靼搽娮涌萍即髮W(xué)馬克思主義學(xué)院）

相關(guān)知識

生成式AI賦能醫(yī)療數(shù)智化應(yīng)用 “AI+醫(yī)療”服務(wù)模式還面臨哪些挑戰(zhàn)？
AI醫(yī)生：發(fā)展現(xiàn)狀、挑戰(zhàn)與未來展望
生物技術(shù)的未來：機(jī)遇、挑戰(zhàn)與中國的領(lǐng)先之路
土壤新污染物探秘：風(fēng)險、機(jī)制與綠色治理路徑
監(jiān)管生成式AI：數(shù)字健康專家委員會討論FDA面臨的挑戰(zhàn)
健康保險行業(yè)數(shù)字化轉(zhuǎn)型的挑戰(zhàn)
Protenus如何利用AI應(yīng)對醫(yī)療挑戰(zhàn)
治療師與保險公司：AI如何終結(jié)心理健康護(hù)理之戰(zhàn)
打造可信AI：產(chǎn)學(xué)研聯(lián)合探索AI安全治理
AI技術(shù)突破，開啟醫(yī)療新紀(jì)元

網(wǎng)址: AI技術(shù)濫用的風(fēng)險、治理面臨的挑戰(zhàn)與路徑 http://m.u1s5d6.cn/newsview1284270.html