首頁資訊評(píng)論

評(píng)論

來源：泰然健康網(wǎng) 時(shí)間：2024年11月25日 08:41

以下文章來源于風(fēng)聲OPINION ，作者趙宏

風(fēng)聲OPINION.

嘗試?yán)斫鈺r(shí)代。鳳凰網(wǎng)評(píng)論部出品。

趙宏

中國政法大學(xué)教授

文章來源：鳳凰網(wǎng)。

發(fā)布時(shí)間：2022年4月2日。

借助健康碼進(jìn)行疫情防控，迄今已成為各地政府的通行做法。

最初健康碼的開發(fā)和適用，是利用大數(shù)據(jù)技術(shù)分析預(yù)測(cè)確診者、疑似者、密切接觸者等重點(diǎn)人群的流動(dòng)情況，但之后逐漸演變成個(gè)人健康風(fēng)險(xiǎn)等級(jí)的行政證明，更是各地政府用以判斷個(gè)人是否能否復(fù)工復(fù)產(chǎn)、以及能否進(jìn)入公共場(chǎng)所的法定憑證。

因?yàn)樵跇O大程度上提升了政府防疫的效率與精準(zhǔn)度，健康碼也獲得大范圍推廣，以至于成為個(gè)人繼身份證、電話號(hào)碼、人臉之后的新型身份標(biāo)識(shí)。

由于成為應(yīng)急狀態(tài)下疫情防控的重要舉措，在推行健康碼適用中，各地政府也不斷對(duì)其擴(kuò)展適用。典型的，例如在今年初很多地方政府都啟動(dòng)健康碼的彈窗設(shè)置，即對(duì)曾在14天內(nèi)到訪過風(fēng)險(xiǎn)區(qū)域、或曾購買過包括退熱藥、止咳藥、抗生素和抗病毒藥品在內(nèi)的四類藥品，或因出現(xiàn)發(fā)熱等十一類癥狀而到診所等基層醫(yī)療機(jī)構(gòu)就診的人員，進(jìn)行彈窗提示。

收到彈窗提示的市民，或者需在規(guī)定時(shí)間例如72小時(shí)內(nèi)進(jìn)行數(shù)次核酸檢測(cè)才能解碼，或者需向所在街道社區(qū)報(bào)備、出示行程碼、簽署承諾書以排除風(fēng)險(xiǎn)，或者必須在無病例的地區(qū)呆足14天后才能重新申請(qǐng)健康碼。

此類的延伸適用，當(dāng)然是為了精準(zhǔn)防控的需要，且?guī)в忻鞔_的事先預(yù)防的目的。但在增加彈窗設(shè)置后，被誤傷的市民也不在少數(shù)。有的市民抱怨自己只是購買了眼藥水、創(chuàng)可貼甚至是孩子的益生菌就被彈窗，有的并未去過風(fēng)險(xiǎn)區(qū)域、僅因?yàn)槭謾C(jī)信號(hào)與確診患者或者密切者存在時(shí)空伴隨就被系統(tǒng)自動(dòng)抓取而彈窗。

被健康碼彈窗誤傷，本質(zhì)上是數(shù)據(jù)治理、算法決策、自動(dòng)化行政這些新興治理方式所引發(fā)的問題的反映。

伴隨智能時(shí)代的到來，人類的有限理性開始逐步讓步于機(jī)器和算法，算法在信息掌握、運(yùn)行速度、處理復(fù)雜問題的能力上，都表現(xiàn)出遠(yuǎn)超于人類的優(yōu)勢(shì)，也因此可以長驅(qū)直入，甚至深度介入公共決策。

但是，當(dāng)我們將傳統(tǒng)治理和行政決策交由算法來完成時(shí)，其引發(fā)的問題同樣不少。算法權(quán)力化所帶來的，不僅僅是公共管理效能的提高，其同樣隱藏了權(quán)力異化、甚至不斷侵蝕個(gè)人權(quán)利的可能。而在技術(shù)理性的光環(huán)加持下，這些危險(xiǎn)被悄然掩蓋。

（圖片來源視覺中國）

算法進(jìn)入公共決策有禁區(qū)嗎？

健康碼的應(yīng)用及彈窗設(shè)置，是典型的算法決策，即由機(jī)器模擬人類思維進(jìn)行自動(dòng)化判斷并做出相關(guān)決策。

最初的算法決策只是審慎地被限定于商業(yè)領(lǐng)域，適用于私主體的商業(yè)交易行為，但應(yīng)用于健康碼并附加上限制出行等處置，是算法深入公共決策的表現(xiàn)。

將權(quán)力行使交托于技術(shù)，當(dāng)然可以提升決策效率和行政監(jiān)管的規(guī)范性，在風(fēng)險(xiǎn)社會(huì)甚至可以提前檢測(cè)、預(yù)警以及研判。但因其能對(duì)個(gè)人產(chǎn)生直接或間接的影響力和控制力，也易出現(xiàn)蠶食甚至侵蝕個(gè)人權(quán)利的可能。

具體到健康碼彈窗。一旦彈窗后，市民出行自由即受限制，因?yàn)閺棿笆掠蛇€涉及買藥和就醫(yī)；同樣被影響的，還有個(gè)人的買藥就醫(yī)權(quán)。在傳統(tǒng)法理中，如果政府采取某種決策手段會(huì)涉及個(gè)人的基本權(quán)利，就必須經(jīng)過法律保留和法律優(yōu)先的檢視，在程序上也需事先征求公眾意見，或獲得相對(duì)人同意。但某項(xiàng)公共決策交由算法，人們會(huì)覺得此處改變的只是決策工具，因此對(duì)其準(zhǔn)入往往不做任何防備，也未設(shè)置任何門檻限制，這就使算法得以暢通無阻地進(jìn)入公共管理領(lǐng)域。技術(shù)，也從公共決策的輔助者，一躍變成決策的作出者。

（圖片來源網(wǎng)易新聞）

歐洲國家最早察覺出這一風(fēng)險(xiǎn)，并對(duì)完全倚賴算法和自動(dòng)化決策而對(duì)個(gè)人做出涉及其重大權(quán)益的決定予以警示。

依據(jù)《歐盟一般數(shù)據(jù)保護(hù)條例》的規(guī)定：“如果某種僅依自動(dòng)化而做出的決策會(huì)對(duì)數(shù)據(jù)主體產(chǎn)生法律效力或?qū)ζ湓斐芍卮笥绊?，則數(shù)據(jù)主體有權(quán)不受上述決策的限制?！边@意味著，如果自動(dòng)化決策根據(jù)的是對(duì)個(gè)人數(shù)據(jù)的分析、會(huì)對(duì)數(shù)據(jù)主體產(chǎn)生重大影響，而決策又完全基于自動(dòng)化處理并無人工干預(yù)的話，自動(dòng)化決策在原則上就要被禁止。

歐盟之所以設(shè)置這種一般性禁止，是因?yàn)闄C(jī)器雖然有無以倫比的計(jì)算能力和深度學(xué)習(xí)能力，卻仍舊無法與人類產(chǎn)生共情，因此在裁斷有關(guān)他人生命自由等重大事項(xiàng)時(shí)，幾乎不能期待其表達(dá)出人類的同情和善意，也不能期待其做出最符合人性道義的處理。

對(duì)此，只要想想那個(gè)“槍口抬高一厘米”的案件即可明了。在柏林墻被推倒，兩德統(tǒng)一后，當(dāng)年守墻的士兵亨里奇被告上法庭，原因在于其曾射殺欲翻越柏林墻的一名東德青年。在法庭上，律師辯護(hù)說，亨里奇作為一名守墻士兵，執(zhí)行命令就是天職。但最終，法官還是對(duì)其進(jìn)行了判決。

在那份被后世不斷傳頌的判決書里，法官這樣寫道，“在這個(gè)世界上，除了法律之外還有良知，當(dāng)法律和良知沖突時(shí)，良知才是最高的行為準(zhǔn)則，而不是法律。作為一個(gè)心智健全的人，當(dāng)你發(fā)現(xiàn)有人翻墻而舉槍瞄準(zhǔn)時(shí)，你有把槍口抬高一厘米的權(quán)利，而這也是每個(gè)人應(yīng)當(dāng)主動(dòng)承擔(dān)的良心義務(wù)！”從此，“槍口抬高一厘米”成了人類良知的代名詞。試想，如果將守墻之事交由機(jī)器或算法來決斷完成，其結(jié)果就只是冰冷的殺戮。

我們無法期待機(jī)器會(huì)對(duì)他人產(chǎn)生憐憫，也無法寄望于算法會(huì)對(duì)弱者法外開恩、網(wǎng)開一面。在算法系統(tǒng)中，個(gè)人只是數(shù)據(jù)對(duì)象，或是處理客體。算法可以習(xí)得人類的決策過程，甚至比人類更精準(zhǔn)和規(guī)范，卻無法獲得人們基于情感和道德而擁有的決策智慧。也因此，但凡涉及個(gè)人重要權(quán)利的事項(xiàng)，要完全交由算法都應(yīng)該盡可能的審慎。

因?yàn)樵谌詣?dòng)化決策下，機(jī)器和算法只是根據(jù)過往的數(shù)據(jù)進(jìn)行分析、建模、測(cè)試和運(yùn)行，并根據(jù)過去的關(guān)聯(lián)性統(tǒng)計(jì)和運(yùn)算行為自動(dòng)得出結(jié)論。在此過程中，面向未來的因果判斷以及基于個(gè)案的價(jià)值權(quán)衡被排除，個(gè)案差異所要求的平等權(quán)保護(hù)和情勢(shì)復(fù)雜所要求的核查義務(wù)也可能被忽略。

也因?yàn)樗惴ù嬖谶@樣的重大缺陷，對(duì)其進(jìn)入公共決策就應(yīng)設(shè)立禁區(qū)。典型的，如刑事司法審判和量刑就絕不能完全交由算法來完成，而那些攸關(guān)個(gè)人基本權(quán)利的公共決策也應(yīng)審慎地訴諸算法，即使交由算法來輔助完成，也絕不能排除人工介入的可能。

算法設(shè)計(jì)了哪些個(gè)人權(quán)利

除未設(shè)立禁區(qū)就將公共決策權(quán)讓渡外之外，算法所帶來的另一問題，還在于行政正當(dāng)程序的架空和個(gè)人權(quán)利的克減。

在傳統(tǒng)行政學(xué)理中，我們要求行政在做出決定時(shí)都必須謹(jǐn)守正當(dāng)法律程序，這里尤其包括事先告知、在做出影響當(dāng)事人權(quán)利義務(wù)的決定時(shí)允許其進(jìn)行申辯陳述，為其提供程序參與和表達(dá)自己意見的機(jī)會(huì)。這些正當(dāng)程序是行政做出決策時(shí)必須履行的義務(wù)，傳統(tǒng)法治則通過公權(quán)機(jī)關(guān)以程序義務(wù)來確保行政實(shí)體結(jié)果的正當(dāng)。

但算法決策和自動(dòng)化行政的運(yùn)行步驟，是將所有信息與內(nèi)容雜糅進(jìn)既定的算法之中得出相應(yīng)結(jié)果，其結(jié)果也在系統(tǒng)內(nèi)瞬間完成，此時(shí)已無法再分離出活動(dòng)的程序、步驟和方法。這就使傳統(tǒng)的正當(dāng)程序控制，在面對(duì)算法決策時(shí)顯著失靈。

在健康碼彈窗中，算法僅根據(jù)個(gè)人的行蹤軌跡就判定出個(gè)人的感染風(fēng)險(xiǎn)，并由此進(jìn)行彈窗的預(yù)防性控制；在此過程中，行政法所要求的事先告知、聽取意見、陳述申辯等步驟全部被略去。

伴隨正當(dāng)程序原則被架空的，是個(gè)人權(quán)利的縮減。在健康碼最初設(shè)置彈窗時(shí)，因涉及人群是政策頒布前14日內(nèi)購買退熱、止咳、抗感染、治療咽干咽痛四類藥品人員，因此未經(jīng)提示即出現(xiàn)彈窗的情況比比皆是。又因?yàn)楹罄m(xù)處理不到位，市民去做核酸檢測(cè)時(shí)，又被告知健康碼因有彈窗而無法做核酸。于是，在新政頒布后，就出現(xiàn)大量諸如“市民健康報(bào)出現(xiàn)彈窗，想解碼卻陷入死循環(huán)”的現(xiàn)象。而出現(xiàn)這種現(xiàn)象的原因又在于，這種彈窗設(shè)置根本不符合行政法所要求的，行政機(jī)關(guān)在做出處理決定前，必須提前告知當(dāng)事人事實(shí)理由的程序要求。

在健康碼彈窗設(shè)置中被縮減的，還有當(dāng)事人的程序參與權(quán)和知情權(quán)。彈窗設(shè)定最典型的一類，是“近期購買過四類藥品的”。所謂“四類藥品”，又指退熱藥、止咳藥、抗生素和抗病毒藥品。為配合上述防疫要求，各地藥監(jiān)部門還紛紛下發(fā)四類藥品參考目錄，要求藥店根據(jù)實(shí)際經(jīng)營品種情況，建立四類藥品的店內(nèi)銷售清單。但是，這些藥品參考目錄幾乎鮮少向公眾公告，在很多藥監(jiān)局的官網(wǎng)上也無從查詢。

既然算法是依據(jù)藥品參考目錄做出彈窗提示，在行政法上就可被類比為行政做出裁量決定時(shí)必須參考的基準(zhǔn)，如果悖離該基準(zhǔn)，就需提供充分的理由說明。也因此，《行政處罰法》第34條規(guī)定，“行政裁量基準(zhǔn)應(yīng)當(dāng)向社會(huì)公布”。因?yàn)槲聪蚬姽?，也未征求公眾意見，藥監(jiān)部門在設(shè)定基準(zhǔn)時(shí)，未達(dá)到更好的風(fēng)險(xiǎn)預(yù)防效果，會(huì)傾向于將大量藥品列入清單并附加彈窗效果。如此處理的結(jié)果，是公眾在疫情期間的就醫(yī)買藥權(quán)受到更嚴(yán)苛的限制。

被排除的，還有公眾的申辯權(quán)。在健康碼出現(xiàn)彈窗后，信息提示寫的都是“如有疑問或異議，請(qǐng)致電市民服務(wù)熱線或點(diǎn)擊‘我有疑問’留言”。結(jié)果是，市民服務(wù)熱線因撥打人數(shù)過多而基本無法接通。又因?yàn)樗惴Q策屬于模塊化處理，即使個(gè)人提出異議，也幾乎很難再啟動(dòng)人工調(diào)查。人工介入的請(qǐng)求權(quán)，在此同樣被排除。這一點(diǎn)同樣有?！秱€(gè)人信息保護(hù)法》第24條的規(guī)定：“通過自動(dòng)化決策方式做出對(duì)個(gè)人權(quán)益有重大影響的決定，個(gè)人有權(quán)要求個(gè)人信息處理者予以說明，并有權(quán)拒絕個(gè)人信息處理者通過自動(dòng)化決策的方式做出決定”。

公眾難以行使的，還有救濟(jì)權(quán)。按照行政法的傳統(tǒng)學(xué)理，對(duì)其權(quán)利產(chǎn)生影響的決定，個(gè)人有權(quán)申請(qǐng)復(fù)議提起訴訟。我身邊的很多朋友在毫無緣由就遭遇健康碼彈窗時(shí)，也總會(huì)第一時(shí)間想到起訴。但真要行使此項(xiàng)權(quán)利，就會(huì)發(fā)現(xiàn)又面臨被告無法辨識(shí)的困難。

我國健康碼，無一例外都是由各地政府主導(dǎo)、企業(yè)研發(fā)的產(chǎn)物，屬于典型的公私合作類型。而健康碼的生成涉及信息的收集、算法的設(shè)計(jì)、標(biāo)準(zhǔn)的制定以及最終的評(píng)價(jià)賦值，彈窗究竟是由哪個(gè)環(huán)節(jié)造成，當(dāng)事人幾乎無從判斷，這給法律救濟(jì)帶來極大困難。這一點(diǎn)反映的，同樣是因?yàn)榧夹g(shù)的壟斷所導(dǎo)致的個(gè)人反制能力的弱化。因?yàn)闊o法理解運(yùn)算過程，個(gè)人不僅無法再有效參與，甚至不可能對(duì)不利決定發(fā)起挑戰(zhàn)。

個(gè)人隱私的泄露風(fēng)險(xiǎn)

算法建立在對(duì)個(gè)人信息廣泛收集的基礎(chǔ)上，而被作為健康碼基礎(chǔ)數(shù)據(jù)庫的，又包括重點(diǎn)人群管控庫、全國密切接觸者信息庫、重點(diǎn)區(qū)域分類庫、全國健康碼共享庫等即時(shí)數(shù)據(jù)庫和查詢?nèi)丝诰C合庫、電子證照庫、信用信息庫、地理信息庫等；涉及的數(shù)據(jù)類型，除政府?dāng)?shù)據(jù)庫中的個(gè)人數(shù)據(jù)外，還有手機(jī)運(yùn)營商的用戶數(shù)據(jù)及個(gè)人在其他平臺(tái)中的相關(guān)數(shù)據(jù)。

正是在此基礎(chǔ)上，健康碼借助空間、時(shí)間和人際關(guān)系的維度，對(duì)個(gè)人健康狀況和感染風(fēng)險(xiǎn)進(jìn)行評(píng)測(cè)。因?yàn)獒槍?duì)的是應(yīng)急狀態(tài)下為防堵疫情傳播的需要，健康碼最初在信息收集上幾無任何阻力，在收集上也表現(xiàn)出全員收集、實(shí)時(shí)收集、事無巨細(xì)甚至是長期保存的特征，這些其實(shí)給個(gè)人隱私的泄露帶來風(fēng)險(xiǎn)。

尤其是作為健康碼基礎(chǔ)的數(shù)據(jù)，都是涉及個(gè)人的健康狀況、生物識(shí)別、行蹤軌跡等在內(nèi)的敏感個(gè)人信息，其一旦被泄露或非法使用，就很容易導(dǎo)致個(gè)人人身財(cái)產(chǎn)權(quán)受到危害，人格尊嚴(yán)受到侵蝕，甚至于未來遭遇歧視性對(duì)待。

從最初啟用到后期開發(fā)，伴隨數(shù)據(jù)抗疫的深度擴(kuò)展，個(gè)人已經(jīng)感受到隱私空間的限縮，因?yàn)槌鋈肴魏螆?chǎng)所幾乎都要刷碼，個(gè)人在離家后的行蹤軌跡也被巨細(xì)靡遺地予以描摹和記錄。值得一提的是，人腦作為記憶載體可能會(huì)伴隨時(shí)間經(jīng)過而遺忘，但龐大的數(shù)據(jù)庫會(huì)將你所有的信息記得清清楚楚，不加干預(yù)就永遠(yuǎn)不會(huì)遺忘。

由此，那些可能無涉公共利益的個(gè)人敏感信息，如果在疫情結(jié)束后還會(huì)被機(jī)器留存，就有可能隨時(shí)轉(zhuǎn)變?yōu)閿?shù)字時(shí)代的“紅字”。也因此，在適用算法進(jìn)行公共決策時(shí)，時(shí)刻注意對(duì)個(gè)人信息權(quán)的保護(hù)，絕不能以徹底犧牲個(gè)人信息權(quán)進(jìn)行數(shù)據(jù)治理同樣是現(xiàn)階段必須重視的問題。

只有人才是真正的主體

2020年，曾有篇全網(wǎng)刷屏的文章，描述了算法如何將外賣騎手困在系統(tǒng)里。在文中，作者感慨“騎手們永遠(yuǎn)無法靠個(gè)人力量去對(duì)抗系統(tǒng)分配的時(shí)間”，在算法的強(qiáng)大壓制下，“送外賣變成了和死神賽跑，和交警較勁，和紅燈做朋友”。

算法和機(jī)器的適用，最終都是為了改進(jìn)我們的生活，提升治理的水平，而絕不是使個(gè)人被貶低和物化，甚至被技術(shù)操控。

自上世紀(jì)開始，就有很多影視作品反映人類創(chuàng)造機(jī)器，卻最終被機(jī)器所控制、俘獲和毀滅。算法的應(yīng)用，對(duì)于機(jī)器而言是更大程度上的賦能，也因此我們需再度警惕其可能產(chǎn)生的各種危機(jī)。

說到底，只有人才是真正的主體。

原標(biāo)題：《評(píng)論| 趙宏：健康碼彈窗——算法是否過度“決策”了我們的生活？》

閱讀原文

網(wǎng)址: 評(píng)論 http://m.u1s5d6.cn/newsview77126.html