（圖片來(lái)源：攝圖網(wǎng)）

作者|朱悅 來(lái)源|騰云(ID：tenyun700)

新冠疫情的全球感染人數(shù)已經(jīng)突破二百萬(wàn)。

世界各國(guó)已經(jīng)意識(shí)到，要想戰(zhàn)勝病毒，在研發(fā)疫苗、提升核酸檢測(cè)數(shù)量之外，還必須讓“追蹤病毒”的速度超過(guò)“病毒傳播”的速度。

于是，基于接觸者追蹤等技術(shù)，世界各國(guó)開(kāi)發(fā)出了不同模式的“健康碼”，希望在第一時(shí)間獲取感染者與接觸者信息。

對(duì)隱私問(wèn)題等倫理問(wèn)題的擔(dān)憂(yōu)也隨之而來(lái)，政府、媒體和公眾紛紛展開(kāi)討論。新冠疫情或重塑數(shù)字時(shí)代下人們的隱私觀(guān)念。

對(duì)健康碼的討論具有建設(shè)性，它可能會(huì)影響未來(lái)的制度建設(shè)。問(wèn)題是，我們?cè)搹暮翁幷勂穑?/p>

健康碼已在全國(guó)鋪開(kāi)。一手綠碼，通行爽利；一屏紅碼，隔離走起。

隨著疫情的全球性流行，世界各國(guó)也紛紛研發(fā)自己的“健康碼”，各方也頻繁的就倫理隱憂(yōu)發(fā)聲。

在算法治理“遠(yuǎn)帆將來(lái)”的時(shí)刻，對(duì)健康碼的研究，還可能成為未來(lái)制度建設(shè)的先聲。在這期間，倫理問(wèn)題尤其重要。

當(dāng)我們討論健康碼的倫理問(wèn)題的時(shí)候，我們究竟在討論什么？如果將健康碼的原理拆成三步去理解，或許可以全面展示該議題的關(guān)鍵所在——

第一步，健康碼需要收集許多個(gè)人信息，這些信息需要得到充分的保護(hù)；

第二步，算法處理這些信息，將個(gè)體分類(lèi)為“紅”、“黃”、“綠”等類(lèi)別，過(guò)程中的算法倫理不容忽視；

第三步，根據(jù)分類(lèi)，衛(wèi)生部門(mén)、交通關(guān)口、企業(yè)和學(xué)校等單位對(duì)個(gè)體施以“區(qū)別對(duì)待”，這些措施也需要合理而正當(dāng)。

總之，無(wú)論是健康碼還是其它算法治理措施，都需要邁過(guò)以上三道坎。

01

? 第一道坎：個(gè)人信息保護(hù)

疫情時(shí)分，健康碼與個(gè)體如影隨形，與個(gè)人身份綁定，反映個(gè)體活動(dòng)情況。這一過(guò)程不可避免地涉及了許多個(gè)人信息，其中有些信息又相當(dāng)敏感。

由于健康碼生成方式不同，“集中式”和“分布式”下的健康碼，收集的范圍也有相當(dāng)不同，此處簡(jiǎn)要分別討論。

“集中式”健康碼運(yùn)用后臺(tái)打通的數(shù)據(jù)庫(kù)和個(gè)體填報(bào)信息，直接判斷顏色。根據(jù)各地情形不同，納入信息也有些許不同。

一般而言，之前是否屬于“確診”或“疑似”、近期活動(dòng)軌跡和地區(qū)、近期搭乘航班或車(chē)次等，都會(huì)成為分析對(duì)象。部分地區(qū)還會(huì)采集居住地、是否曾購(gòu)買(mǎi)發(fā)熱藥物等。根據(jù)疫情的變動(dòng)和后臺(tái)的建設(shè)，這一范圍可能還在不斷擴(kuò)大。

“分布式”健康碼的原理稍有不同。簡(jiǎn)而言之，就是個(gè)體各自在手機(jī)上安裝應(yīng)用，應(yīng)用再以藍(lán)牙定位或者超聲波的方式，測(cè)量附近有無(wú)其它安裝同款應(yīng)用的個(gè)體經(jīng)過(guò)，有則記錄下來(lái)。

如此，可以形成細(xì)致的運(yùn)動(dòng)軌跡和接觸者網(wǎng)絡(luò)。一旦有個(gè)體出現(xiàn)狀況，接觸個(gè)體都會(huì)收到信息。此類(lèi)健康碼收集的信息類(lèi)型相對(duì)簡(jiǎn)潔，但至少也會(huì)涉及個(gè)體相當(dāng)全面的社交網(wǎng)絡(luò)。

無(wú)論采取何種形式，健康碼都會(huì)涉及個(gè)人信息的處理。

遵從現(xiàn)有涉及個(gè)人信息的法律法規(guī)國(guó)家標(biāo)準(zhǔn)，切實(shí)以保護(hù)個(gè)人信息在生命周期各環(huán)節(jié)的安全為底線(xiàn)。這一點(diǎn)又體現(xiàn)為防止過(guò)度收集，注意最小化原則，做好信息安全，禁止分享公開(kāi)，可行范圍內(nèi)匿名化，可查可用不可導(dǎo)出，等等，都已體現(xiàn)在各地的健康碼實(shí)踐中。

不過(guò)，還有三點(diǎn)值得注意。

其一，有關(guān)信息應(yīng)視為個(gè)人敏感信息。

一方面，無(wú)論是病史、行蹤軌跡，還是藥物記錄、社交網(wǎng)絡(luò)，單獨(dú)均足以達(dá)到“影響個(gè)體人身或財(cái)產(chǎn)安全，或?qū)е律硇慕】凳軗p，或?qū)е缕缫曅源觥钡摹懊舾小睒?biāo)準(zhǔn)；另一方面，對(duì)這些信息的處理方式，足以影響個(gè)體能否獲得遷徙、勞動(dòng)或受教育的權(quán)利，因此可能達(dá)致“敏感”標(biāo)準(zhǔn)。這一點(diǎn)會(huì)影響合宜的信息保護(hù)水平。

其二，“集中式”下的隱私風(fēng)險(xiǎn)較為凸顯，“分布式”下的風(fēng)險(xiǎn)則容易被忽視。

“分布式”健康碼程序通常采取匿名標(biāo)識(shí)符，無(wú)法直接識(shí)別至個(gè)體。然而，從現(xiàn)有安全領(lǐng)域研究看，通過(guò)軌跡或社交關(guān)系識(shí)別個(gè)體，既不困難，準(zhǔn)確率也不低。因此，個(gè)人信息保護(hù)工作仍不能輕忽。

其三，在具體落實(shí)保護(hù)工作時(shí)，一頭一尾兩個(gè)環(huán)節(jié)，需要進(jìn)一步分析。

在尋求個(gè)人信息處理合法性的頭部環(huán)節(jié)，盡管重大公共利益足以構(gòu)成合法性基礎(chǔ)，但從維護(hù)個(gè)體隱私權(quán)、進(jìn)一步消除隱私風(fēng)險(xiǎn)的角度出發(fā)，獲取明示同意并展示隱私協(xié)議，是更加合適的做法。

實(shí)際上，這也是算法倫理領(lǐng)域的共識(shí)。在抗疫接近尾聲、個(gè)人信息處理完畢時(shí)，如何處理相關(guān)信息？是簡(jiǎn)單封存，還是采取加總等匿名化措施后用于研究等用途，又或者是刪除，此處需要因情勢(shì)制宜的討論。

一般而言，信息匿名化可能是此處底限。

02

? 第二道坎：算法倫理

健康碼的機(jī)理，是在各類(lèi)個(gè)人信息的基礎(chǔ)上，根據(jù)感染風(fēng)險(xiǎn)對(duì)不同個(gè)體分類(lèi)。這一工作涉及算法，自然也涉及近年來(lái)熱度驟升的算法倫理。

何為算法倫理的核心內(nèi)容？各國(guó)暫時(shí)各執(zhí)一詞，但也有一些共識(shí)。在健康碼語(yǔ)境下，除開(kāi)已經(jīng)提到的隱私，“算法可解釋”，“算法可問(wèn)責(zé)”，和“算法公平”，三者共同構(gòu)成眼下最需要注意的算法倫理。

“算法可解釋”原則的精神很樸素：如果一則算法的運(yùn)行足以影響個(gè)體遷徙、勞動(dòng)或受教育的權(quán)利，那么，個(gè)體有理由知道這個(gè)算法究竟在干什么。

對(duì)很多具體的場(chǎng)景，“算法可解釋”很可能是法律中“正當(dāng)程序”原則蘊(yùn)涵的要求。因此，需要對(duì)健康碼作出一定的解釋。算法運(yùn)作的具體原理不同，需要的解釋相應(yīng)不同，不妨分兩種情形討論。

當(dāng)前而言，大部分地區(qū)的健康碼原理相對(duì)簡(jiǎn)單：首先，設(shè)定一些判斷條件，“個(gè)體近期是否曾前往疫情嚴(yán)重區(qū)域”，“個(gè)體軌跡是否與其他確診或疑似個(gè)體重合”，“個(gè)體是否曾購(gòu)買(mǎi)發(fā)熱藥物”，等等；其次，將數(shù)據(jù)與條件結(jié)合，觸發(fā)特定條件的生成“紅”或“黃”碼，其余生成“綠”碼。

對(duì)這樣相對(duì)簡(jiǎn)單的算法，除非存在作弊風(fēng)險(xiǎn)，直接公開(kāi)邏輯，便是最好的解釋。

當(dāng)然，隨著時(shí)間的推移、數(shù)據(jù)資源的豐富和研究人員的攻關(guān)，健康碼原理可能日趨復(fù)雜。比如，研究人員可以根據(jù)健康碼的既往防控效果，嘗試更為復(fù)雜的分類(lèi)算法，以提升分類(lèi)的準(zhǔn)確率。如果是線(xiàn)性或決策樹(shù)模型，解釋依然可能；不過(guò)，模型有可能在技術(shù)層面即難以解釋?zhuān)瑯?gòu)成字面意義上的“黑箱”。此時(shí)，具備可解釋性，應(yīng)當(dāng)成為選擇模型時(shí)的考慮之一。

如果確實(shí)需要采取難以解釋的模型，應(yīng)該一并對(duì)原理作出準(zhǔn)確易懂的說(shuō)明。

可解釋指向可問(wèn)責(zé)。

健康碼不可能完全不出錯(cuò)，重要的是在出錯(cuò)時(shí)及時(shí)糾正、在造成損害時(shí)明確責(zé)任。這又進(jìn)一步指向兩點(diǎn)：第一，在制度層面建立報(bào)錯(cuò)和復(fù)核機(jī)制方便；第二，在技術(shù)層面，為個(gè)體定位錯(cuò)誤行方便。這樣，報(bào)錯(cuò)、復(fù)核和尋求其它救濟(jì)都會(huì)更容易。

根據(jù)個(gè)人信息保護(hù)的相關(guān)內(nèi)容，個(gè)體有權(quán)知曉自己的哪些信息參與了健康碼的生成，也可以知道這些信息的內(nèi)容。如果算法具備可解釋性，個(gè)體能夠知道個(gè)人信息如何與健康碼內(nèi)置的邏輯交互。既知輸入，又知算法，個(gè)體就能容易地定位錯(cuò)誤的具體內(nèi)容。此外，如果個(gè)體在利用復(fù)核或類(lèi)似渠道時(shí)能夠把問(wèn)題表述得更加清楚，行政機(jī)關(guān)的負(fù)擔(dān)也會(huì)相應(yīng)下降。

算法公平，是另外一項(xiàng)堪稱(chēng)共識(shí)的倫理原則。

“數(shù)字鴻溝”的廣泛存在，意味著并不是所有人都有知識(shí)、有條件充分利用健康碼。借助人工驗(yàn)證等渠道，盡量將鴻溝“填平”，為無(wú)法利用健康碼的個(gè)體提供等效的驗(yàn)證方式，是公平的第一項(xiàng)要求。實(shí)際上，保障個(gè)體合理的、免于算法的決策，也是《統(tǒng)一數(shù)據(jù)保護(hù)條例（GDPR）》等立法進(jìn)展所體現(xiàn)的趨勢(shì)。

公平的第二項(xiàng)要求，是避免基于敏感特征的歧視。

在健康碼語(yǔ)境下，歧視集中在地域特征上。這里要求健康碼系統(tǒng)即時(shí)跟進(jìn)最新的各地風(fēng)險(xiǎn)層級(jí)通報(bào)，在判斷條件中及時(shí)移除疫情風(fēng)險(xiǎn)已然不高的地區(qū)。之外，在任何情形下，都不應(yīng)該在判斷條件中使用性別、種族、國(guó)籍等敏感特征。

這些特征和感染風(fēng)險(xiǎn)的關(guān)聯(lián)十分有限，對(duì)實(shí)際防控未必有太多幫助；反之，一旦此類(lèi)歧視引起國(guó)內(nèi)或國(guó)際范圍的輿論風(fēng)潮，代價(jià)或?qū)⑹謶K重。

除去第一節(jié)已經(jīng)提到的隱私，和第二節(jié)討論的三種價(jià)值，算法倫理上還有一些頗為重要的原則。比如歷史悠久的“不作惡”或“向善”，以及歐盟正在大力倡導(dǎo)的“可信賴(lài)”，等等。這些原則和之上的內(nèi)容有許多重疊。

如果健康碼制度充分保障隱私、原理容易解釋、責(zé)任易于定位、善待弱勢(shì)群體，這一制度也就在很大程度上值得信賴(lài)、可為“科技向善”的標(biāo)桿。

03

? 第三道坎：“健康主義”下的區(qū)別對(duì)待

健康碼之所以牽動(dòng)人心，關(guān)鍵還是對(duì)現(xiàn)實(shí)生活有實(shí)實(shí)在在的影響。

要不要隔離十四天，涉及到對(duì)人身自由的限制；能不能在不同地區(qū)間流動(dòng)，能不能復(fù)工復(fù)學(xué)，在工作場(chǎng)所和學(xué)校的活動(dòng)是否受限，都涉及對(duì)個(gè)體基本權(quán)益的限制。以對(duì)健康狀況的評(píng)估（這里是感染風(fēng)險(xiǎn)）為依據(jù)，區(qū)別對(duì)待不同的個(gè)體，這類(lèi)做法有個(gè)概括性的名稱(chēng)：“健康主義（Healthism）”。

當(dāng)前疫情中的健康主義立場(chǎng)顯然有其合理性。不過(guò)，這不能逾越所有的基本權(quán)利。承認(rèn)這兩點(diǎn)后，健康碼中的政策抉擇，就又轉(zhuǎn)化為包羅眾多因素的平衡問(wèn)題。由于篇幅所限，短文無(wú)法盡數(shù)展開(kāi)。不過(guò)，對(duì)此類(lèi)平衡，一般需要注意至少三類(lèi)要點(diǎn)。

首先，在社會(huì)層面，“健康”、“衛(wèi)生”甚或“潔凈”，常常不是均一的概念。在健康碼這一場(chǎng)景中，定義相對(duì)明確：感染特定類(lèi)型病毒的概率。

然而，隨時(shí)間推移，如果社會(huì)觀(guān)念發(fā)生變動(dòng)，將“感染”與“不潔”、“危險(xiǎn)”甚至“敵對(duì)”相關(guān)聯(lián)，甚至因此排斥有關(guān)群體，這將會(huì)增加健康碼逾越正當(dāng)尺度的風(fēng)險(xiǎn)。同時(shí)，如果這一算法治理模式得到推廣，并得以應(yīng)用于其它因健康狀況而差別待遇的場(chǎng)景，這些推陳出新的“xx碼”同樣需要越過(guò)三道坎，我們并不能默認(rèn)其正當(dāng)性。

其次，在考量健康碼的運(yùn)用是否過(guò)度時(shí)，角度務(wù)求全面。

如果只考慮單一限制，比如說(shuō)不能復(fù)工是基于健康碼的限制，似乎總是合理的。但如果用更完整的視角看待，將個(gè)體各方面權(quán)益可能因健康碼受到的限制綜合考慮，相關(guān)公共利益與人身自由、受教育權(quán)、勞動(dòng)權(quán)等眾多因素，可能也會(huì)相應(yīng)改變。這一思路也可以預(yù)防健康碼應(yīng)用的過(guò)度泛化。

最后，隨著時(shí)勢(shì)日日而新、科研時(shí)時(shí)而前，人類(lèi)對(duì)病魔的了解程度也在不斷深入。

先前施加的一些限制，或許已顯不足：例如，倘若存在新的傳播途徑，可能需要更新相應(yīng)隔離措施；反之，限制牽涉的范圍，可能因?qū)Σ《镜纳钊肓私舛s小：例如，對(duì)各地區(qū)風(fēng)險(xiǎn)評(píng)估的顆粒度越精細(xì)，限制涉及的地域范圍相應(yīng)也會(huì)更精確。

總之，既然公共利益和基本權(quán)益間的最優(yōu)平衡頻繁變動(dòng)，在保障安全的前提下相應(yīng)迭代調(diào)適健康碼設(shè)計(jì)，可謂應(yīng)時(shí)之需。

疫情面前無(wú)小事，健康主義領(lǐng)域沒(méi)有簡(jiǎn)單的問(wèn)題。在如此情形下決斷，總需要非凡的勇氣、智慧和技藝。除非確實(shí)存在抗疫效果上沒(méi)有差異、對(duì)個(gè)體權(quán)益限制又顯然更少的方案，對(duì)健康碼的采用，通常合理而正當(dāng)。

當(dāng)然，這并不意味著要放棄審視和反思，對(duì)各種權(quán)利的綜合考慮，結(jié)合科學(xué)進(jìn)展思考限制更少的方案，都應(yīng)該始終“在路上”。同時(shí)，在脫離緊急狀態(tài)以后，這些思路不僅不會(huì)過(guò)時(shí)，還會(huì)為防止萬(wàn)“碼”奔騰的濫用筑起堅(jiān)強(qiáng)的堤防。

04

? 結(jié)語(yǔ)和展望

本文以高度簡(jiǎn)化的方式介紹了健康碼的原理，并探討了如何以比較系統(tǒng)的方式反思健康碼的應(yīng)用。

為了成為“范本”、紓解在法律和輿論層面的擔(dān)憂(yōu)，健康碼需要越過(guò)三道坎：

一是已經(jīng)比較完備的個(gè)人信息保護(hù)，難點(diǎn)主要在于細(xì)部的合規(guī)；

二是方興未艾、正形成共識(shí)的算法倫理，健康碼可能，也應(yīng)該合乎這些倫理，實(shí)現(xiàn)“科技向善”而可以信賴(lài)的愿景；

三是從利益平衡角度出發(fā)，對(duì)“健康主義”的省思，這里可能蘊(yùn)涵著實(shí)現(xiàn)算法善政的根本性問(wèn)題。

“三道坎”的思維方式可以推廣到更一般的算法治理場(chǎng)景。無(wú)論是持續(xù)熱議的征信算法，還是日益升溫的智能司法，又或者是正在涌現(xiàn)議論的智慧城市，都可以從“三步走”的思路出發(fā)，系統(tǒng)地評(píng)估、平衡、評(píng)判得失。

首先，這些算法需求什么樣的個(gè)人（敏感）信息？其次，這些算法的運(yùn)作機(jī)制，是否切合目前公認(rèn)的倫理原則？最后，因算法的輸出而在現(xiàn)實(shí)中區(qū)別對(duì)待，是否合理且正當(dāng)？筆者相信，這是一種相對(duì)全面、而又便于應(yīng)用的思考出發(fā)點(diǎn)。

編者按：本文轉(zhuǎn)載自微信公眾號(hào)：騰云（ID：tenyun700），作者：朱悅，美國(guó)圣路易斯華盛頓大學(xué)法律博士（J.D.）

本文來(lái)源騰云，內(nèi)容僅代表作者本人觀(guān)點(diǎn)，不代表前瞻網(wǎng)的立場(chǎng)。本站只提供參考并不構(gòu)成任何投資及應(yīng)用建議。（若存在內(nèi)容、版權(quán)或其它問(wèn)題，請(qǐng)聯(lián)系：service@qianzhan.com）　品牌合作與廣告投放請(qǐng)聯(lián)系：0755-33015062 或 hezuo@qianzhan.com

相關(guān)知識(shí)

健康碼背后的倫理思考
“健康碼”背后的大數(shù)據(jù)邏輯與倫理
【專(zhuān)題】杜坎減肥法食譜
孕婦藥物臨床試驗(yàn)中的倫理問(wèn)題及其解決方案綜述
解碼健康密碼：BMI指數(shù)算法揭秘，精準(zhǔn)管理你的體重與健康
彌合醫(yī)療保健公平差距：人工智能倫理和包容性健康解決方案
不斷完善全球健康治理
杜坎飲食法是什么？杜坎飲食對(duì)減肥有效嗎？ – 美豆芽健康飲食養(yǎng)生網(wǎng)
全球數(shù)治
吃到飽減肥：杜坎纖食瘦身法（2018新版）

網(wǎng)址: 拆解全球性“健康碼”倫理難題：算法治理的“三道坎” http://m.u1s5d6.cn/newsview403901.html