人工智能（Artificial Intelligence，簡(jiǎn)稱AI）作為新一輪產(chǎn)業(yè)變革的核心驅(qū)動(dòng)力，已上升為國(guó)家戰(zhàn)略，并在醫(yī)療、工業(yè)機(jī)器人及教育、金融、互聯(lián)網(wǎng)服務(wù)等領(lǐng)域得到越來越多的應(yīng)用。AI 在醫(yī)療領(lǐng)域的應(yīng)用主要包括輔助診斷、輔助手術(shù)、臨床輔助決策、患者信息管理等，對(duì)應(yīng)的AI 醫(yī)療器械產(chǎn)品主要包括獨(dú)立的醫(yī)療軟件、AI 賦能醫(yī)療設(shè)備、醫(yī)療信息化系統(tǒng)等。

隨著以深度學(xué)習(xí)為代表的AI 技術(shù)的不斷發(fā)展，我們需要思考AI 醫(yī)療器械在發(fā)展與使用中面臨的倫理問題，充分認(rèn)識(shí)AI 醫(yī)療器械在數(shù)據(jù)獲取、隱私保護(hù)等方面給人們帶來的影響。

AI 領(lǐng)域倫理準(zhǔn)則現(xiàn)狀

目前，國(guó)內(nèi)外主要達(dá)成了兩個(gè)影響較廣泛的AI 倫理共識(shí)——“阿西洛馬人工智能原則”（Asilomar AI Principles）、電氣和電子工程師協(xié)會(huì)（IEEE）倡議的AI 設(shè)計(jì)的倫理準(zhǔn)則。

“阿西洛馬人工智能原則”是在2017 年于美國(guó)加州阿西洛馬舉行的Beneficial AI 會(huì)議上被提出的，它是阿西莫夫機(jī)器人學(xué)三定律的擴(kuò)展版本，可被理解為：AI 不能單純地為了利益而創(chuàng)造，而應(yīng)在確保人類不被替代的前提下，為通過自動(dòng)化實(shí)現(xiàn)人類繁榮而創(chuàng)造。保持一種尊重隱私但開放、合作的AI 研究文化也是需要考慮的問題之一，需確保研究人員和政策制定者在交換信息的同時(shí)，不會(huì)用危害人類的手段與對(duì)手競(jìng)爭(zhēng)。

IEEE 于2016 年提出“關(guān)于自主與智能系統(tǒng)倫理的全球倡議”，并于當(dāng)年12 月和2017 年12 月先后發(fā)布了第一版和第二版《人工智能設(shè)計(jì)的倫理準(zhǔn)則》白皮書（Ethically AlignedDesign）。該白皮書提出5 個(gè)核心原則：人權(quán)——確保AI 不侵犯國(guó)際公認(rèn)的人權(quán)；福祉——在AI的設(shè)計(jì)和使用中優(yōu)先考慮人類福祉的相關(guān)指標(biāo)；問責(zé)——確保AI 的設(shè)計(jì)者和操作者負(fù)責(zé)任且可問責(zé)；透明——確保AI 以透明的方式運(yùn)行；慎用——將濫用的風(fēng)險(xiǎn)降至最低。該準(zhǔn)則的發(fā)布旨在為IEEE 正在推動(dòng)的11 個(gè)與AI 倫理相關(guān)的標(biāo)準(zhǔn)的制定提供建議。

我國(guó)已將AI 上升為國(guó)家戰(zhàn)略，并在法律和政策層面進(jìn)行深入布局。2017 年7 月，國(guó)務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》，在“戰(zhàn)略目標(biāo)”部分對(duì)法律政策體系建設(shè)提出三步走的要求：第一步，到2020 年，部分領(lǐng)域的人工智能倫理規(guī)范和政策法規(guī)初步建立；第二步，到2025 年，初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系，形成人工智能安全評(píng)估和管控能力；第三步，到2030 年，建成更加完善的人工智能法律法規(guī)、倫理規(guī)范和政策體系。2018 年1 月，國(guó)家人工智能標(biāo)準(zhǔn)化總體組成立，同時(shí)，《人工智能標(biāo)準(zhǔn)化白皮書（2018 版）》發(fā)布。今年4 月，國(guó)家人工智能標(biāo)準(zhǔn)化總體組第二次全體會(huì)議召開，會(huì)上發(fā)布了《人工智能倫理風(fēng)險(xiǎn)分析報(bào)告》。

醫(yī)療領(lǐng)域AI 的倫理風(fēng)險(xiǎn)

當(dāng)前，AI 在醫(yī)療器械領(lǐng)域的應(yīng)用主要體現(xiàn)在醫(yī)學(xué)影像AI 技術(shù)、AI 技術(shù)賦能硬件上，如目前大量涌現(xiàn)的“智能讀片”類AI 醫(yī)療軟件。這種軟件能夠通過深度學(xué)習(xí)，在具有代表性的醫(yī)學(xué)影像數(shù)據(jù)庫中進(jìn)行模型訓(xùn)練，并利用模型來解析圖像、文本、聲音，從而實(shí)現(xiàn)對(duì)病癥的早期篩查。AI 技術(shù)賦能硬件通常內(nèi)嵌于各類醫(yī)學(xué)影像設(shè)備中，在設(shè)備前期拍攝及后期圖像處理過程中實(shí)現(xiàn)圖像分割、分類、映射、配準(zhǔn)等功能。

對(duì)于醫(yī)療領(lǐng)域AI 存在的倫理風(fēng)險(xiǎn)所帶來的影響，應(yīng)從社會(huì)、個(gè)人數(shù)據(jù)保護(hù)、AI 算法和醫(yī)學(xué)倫理四方面進(jìn)行考慮。

對(duì)社會(huì)的影響?

現(xiàn)階段，醫(yī)療AI 倫理的標(biāo)準(zhǔn)化工作仍處于起步階段，行業(yè)內(nèi)尚未對(duì)醫(yī)療AI 的內(nèi)涵、應(yīng)用模式等達(dá)成共識(shí)，行業(yè)競(jìng)爭(zhēng)可能造成AI 技術(shù)在醫(yī)療領(lǐng)域中的濫用。這會(huì)造成資源的浪費(fèi)，目前，絕大多數(shù)AI 輔助診療結(jié)果仍需醫(yī)生確認(rèn)，此種AI 產(chǎn)品是否具有臨床意義有待商榷。另外，隨著科技發(fā)展，傳統(tǒng)診療方法逐步向高科技輔助診療轉(zhuǎn)變，此類輔助診療產(chǎn)品往往集中在科技發(fā)達(dá)、經(jīng)濟(jì)水平較高的國(guó)家和地區(qū)，這將進(jìn)一步加劇不同國(guó)家和地區(qū)間醫(yī)療資源和水平的不平衡。如何讓每個(gè)國(guó)家和地區(qū)都能受益于AI 帶來的“福祉”，是需要思考的問題。

個(gè)人數(shù)據(jù)保護(hù)風(fēng)險(xiǎn)?

以“深度學(xué)習(xí)+ 大數(shù)據(jù)”為框架的醫(yī)學(xué)AI系統(tǒng)需要大量數(shù)據(jù)來訓(xùn)練、學(xué)習(xí)算法。目前，AI產(chǎn)品的訓(xùn)練樣本主要來自醫(yī)院患者的各類醫(yī)學(xué)影像數(shù)據(jù)，少部分來自人類行為信息的數(shù)字化記錄。醫(yī)學(xué)影像數(shù)據(jù)、患者行為信息涉及患者隱私保護(hù)問題。信息使用者在獲取相應(yīng)數(shù)據(jù)時(shí)，必須抹去患者個(gè)人敏感信息，只保留相關(guān)的醫(yī)學(xué)信息。關(guān)于敏感信息的定義、識(shí)別和處理，目前國(guó)內(nèi)尚無明確的標(biāo)準(zhǔn)，主要依賴于企業(yè)自覺。當(dāng)前可供企業(yè)參考的數(shù)據(jù)隱私保護(hù)準(zhǔn)則有歐盟于2018 年5 月發(fā)布的《通用數(shù)據(jù)保護(hù)條例》（GDPR）、美國(guó)國(guó)會(huì)于1996 年頒布的《健康保險(xiǎn)可攜性與責(zé)任法案》（HIPAA）。

算法風(fēng)險(xiǎn)?

對(duì)深度學(xué)習(xí)算法來說，在其應(yīng)用階段也存在諸多風(fēng)險(xiǎn)。一是安全性風(fēng)險(xiǎn)，算法存在泄漏、參數(shù)被非預(yù)期修改的風(fēng)險(xiǎn)。現(xiàn)階段的深度學(xué)習(xí)算法是典型的“黑箱”算法，當(dāng)其被修改時(shí)，算法性能的降低或錯(cuò)誤的發(fā)生很難被察覺。醫(yī)療領(lǐng)域與人身安全息息相關(guān)，這一風(fēng)險(xiǎn)的發(fā)生會(huì)直接侵害患者的人身權(quán)益。二是算法偏見風(fēng)險(xiǎn)，鑒于算法的復(fù)雜性和專業(yè)性，關(guān)于AI 算法輸入的某些特性如何引起某個(gè)特定輸出結(jié)果的發(fā)生，很難解釋清楚。算法偏見可能是由程序員的主觀認(rèn)知偏差造成，也可能是因輸入數(shù)據(jù)的分布本身即不具有整體代表性所導(dǎo)致。并且，如果算法在臨床應(yīng)用中通過本地?cái)?shù)據(jù)進(jìn)行無監(jiān)督學(xué)習(xí)，則有加重偏見的風(fēng)險(xiǎn)。

醫(yī)學(xué)倫理風(fēng)險(xiǎn)?

對(duì)醫(yī)學(xué)AI 產(chǎn)品的倫理思考應(yīng)納入醫(yī)學(xué)倫理范疇，考慮如何進(jìn)行患者隱私及數(shù)據(jù)的保護(hù)，這也是醫(yī)療類AI 產(chǎn)品與一般AI 產(chǎn)品在倫理問題方面的最大區(qū)別。

在我國(guó)，獲取醫(yī)學(xué)臨床數(shù)據(jù)、進(jìn)行臨床試驗(yàn)須獲得醫(yī)學(xué)倫理審批，負(fù)責(zé)倫理審查的組織——倫理委員會(huì)肩負(fù)醫(yī)學(xué)研究倫理審查、受試者權(quán)益保護(hù)、人的尊嚴(yán)維護(hù)等重要職責(zé)。2017 年10 月，中辦、國(guó)辦印發(fā)《關(guān)于深化審評(píng)審批制度改革鼓勵(lì)藥品醫(yī)療器械創(chuàng)新網(wǎng)的意見》，提出完善倫理委員會(huì)機(jī)制，各地可根據(jù)需要設(shè)立區(qū)域倫理委員會(huì)，指導(dǎo)臨床試驗(yàn)機(jī)構(gòu)倫理審查工作。

AI 醫(yī)療器械應(yīng)遵循的倫理方向

推動(dòng)醫(yī)學(xué)AI 倫理標(biāo)準(zhǔn)化?

從促進(jìn)行業(yè)發(fā)展的角度看，開放、共享的高質(zhì)量醫(yī)學(xué)數(shù)據(jù)集是未來的發(fā)展趨勢(shì)，但數(shù)據(jù)獲取的來源、數(shù)據(jù)標(biāo)注的規(guī)范格式等尚無統(tǒng)一標(biāo)準(zhǔn)，這使得高質(zhì)量的數(shù)據(jù)集難以在各個(gè)AI 產(chǎn)品開發(fā)者間實(shí)現(xiàn)互通。只有在相應(yīng)規(guī)則確定后，AI 醫(yī)療器械產(chǎn)業(yè)才能獲得高速發(fā)展。

數(shù)據(jù)完整性與醫(yī)學(xué)倫理的平衡?

在滿足醫(yī)學(xué)倫理保護(hù)隱私及數(shù)據(jù)這一要求的同時(shí)，醫(yī)療類AI 產(chǎn)品為獲得高質(zhì)量數(shù)據(jù)集，應(yīng)盡可能保留更多的信息（如患者既往病史等），以便用于分析、處理，并避免在進(jìn)行數(shù)據(jù)收集時(shí)納入偏見、非典型甚至錯(cuò)誤的信息。同時(shí)，醫(yī)療類AI 產(chǎn)品在數(shù)據(jù)收集、標(biāo)注過程中必須保證數(shù)據(jù)的完整性，以使AI 產(chǎn)品是可解釋、可信任的。如何最大限度地保留信息，并避免通過信息追溯到個(gè)人，是醫(yī)療類AI 產(chǎn)品開發(fā)中應(yīng)遵循的倫理方向之一。

在AI 與倫理準(zhǔn)則領(lǐng)域進(jìn)行深入探索，并圍繞其建立相關(guān)標(biāo)準(zhǔn)，形成醫(yī)療健康A(chǔ)I 的標(biāo)準(zhǔn)生態(tài)，關(guān)系到醫(yī)療AI 的未來發(fā)展動(dòng)向。AI 產(chǎn)業(yè)能否取得公眾信任并獲得持續(xù)性發(fā)展，關(guān)鍵在于能否建立共識(shí)性的倫理準(zhǔn)則。我們需在保持?jǐn)?shù)據(jù)較高完整度的同時(shí)，做好患者隱私保護(hù)，并在符合現(xiàn)有倫理準(zhǔn)則的前提下，將來自于不同渠道的數(shù)據(jù)用于機(jī)器學(xué)習(xí)，促進(jìn)AI 醫(yī)療器械產(chǎn)業(yè)的進(jìn)一步發(fā)展。