2019年7月3日，醫(yī)療器械技術(shù)審評(píng)中心發(fā)布《深度學(xué)習(xí)輔助決策醫(yī)療器械軟件審評(píng)要點(diǎn)》，意味著三類人工智能醫(yī)療器械注冊(cè)?審評(píng)標(biāo)準(zhǔn)正式落地，產(chǎn)業(yè)發(fā)展的政策瓶頸已被打破。2019年7月17日成立人工智能醫(yī)療器械創(chuàng)新合作平臺(tái)，以構(gòu)建開(kāi)放協(xié)同共享的人工智能醫(yī)療器械創(chuàng)新體系，形成服務(wù)于科學(xué)監(jiān)管、科技創(chuàng)新、產(chǎn)品轉(zhuǎn)化的人工智能醫(yī)療器械創(chuàng)新合作平臺(tái)為目標(biāo)愿景，將全力推動(dòng)醫(yī)學(xué)人工智能產(chǎn)品審批。
人工智能醫(yī)療器械醫(yī)療器械臨床試驗(yàn)倫理審查要點(diǎn)
2019年7月3日，醫(yī)療器械技術(shù)審評(píng)中心發(fā)布《深度學(xué)習(xí)輔助決策醫(yī)療器械軟件審評(píng)要點(diǎn)》，意味著三類人工智能醫(yī)療器械注冊(cè)審評(píng)標(biāo)準(zhǔn)正式落地，產(chǎn)業(yè)發(fā)展的政策瓶頸已被打破。2019年7月17日成立人工智能醫(yī)療器械創(chuàng)新合作平臺(tái)，以構(gòu)建開(kāi)放協(xié)同共享的人工智能醫(yī)療器械創(chuàng)新體系，形成服務(wù)于科學(xué)監(jiān)管、科技創(chuàng)新、產(chǎn)品轉(zhuǎn)化的人工智能醫(yī)療器械創(chuàng)新合作平臺(tái)為目標(biāo)愿景，將全力推動(dòng)醫(yī)學(xué)人工智能產(chǎn)品審批。人工智能醫(yī)療器械是指器械的工作流程優(yōu)化、數(shù)據(jù)處理、輔助診斷等方面，采用以深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)為代表的數(shù)據(jù)驅(qū)動(dòng)方式訓(xùn)練算法的新一代人工智能技術(shù)的醫(yī)療器械。
一、國(guó)內(nèi)外人工智能醫(yī)療器械的概況
人工智能系統(tǒng)有比人類更強(qiáng)的觀察力和洞察力，可快速處理海量醫(yī)療和病人信息，提供輔助建議，幫助決策和減少人為偏差，協(xié)助醫(yī)生將有限精力集中于病人。人工智能系統(tǒng)可基于新信息、結(jié)果和操作不斷學(xué)習(xí)，有助于醫(yī)療專業(yè)人員作出更加明智、及時(shí)的決策 。隨著逐漸落實(shí)分級(jí)診療和國(guó)產(chǎn)醫(yī)療器械的快速發(fā)展，醫(yī)療器械公司為保持其產(chǎn)品競(jìng)爭(zhēng)優(yōu)勢(shì)以瓜分更多基層醫(yī)療市場(chǎng)的蛋糕，除重視硬件質(zhì)量外，也注重設(shè)備智能化，特別是配套的篩查系統(tǒng)和輔助診斷?；鶎俞t(yī)療機(jī)構(gòu)缺乏優(yōu)秀醫(yī)生，對(duì)人工智能醫(yī)療器械需求大，將是人工智能浪潮的最大受益者和主戰(zhàn)場(chǎng)。
1.1 人工智能醫(yī)療器械的研發(fā)模式
讓醫(yī)療器械產(chǎn)品變得更加智能是趨勢(shì)，可提高產(chǎn)品的競(jìng)爭(zhēng)力。智能化、數(shù)字化醫(yī)療實(shí)現(xiàn)醫(yī)療設(shè)備的全生命周期管理是國(guó)際大公司的發(fā)展重點(diǎn)。在合作方式上，因?yàn)槟壳皼](méi)有明確的收費(fèi)項(xiàng)目，如肺結(jié)節(jié)篩查類產(chǎn)品主要以兩種方式進(jìn)入醫(yī)院：一是以科研項(xiàng)目的方式同醫(yī)院合作；二是同醫(yī)療器械廠商合作，以整體服務(wù)包的形式進(jìn)入。
對(duì)于醫(yī)療人工智能公司來(lái)說(shuō)，產(chǎn)品研發(fā)出來(lái)以后，與醫(yī)療器械公司的合作有兩種好處，一方面可以通過(guò)科研合作的方式，驗(yàn)證自己產(chǎn)品的實(shí)際臨床效果。另一方面，現(xiàn)在大多數(shù)醫(yī)療人工智能公司都在尋找合適的盈利模式。但由于醫(yī)療的嚴(yán)謹(jǐn)性，我國(guó)尚無(wú)針對(duì)人工智能產(chǎn)品的認(rèn)證標(biāo)準(zhǔn)，以往公司常依據(jù)醫(yī)療器械的認(rèn)證流程認(rèn)證二類醫(yī)療器械或者三類醫(yī)療器械。在沒(méi)有獲得認(rèn)證之前，很多人工智能公司通過(guò)與醫(yī)療器械公司的合作，將系統(tǒng)搭載在醫(yī)療器械上，醫(yī)療器械公司只需去省級(jí)食品藥品監(jiān)督管理局進(jìn)行報(bào)備，不需要進(jìn)行重新的認(rèn)證，就可在市場(chǎng)上銷售，所得的銷售利潤(rùn)可以按照雙方提前商量好的比例進(jìn)行分成。
1.2 人工智能醫(yī)療器械的應(yīng)用
2011年IBM的Watson開(kāi)啟人工智能醫(yī)療的商業(yè)發(fā)展，深度學(xué)習(xí)算法歷經(jīng)多次換代。2016年1月，IBM和美敦力合推糖尿病監(jiān)測(cè)APP，借助數(shù)據(jù)分析結(jié)果，可提前3小時(shí)預(yù)測(cè)低血糖的發(fā)生，大大改善病人生活質(zhì)量。IBM的Watson至今仍未獲得美國(guó)食品藥品監(jiān)督管理局的認(rèn)證，但其服務(wù)都是在法律允許的框架之內(nèi)。
根據(jù)全球市場(chǎng)洞察力（Global Market Insight）的數(shù)據(jù)報(bào)告顯示，人工智能醫(yī)療影像緊隨人工智能藥物研發(fā)成為第二大細(xì)分市場(chǎng)，占比25%，并將以超過(guò)40%的增速發(fā)展，預(yù)計(jì)2024年將達(dá)25億美元規(guī)模。人工智能在醫(yī)療影像領(lǐng)域的應(yīng)用主要包含，圖像或檢查的分類，器官、區(qū)域或標(biāo)記點(diǎn)的定位，目標(biāo)及病理的檢測(cè)，組織結(jié)構(gòu)的分割，病灶區(qū)的分割以及圖像配準(zhǔn)等，針對(duì)的疾病主要有肺結(jié)節(jié)、糖尿病性視網(wǎng)膜病變、腦卒中等，應(yīng)用方向主要有疾病篩查、病灶勾畫(huà)和臟器三維成像。對(duì)細(xì)分病種的增強(qiáng)覆蓋和根據(jù)自身業(yè)務(wù)特點(diǎn)對(duì)新場(chǎng)景的探索是未來(lái)發(fā)展方向。
各公司正通過(guò)將人工智能醫(yī)療器械產(chǎn)品投入醫(yī)院免費(fèi)試用來(lái)積累大量臨床數(shù)據(jù)，以此提高臨床應(yīng)用的精準(zhǔn)度，為申報(bào)國(guó)家藥品監(jiān)督管理局認(rèn)證提供可靠的數(shù)據(jù)基礎(chǔ)，縮小臨床結(jié)果與實(shí)驗(yàn)室結(jié)果之間的差異。這卻給不熟悉人工智能醫(yī)療器械審查注意事項(xiàng)的倫理委員會(huì)帶來(lái)極大挑戰(zhàn)。
1.3 美國(guó)人工智能醫(yī)療器械審批現(xiàn)狀
美國(guó)食品藥品監(jiān)督管理局的人工智能影像系統(tǒng)分為計(jì)算機(jī)輔助檢測(cè)（computer-aided detection）和計(jì)算機(jī)輔助診斷（computer-assisted diagnostic），前者用于檢測(cè)身體異常狀況，后者評(píng)估疾病的存在與否，比如嚴(yán)重性、疾病分類或預(yù)測(cè)。為加快醫(yī)療人工智能審評(píng)審批進(jìn)程，2017年7月，美國(guó)食品藥品監(jiān)督管理局發(fā)布數(shù)字健康創(chuàng)新行動(dòng)計(jì)劃，根據(jù)電子健康產(chǎn)品特征、臨床應(yīng)用前景、用戶界面特性和商業(yè)化周期等，建立新型實(shí)效性強(qiáng)的監(jiān)管方法。
美國(guó)食品藥品監(jiān)督管理局已批準(zhǔn)多個(gè)人工智能醫(yī)療器械，審批遠(yuǎn)快于中國(guó)。如2018年2月審批了第一個(gè)針對(duì)中風(fēng)的人工智能診斷決策支持產(chǎn)品（ContaCT）；同月審批了第一個(gè)針對(duì)兒童自閉癥的人工智能診斷決策支持系統(tǒng)，Cognoa公司的一款深度學(xué)習(xí)應(yīng)用；2018年4月批準(zhǔn)了IDx公司首個(gè)自主式人工智能診斷設(shè)備IDx-DR的軟件程序，可通過(guò)查看視網(wǎng)膜照片對(duì)糖尿病性視網(wǎng)膜病變進(jìn)行自主診斷；2018年5月批準(zhǔn)了新型人工智能工具OsteoDetect，用人工智能算法協(xié)助醫(yī)生快速診斷腕骨骨折。在醫(yī)學(xué)影像方面，美國(guó)食品藥品監(jiān)督管理局首次批準(zhǔn)通用電氣公司的低劑量CT肺癌篩查方案，可精準(zhǔn)成像，發(fā)現(xiàn)早期的微小結(jié)節(jié)，通過(guò)自動(dòng)標(biāo)記難識(shí)別的肺結(jié)節(jié)，輔助醫(yī)生快速、精準(zhǔn)地進(jìn)行篩查。
美國(guó)醫(yī)療人工智能行業(yè)已有不少產(chǎn)品上市，我國(guó)醫(yī)療人工智能行業(yè)也盡快需要拳頭級(jí)產(chǎn)品在國(guó)際上參與競(jìng)爭(zhēng)。據(jù)報(bào)道，2018年11月底國(guó)家藥品監(jiān)督管理局對(duì)創(chuàng)新特別審批申請(qǐng)的1 054項(xiàng)項(xiàng)目進(jìn)行審批，同意了192項(xiàng)，含已獲批上市的51項(xiàng)創(chuàng)新醫(yī)療器械，但都不是人工智能醫(yī)療器械。
二、人工智能醫(yī)療器械的研發(fā)現(xiàn)狀
在機(jī)器學(xué)習(xí)與深度學(xué)習(xí)越來(lái)越風(fēng)靡的高科技行業(yè)中，利用人工智能進(jìn)行影像三維分割、病理圖像分析處理、個(gè)性化精準(zhǔn)醫(yī)療等方面的工作來(lái)輔助醫(yī)生進(jìn)行診斷與治療方案擬定已日漸普及。
2.1 我國(guó)人工智能醫(yī)療器械分類
原國(guó)家食品藥品監(jiān)督管理總局發(fā)布的新版《醫(yī)療器械分類目錄》已于2018年8月1日起施行。特意新增了與人工智能輔助診斷相對(duì)應(yīng)的類別，即目錄中的對(duì)醫(yī)學(xué)影像與病理圖像的分析與處理。我國(guó)人工智能定位于輔助診斷，協(xié)助醫(yī)生而不可直接服務(wù)于病人。按照最新的分類規(guī)定，把醫(yī)用軟件按二類、三類醫(yī)療器械設(shè)置審批通道。若診斷軟件通過(guò)其算法提供診斷建議，只能輔助診斷，不直接出具診斷結(jié)論，其相關(guān)產(chǎn)品按二類醫(yī)療器械管理。若診斷軟件通過(guò)其算法可自動(dòng)識(shí)別病變部位和提供明確的診斷提示，其風(fēng)險(xiǎn)級(jí)別相對(duì)較高，其相關(guān)產(chǎn)品按三類醫(yī)療器械管理?？梢?jiàn)當(dāng)前人工智能產(chǎn)品大多屬于三類醫(yī)療器械。
美國(guó)批復(fù)的人工智能產(chǎn)品大都是走二類醫(yī)療器械的認(rèn)證流程，通過(guò)跟傳統(tǒng)臨床決策支持系統(tǒng)做等同對(duì)比證明安全有效性。相比我國(guó)絕大部分人工智能醫(yī)療器械產(chǎn)品被定為三類醫(yī)療器械，大部分人工智能產(chǎn)品在美國(guó)都被定為二類醫(yī)療器械，我國(guó)對(duì)待人工智能醫(yī)療器械產(chǎn)品的審批態(tài)度更慎重，法規(guī)相對(duì)更嚴(yán)謹(jǐn)，對(duì)臨床評(píng)價(jià)的路徑控制更嚴(yán)格。
三類醫(yī)療器械的申報(bào)需有臨床試驗(yàn)數(shù)據(jù)支撐，部分二類醫(yī)療器械可豁免臨床試驗(yàn)，但診斷軟件的申報(bào)可否豁免臨床試驗(yàn)，國(guó)家藥品監(jiān)督管理局尚無(wú)具體規(guī)范。當(dāng)前人工智能醫(yī)療器械企業(yè)中，僅武漢蘭丁的全自動(dòng)數(shù)字（遠(yuǎn)程）病例分析儀和EDDA科技公司研發(fā)的IQQA人工智能賦能平臺(tái)獲得國(guó)家藥品監(jiān)督管理局認(rèn)證，其他企業(yè)都還處于免費(fèi)提供試用的階段。目前尚未有一款產(chǎn)品獲得三類人工智能醫(yī)療器械證書(shū)。業(yè)內(nèi)認(rèn)為我國(guó)人工智能醫(yī)療器械獲得注冊(cè)證的困難之處在于：對(duì)產(chǎn)品的認(rèn)識(shí)速度跟不上對(duì)審評(píng)的認(rèn)識(shí)程度，對(duì)高風(fēng)險(xiǎn)產(chǎn)品的臨床驗(yàn)證滿足不了臨床的實(shí)際需求。而這些問(wèn)題的解決還有賴技術(shù)的突破和臨床驗(yàn)證的積累。
2.2 企業(yè)應(yīng)對(duì)策略
為適應(yīng)國(guó)家政策，我國(guó)大部分人工智能醫(yī)療器械企業(yè)刪除和增加診斷功能，同時(shí)按照二、三類醫(yī)療器械申報(bào)。當(dāng)前一些企業(yè)已獲二類人工智能醫(yī)療器械證書(shū)，不少人工智能企業(yè)都在積極進(jìn)行三類醫(yī)療器械的申報(bào)。隨著分類目錄的出現(xiàn)，現(xiàn)階段各家醫(yī)療人工智能公司在研發(fā)產(chǎn)品的同時(shí)理應(yīng)加速國(guó)家藥品監(jiān)督管理局認(rèn)證的過(guò)程，這樣在市場(chǎng)化過(guò)程中才可以在相對(duì)平等的條件下和醫(yī)療器械公司、醫(yī)療機(jī)構(gòu)達(dá)成合作。在具備盈利可能性的前提下，保護(hù)自己的品牌不成為醫(yī)療器械公司的附庸。
2.3 已進(jìn)入注冊(cè)申報(bào)階段
根據(jù)醫(yī)療器械注冊(cè)流程，要經(jīng)過(guò)產(chǎn)品定型、檢測(cè)、臨床試驗(yàn)、注冊(cè)申報(bào)、技術(shù)審評(píng)、行政審批這六步。檢測(cè)報(bào)告和臨床試驗(yàn)報(bào)告是注冊(cè)申報(bào)的前提條件，通過(guò)之后國(guó)家藥品監(jiān)督管理局才會(huì)正式受理。目前已有90多家企業(yè)跟國(guó)家藥品監(jiān)督管理局就三類證書(shū)的申請(qǐng)進(jìn)行溝通，具體包括數(shù)據(jù)集的整理、敏感性特異性指標(biāo)的評(píng)估、安全性有效性的評(píng)估等方面。國(guó)家藥品監(jiān)督管理局2019年5月27日公布了《創(chuàng)新醫(yī)療器械特別審查申請(qǐng)審查結(jié)果公示》(2019年第6號(hào))，深圳硅基智能科技有限公司申報(bào)的“糖尿病視網(wǎng)膜病變分析軟件”產(chǎn)品已獲批創(chuàng)新醫(yī)療器械，進(jìn)入臨床試驗(yàn)及審評(píng)快速綠色通道。國(guó)家藥品監(jiān)督管理局在創(chuàng)新產(chǎn)品的審批申報(bào)方面還開(kāi)通申報(bào)的綠色通道等優(yōu)惠政策。
中國(guó)食品藥品檢定研究院負(fù)責(zé)人工智能醫(yī)療器械產(chǎn)品的質(zhì)量評(píng)價(jià)與研究工作。并非全部產(chǎn)品需臨床試驗(yàn)后才能上市，源于真實(shí)世界的臨床試驗(yàn)數(shù)據(jù)可用于臨床前及臨床的評(píng)價(jià)，前瞻性和回顧性的臨床數(shù)據(jù)可用于臨床評(píng)價(jià)。中國(guó)食品藥品檢定研究院規(guī)劃的人工智能醫(yī)療器械檢驗(yàn)體系有四個(gè)步驟：標(biāo)準(zhǔn)數(shù)據(jù)、體模測(cè)試、軟件性能、模擬對(duì)抗，已建立起了彩色眼底圖像和肺部CT影像兩個(gè)數(shù)據(jù)庫(kù)。數(shù)據(jù)庫(kù)構(gòu)建過(guò)程主要包括數(shù)據(jù)收集、圖像標(biāo)注、數(shù)據(jù)管理三個(gè)步驟。
三、人工智能醫(yī)療器械倫理審查的核心問(wèn)題
人工智能醫(yī)療器械倫理審查的問(wèn)題除人工智能和醫(yī)療器械各自問(wèn)題外，也有人工智能與醫(yī)療器械疊加帶來(lái)的問(wèn)題。已有文獻(xiàn)概述了醫(yī)療器械倫理審查的要點(diǎn)。人工智能應(yīng)用于醫(yī)療領(lǐng)域的倫理問(wèn)題，包括公平受益、失業(yè)、患者隱私、醫(yī)療安全、責(zé)任劃分和監(jiān)管等。其原因涉及未遵守基本倫理原則、技術(shù)缺陷、立法和監(jiān)管缺失、隱含算法偏見(jiàn)、數(shù)據(jù)質(zhì)量欠佳等。鑒于目前人工智能算法準(zhǔn)確度和適應(yīng)性是限制其臨床應(yīng)用的瓶頸，因此人工智能醫(yī)療器械倫理審查的核心問(wèn)題包括難以準(zhǔn)確評(píng)估風(fēng)險(xiǎn)、建立恰當(dāng)類型數(shù)據(jù)庫(kù)、確保數(shù)據(jù)安全、算法更新導(dǎo)致軟件迭代等。
3.1 難以準(zhǔn)確評(píng)估風(fēng)險(xiǎn)
人工智能醫(yī)療器械的使用與健康息息相關(guān)，風(fēng)險(xiǎn)評(píng)估尤為重要。臨床使用風(fēng)險(xiǎn)應(yīng)考慮數(shù)據(jù)質(zhì)量控制、算法泛化能力的直接影響和算力所用計(jì)算資源（即運(yùn)行環(huán)境）失效的間接影響。為使風(fēng)險(xiǎn)最小化，確保人工智能醫(yī)療器械的可靠性，需在使用過(guò)程中評(píng)估其風(fēng)險(xiǎn)。倫理審查中應(yīng)注意其考量因素是否包括了臨床使用中的假陽(yáng)性、假陰性和進(jìn)口軟件的中外差異，以及風(fēng)險(xiǎn)管理活動(dòng)相關(guān)的預(yù)期用途、使用場(chǎng)景、核心功能及措施、要求。
3.2 建立恰當(dāng)類型數(shù)據(jù)庫(kù)
數(shù)據(jù)是人工智能醫(yī)療器械的核心要素，將成為制約人工智能醫(yī)療器械發(fā)展的瓶頸。因此，數(shù)據(jù)庫(kù)的建立是人工智能醫(yī)療器械審批的先行之舉，2019年7月17日之前我國(guó)僅存在肺結(jié)節(jié)和眼底兩類影像數(shù)據(jù)庫(kù)，未來(lái)將建立肺CT、腦磁共振、冠狀動(dòng)脈CT血管造影等更多測(cè)試樣本數(shù)據(jù)庫(kù)，且明確測(cè)試數(shù)據(jù)庫(kù)的類型包含檢驗(yàn)數(shù)據(jù)庫(kù)、真實(shí)世界數(shù)據(jù)。2018年9月以來(lái)，多達(dá)230家醫(yī)院IBM Watson診療系統(tǒng)由于開(kāi)不安全藥物、診斷錯(cuò)誤而備受質(zhì)疑，導(dǎo)致美國(guó)德克薩斯州安德森腫瘤中心在已投入6 700萬(wàn)美元后放棄該項(xiàng)目。據(jù)《華爾街日?qǐng)?bào)》等媒體報(bào)道，Watson診療系統(tǒng)的訓(xùn)練用真實(shí)病例數(shù)很小，肺癌635例已屬最多，卵巢癌106例為最少?；谧銐驍?shù)量的數(shù)據(jù)庫(kù)樣本用于訓(xùn)練人工智能醫(yī)療器械，將大幅降低其誤診率和漏診率。
3.3 確保數(shù)據(jù)安全
數(shù)據(jù)安全已成為人工智能的關(guān)注重點(diǎn)。人工智能醫(yī)療器械的網(wǎng)絡(luò)安全存在較多隱患且無(wú)法得到及時(shí)修復(fù)，有些企業(yè)并不須具備必要的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)防控能力，其網(wǎng)絡(luò)安全主動(dòng)發(fā)現(xiàn)和監(jiān)測(cè)預(yù)警能力均有待提升。有些企業(yè)在設(shè)計(jì)時(shí)沒(méi)有考慮健康數(shù)據(jù)傳輸過(guò)程中的保密性等安全問(wèn)題。企業(yè)作為運(yùn)營(yíng)者應(yīng)承擔(dān)主體防護(hù)責(zé)任，主管部門應(yīng)履行監(jiān)管責(zé)任。數(shù)據(jù)安全性的提高需得到醫(yī)療機(jī)構(gòu)的配合，醫(yī)療機(jī)構(gòu)在對(duì)健康數(shù)據(jù)進(jìn)行歸檔、備份等數(shù)據(jù)傳輸操作時(shí)，尤其是通過(guò)公共互聯(lián)網(wǎng)傳輸敏感數(shù)據(jù)時(shí)，若未對(duì)敏感數(shù)據(jù)進(jìn)行加密處理，容易造成患者治療信息、基因等重要醫(yī)療健康數(shù)據(jù)信息泄露。
醫(yī)療行業(yè)成為數(shù)據(jù)泄露的重災(zāi)區(qū)，由黑客滲透入侵導(dǎo)致的數(shù)據(jù)泄露事件增速最快，由于服務(wù)器配置不當(dāng)、漏洞等因素造成的未授權(quán)訪問(wèn)問(wèn)題也日益增多。2017年美國(guó)就有15次重大醫(yī)療信息泄露事件，約300萬(wàn)名病人的信息被泄露。我國(guó)同樣面臨類似嚴(yán)峻挑戰(zhàn)，2017年9月《法制日?qǐng)?bào)》報(bào)道了一醫(yī)院服務(wù)信息系統(tǒng)遭黑客入侵，多達(dá)7億多條信息被泄露，8 000多萬(wàn)條信息被販賣。
3.4 算法更新導(dǎo)致軟件迭代
軟件更新是導(dǎo)致人工智能軟件召回的主要原因之一，應(yīng)考慮對(duì)軟件安全性和有效性的正面和負(fù)面影響。軟件更新包括數(shù)據(jù)驅(qū)動(dòng)型和算法驅(qū)動(dòng)型軟件更新，由此產(chǎn)生重大軟件更新、輕微軟件更新及其版本命名規(guī)則。表面看來(lái)，算法作為一種數(shù)學(xué)結(jié)構(gòu)，具有客觀的和確定性的特征。因此，算法決策應(yīng)該不大可能會(huì)受到人們的情感和價(jià)值觀的影響，但實(shí)際情況卻恰恰相反。人工智能的算法雖說(shuō)只是一種數(shù)學(xué)表達(dá)，看似與價(jià)值無(wú)關(guān)，實(shí)際上卻不可避免地存在主觀偏見(jiàn)。這種偏見(jiàn)的來(lái)源是多方面的，既有可能來(lái)自于訓(xùn)練系統(tǒng)的數(shù)據(jù)輸入，又有可能來(lái)自于編程人員的價(jià)值觀嵌入。為加快人工智能醫(yī)療器械的審批，基于現(xiàn)有歷史數(shù)據(jù)的回顧性研究可用于臨床評(píng)價(jià)，甚至算法性能評(píng)估可采用屬于回顧性研究的第三方數(shù)據(jù)庫(kù)。
2019年4月2日美國(guó)食品藥品監(jiān)督管理局發(fā)布人工智能醫(yī)療器械變更的監(jiān)管框架的討論稿及征求意見(jiàn)，已于2019年6月3日前提交了討論意見(jiàn)稿。擬議的監(jiān)管框架可使美國(guó)食品藥品監(jiān)督管理局和制造商從上市前開(kāi)發(fā)到上市后對(duì)軟件產(chǎn)品性能進(jìn)行評(píng)估和監(jiān)控。這個(gè)潛在的框架允許將人工智能醫(yī)療器械的迭代改進(jìn)能力納入其監(jiān)督管理范圍之內(nèi)，同時(shí)確?；颊叩陌踩?。也需向公眾征求對(duì)人工智能醫(yī)療器械監(jiān)管的意見(jiàn)和看法。
四、倫理審查的要點(diǎn)
新事物該如何監(jiān)管，對(duì)于企業(yè)和監(jiān)管部門來(lái)說(shuō)都是挑戰(zhàn)。為給所有企業(yè)一個(gè)導(dǎo)引，2018年12月25日在北京舉辦“人工智能類醫(yī)療器械注冊(cè)申報(bào)公益培訓(xùn)”，公布了人工智能領(lǐng)域三類醫(yī)療器械審批要點(diǎn)，界定了適用范圍，講解了人工智能醫(yī)療產(chǎn)品在審批過(guò)程中所面臨的數(shù)據(jù)庫(kù)、數(shù)據(jù)安全、軟件更新、云計(jì)算服務(wù)等問(wèn)題。醫(yī)療器械技術(shù)審評(píng)中心安排了資深醫(yī)療器械審評(píng)專家，對(duì)醫(yī)療器械的法規(guī)與注冊(cè)流程、設(shè)計(jì)開(kāi)發(fā)與注冊(cè)申報(bào)資料要求、醫(yī)療器械臨床評(píng)價(jià)與臨床試驗(yàn)、創(chuàng)新醫(yī)療器械特別審批程序、人工智能醫(yī)療器械數(shù)據(jù)質(zhì)量控制要求、深度學(xué)習(xí)輔助決策軟件審評(píng)要點(diǎn)等進(jìn)行了專題講解。但這些審批流程和要點(diǎn)不是法律法規(guī)，而是技術(shù)文件，而技術(shù)文件可以根據(jù)技術(shù)的發(fā)展和產(chǎn)品的特點(diǎn)變化而改變。三類醫(yī)療器械審批要點(diǎn)的出爐對(duì)于醫(yī)療人工智能領(lǐng)域來(lái)說(shuō)，無(wú)疑是一重大突破，尤其是對(duì)之前軟件涉及不明確的數(shù)據(jù)問(wèn)題，算法更新問(wèn)題以及風(fēng)險(xiǎn)評(píng)估維度等都給出了定性。國(guó)家藥品監(jiān)督管理局跟美國(guó)食品藥品監(jiān)督管理局溝通緊密，亦參考了美國(guó)的做法，目前已經(jīng)形成統(tǒng)一標(biāo)準(zhǔn)。
原國(guó)家食品藥品監(jiān)督管理總局與國(guó)家衛(wèi)生計(jì)生委于2016年3月共同頒布了《醫(yī)療器械臨床試驗(yàn)質(zhì)量管理規(guī)范》，告別了參考《藥物臨床試驗(yàn)質(zhì)量管理規(guī)范》的歷史，明確了醫(yī)療器械臨床試驗(yàn)的倫理審查要求。但迄今尚無(wú)針對(duì)醫(yī)療器械臨床試驗(yàn)的倫理審查工作指導(dǎo)原則，更多參照《藥物臨床試驗(yàn)倫理審查工作指導(dǎo)原則》。評(píng)估受試者的風(fēng)險(xiǎn)與受益是倫理審查的核心任務(wù)。醫(yī)療器械臨床試驗(yàn)項(xiàng)目的評(píng)審主要從受試產(chǎn)品與試驗(yàn)操作兩個(gè)方面予以關(guān)注和考慮。倫理委員會(huì)除審查醫(yī)療器械本身的科學(xué)性和倫理性外，也要審查醫(yī)療器械與人工智能軟件疊加帶來(lái)的風(fēng)險(xiǎn)與受益。鑒于目前人工智能醫(yī)療器械大部分仍處于注冊(cè)申報(bào)階段，臨床正在或即將開(kāi)展的大部分項(xiàng)目是企業(yè)以科研方式進(jìn)入醫(yī)院，并免費(fèi)試用為主。醫(yī)療機(jī)構(gòu)應(yīng)與企業(yè)簽訂合同，明確補(bǔ)償和傷害受試者的賠償，也要明確未來(lái)產(chǎn)品成果和知識(shí)產(chǎn)權(quán)的分享方式。鑒于人工智能醫(yī)療器械的前沿性，必要時(shí)需聘請(qǐng)獨(dú)立顧問(wèn)。
4.1 適用范圍
根據(jù)深度學(xué)習(xí)輔助決策醫(yī)療器械軟件分類，有醫(yī)療器械數(shù)據(jù)、深度學(xué)習(xí)、輔助決策、醫(yī)療器械軟件；依據(jù)軟件類型可分為人工智能軟件組件（醫(yī)療器械內(nèi)含的人工智能軟件）和人工智能獨(dú)立軟件（本身即為醫(yī)療器械的人工智能軟件）；根據(jù)軟件用途分為輔助決策（包括但不限于輔助篩查、輔助識(shí)別、輔助診斷、輔助治療），以及前處理（如成像質(zhì)量改善、成像速度提升、圖像重建）、流程優(yōu)化（如一鍵操作）、常規(guī)后處理（如圖像分割、數(shù)據(jù)測(cè)量）等非輔助決策。其中人工智能獨(dú)立軟件的適用范圍包括：（1）明確預(yù)期用途、使用場(chǎng)景和核心功能。（2）包括但不限于處理對(duì)象、目標(biāo)疾病、臨床用途、患者人群、目標(biāo)用戶、使用場(chǎng)所、數(shù)據(jù)采集設(shè)備要求(若適用)、臨床使用限制(若適用)。人工智能軟件組件的適用范圍可參照人工智能獨(dú)立軟件要求，并在產(chǎn)品適用范圍中予以體現(xiàn)。
4.2 研究要求與資料
所有人工智能軟件功能均應(yīng)開(kāi)展需求分析、數(shù)據(jù)收集(若適用)、算法設(shè)計(jì)和軟件確認(rèn)；且每項(xiàng)人工智能軟件功能應(yīng)獨(dú)立開(kāi)展需求分析、數(shù)據(jù)收集(若適用)、算法設(shè)計(jì)、軟件確認(rèn)。對(duì)于算法設(shè)計(jì)，提供算法設(shè)計(jì)的相關(guān)資料，包括算法選擇及訓(xùn)練。要注意是否采取避免偏見(jiàn)的措施。算法設(shè)計(jì)應(yīng)當(dāng)考慮算法選擇、算法訓(xùn)練、網(wǎng)絡(luò)安全防護(hù)、算法性能評(píng)估等活動(dòng)的質(zhì)控要求。建議數(shù)據(jù)驅(qū)動(dòng)與知識(shí)驅(qū)動(dòng)相結(jié)合進(jìn)行算法設(shè)計(jì)，以提升算法可解釋性。算法性能上要注意假陽(yáng)性與假陰性指標(biāo)、重復(fù)性與再現(xiàn)性、魯棒性/健壯性。對(duì)于深度學(xué)習(xí)非輔助決策軟件，前處理需遵循算法性能評(píng)估、臨床評(píng)價(jià)；流程優(yōu)化需算法性能評(píng)估；常規(guī)后處理需算法性能評(píng)估，必要時(shí)需臨床評(píng)價(jià)。
研究資料包括軟件描述文檔、網(wǎng)絡(luò)安全描述文檔、軟件版本命名規(guī)則。軟件描述文檔要求核心算法部分應(yīng)當(dāng)結(jié)合本審評(píng)要點(diǎn)提供相應(yīng)算法研究資料，以及測(cè)試集、公開(kāi)數(shù)據(jù)庫(kù)、測(cè)評(píng)數(shù)據(jù)庫(kù)、回顧性研究、算法性能評(píng)估結(jié)果比較分析資料。其他資料應(yīng)當(dāng)提供網(wǎng)絡(luò)與數(shù)據(jù)安全過(guò)程控制研究資料、第三方數(shù)據(jù)庫(kù)(測(cè)評(píng)、公開(kāi))的基本信息(如名稱、創(chuàng)建者、數(shù)據(jù)量、數(shù)據(jù)分布)和使用情況(如使用量、數(shù)據(jù)分布、比重、資質(zhì))。
研究者手冊(cè)中，輔助決策軟件應(yīng)明確軟件的適用范圍、臨床使用限制、注意事項(xiàng)、用戶培訓(xùn)、數(shù)據(jù)采集設(shè)備要求、數(shù)據(jù)采集操作規(guī)范、輸入與輸出、算法性能評(píng)估總結(jié)(測(cè)試集基本信息、評(píng)估指標(biāo)與結(jié)果)、臨床評(píng)價(jià)總結(jié)(臨床數(shù)據(jù)基本信息、評(píng)價(jià)指標(biāo)與結(jié)果)等信息。此外，企業(yè)應(yīng)結(jié)合法規(guī)、標(biāo)準(zhǔn)、用戶、產(chǎn)品、數(shù)據(jù)、功能、性能、接口、用戶界面、網(wǎng)絡(luò)安全等分析需求，以避免臨床需求和使用風(fēng)險(xiǎn)。
4.3 研究方案
臨床試驗(yàn)需基于軟件的預(yù)期用途、使用場(chǎng)景和核心功能，按照診斷試驗(yàn)進(jìn)行臨床試驗(yàn)設(shè)計(jì)，其核心要點(diǎn)包括：（1）試驗(yàn)設(shè)計(jì)：建議優(yōu)先選擇同品種產(chǎn)品或臨床參考標(biāo)準(zhǔn)進(jìn)行非劣效對(duì)照設(shè)計(jì)，次之可選擇用戶結(jié)合軟件聯(lián)合決策與用戶單獨(dú)決策進(jìn)行優(yōu)效對(duì)照設(shè)計(jì)；非劣效或優(yōu)效界值的確定應(yīng)有充分臨床依據(jù)。此外考慮到用戶的差異性，可選擇多閱片者多病例試驗(yàn)設(shè)計(jì)。（2）觀察指標(biāo)：以敏感性、特異性、接受者操作特征曲線（receiver operating characteristic,ROC)/曲線下面積(area under curve,AUC)為主要指標(biāo)，亦可選擇時(shí)間效率等指標(biāo)作為評(píng)價(jià)指標(biāo)。（3）入排標(biāo)準(zhǔn)：基于目標(biāo)疾病的流行病學(xué)特征。（4）參與機(jī)構(gòu)：異于訓(xùn)練數(shù)據(jù)主要來(lái)源機(jī)構(gòu)，地域分布盡可能廣泛，機(jī)構(gòu)數(shù)量需盡可能多。
4.4 風(fēng)險(xiǎn)控制
風(fēng)險(xiǎn)考量即是對(duì)人工智能產(chǎn)品在使用過(guò)程中的風(fēng)險(xiǎn)進(jìn)行評(píng)價(jià)，以達(dá)到抑制風(fēng)險(xiǎn)，提高人工智能產(chǎn)品可靠性的目的。主要考量臨床使用風(fēng)險(xiǎn)，如假陽(yáng)性（誤診，過(guò)度醫(yī)療風(fēng)險(xiǎn)），假陰性（漏診，快速進(jìn)展疾病風(fēng)險(xiǎn)）和進(jìn)口軟件的中外差異(人種、流行病學(xué)、臨床診療準(zhǔn)則)。同時(shí)考量風(fēng)險(xiǎn)管理活動(dòng)，包括預(yù)期用途(目標(biāo)疾病、臨床用途、重要程度、緊迫程度)、使用場(chǎng)景(適用人群、目標(biāo)用戶、使用場(chǎng)所、臨床流程)、核心功能(處理對(duì)象、數(shù)據(jù)兼容性、功能類型)，采取必要的軟件設(shè)計(jì)、防護(hù)、警示等措施管理軟件全生命周期的風(fēng)險(xiǎn)。也要考慮臨床使用限制，包括臨床禁用、慎用等場(chǎng)景。
4.5 數(shù)據(jù)庫(kù)
數(shù)據(jù)收集應(yīng)包括目標(biāo)疾病流行病學(xué)特征，如疾病構(gòu)成(分型、分級(jí)、分期)、人群分布(健康狀態(tài)、性別、年齡)、統(tǒng)計(jì)指標(biāo)(患病率、治愈率)、并發(fā)癥與類似疾病等。采集的數(shù)據(jù)應(yīng)當(dāng)進(jìn)行數(shù)據(jù)脫敏以保護(hù)患者隱私。數(shù)據(jù)脫敏應(yīng)當(dāng)明確脫敏的類型（靜態(tài)、動(dòng)態(tài)）、規(guī)則、程度、方法。
臨床評(píng)價(jià)可采用基于現(xiàn)有歷史數(shù)據(jù)的回顧性研究?；仡櫺匝芯繎?yīng)當(dāng)在設(shè)計(jì)時(shí)考慮并嚴(yán)格控制偏倚問(wèn)題，原則上應(yīng)當(dāng)包含多家、不同地域、不同層級(jí)的代表性臨床機(jī)構(gòu)(非訓(xùn)練數(shù)據(jù)主要來(lái)源機(jī)構(gòu))的同期數(shù)據(jù)，盡可能來(lái)自多種、不同采集參數(shù)的采集設(shè)備。使用原則(基于風(fēng)險(xiǎn))上，高風(fēng)險(xiǎn)軟件需臨床預(yù)試驗(yàn)或臨床試驗(yàn)的補(bǔ)充，中風(fēng)險(xiǎn)軟件需臨床預(yù)試驗(yàn)或替代臨床試驗(yàn)。
第三方數(shù)據(jù)庫(kù)屬于回顧性研究的一種特殊形式，可用于算法性能評(píng)估，但未必能夠完全滿足軟件確認(rèn)的要求。第三方數(shù)據(jù)庫(kù)類型包括非測(cè)評(píng)數(shù)據(jù)庫(kù)和測(cè)評(píng)數(shù)據(jù)庫(kù)，其中公開(kāi)數(shù)據(jù)庫(kù)等非測(cè)評(píng)數(shù)據(jù)庫(kù)不可用于軟件確認(rèn)，評(píng)測(cè)數(shù)據(jù)庫(kù)可用于軟件確認(rèn)。測(cè)評(píng)數(shù)據(jù)庫(kù)需滿足可擴(kuò)展性、網(wǎng)絡(luò)與數(shù)據(jù)安全因素，并具有權(quán)威性、科學(xué)性、規(guī)范性、多樣性、封閉性、動(dòng)態(tài)性。
4.6 數(shù)據(jù)安全
企業(yè)上市前后均應(yīng)考慮建設(shè)軟件自身網(wǎng)絡(luò)安全能力，也應(yīng)在軟件全生命周期過(guò)程中考慮網(wǎng)絡(luò)與數(shù)據(jù)安全過(guò)程控制要求?；究剂恐笜?biāo)有脫敏數(shù)據(jù)轉(zhuǎn)移、封閉與開(kāi)放網(wǎng)絡(luò)環(huán)境、數(shù)據(jù)接口兼容性、數(shù)據(jù)備份與恢復(fù)。云計(jì)算服務(wù)應(yīng)明確服務(wù)模式、部署模式、核心功能、數(shù)據(jù)接口、網(wǎng)絡(luò)安全能力和服務(wù)(質(zhì)量)協(xié)議。移動(dòng)計(jì)算終端需結(jié)合終端的類型、特點(diǎn)和使用風(fēng)險(xiǎn)明確性能指標(biāo)要求。
4.7 軟件更新
重大軟件更新要許可事項(xiàng)變更，而輕微軟件更新需質(zhì)量體系控制，但無(wú)需申請(qǐng)注冊(cè)變更。算法驅(qū)動(dòng)型更新包括軟件所用算法、算法結(jié)構(gòu)、算法流程、所用框架、輸入與輸出等發(fā)生改變，包括算法重新訓(xùn)練（即棄用原有訓(xùn)練數(shù)據(jù)）；數(shù)據(jù)驅(qū)動(dòng)型指僅由訓(xùn)練數(shù)據(jù)量增加而促使軟件更新，實(shí)為算法驅(qū)動(dòng)型軟件更新的特殊情況。對(duì)于重大軟件更新，判定需遵循的原則為算法驅(qū)動(dòng)型軟件更新通常屬于重大軟件更新，數(shù)據(jù)驅(qū)動(dòng)型軟件更新若導(dǎo)致算法評(píng)估結(jié)果發(fā)生顯著性改變(與前次注冊(cè)/倫理批件相比)則屬于重大軟件更新。
無(wú)論何種軟件更新，均應(yīng)根據(jù)質(zhì)量管理體系要求，驗(yàn)證與確認(rèn)與軟件更新類型、內(nèi)容和程度相適宜的活動(dòng)。數(shù)據(jù)驅(qū)動(dòng)型和算法驅(qū)動(dòng)型軟件更新均應(yīng)再評(píng)估算法性能和臨床應(yīng)用。屬于臨床科研項(xiàng)目的數(shù)據(jù)驅(qū)動(dòng)型和算法驅(qū)動(dòng)型軟件更新，均需按照新項(xiàng)目進(jìn)行倫理初始審查。對(duì)于高風(fēng)險(xiǎn)軟件，適用范圍變更應(yīng)當(dāng)開(kāi)展臨床試驗(yàn)，其他情況原則上可使用舊的臨床試驗(yàn)數(shù)據(jù)和回顧性研究。對(duì)于中低風(fēng)險(xiǎn)軟件，可使用臨床試驗(yàn)數(shù)據(jù)和回顧性研究。
要明確并區(qū)分重大軟件更新和輕微軟件更新的版本命名規(guī)則，重大軟件更新應(yīng)列舉所有典型情況，并涵蓋數(shù)據(jù)驅(qū)動(dòng)型和算法驅(qū)動(dòng)型軟件更新。
標(biāo)簽：第二三類醫(yī)療器械注冊(cè)證代辦、醫(yī)療器械注冊(cè)證代辦