人工智能醫(yī)療器械,顧名思義就是采用人工智能技術(shù)以實(shí)現(xiàn)其醫(yī)療用途的醫(yī)療器械,可分為人工智能獨(dú)立軟件和人工智能軟件組件,對人工智能醫(yī)療器械通常采用基于風(fēng)險的全生命周期管理方法開展監(jiān)管合規(guī)。
本期,久順企管著眼醫(yī)療器械界的這顆新星,針對各位讀者所關(guān)注的合規(guī)挑戰(zhàn)及其應(yīng)對,分享如下。
一、人工智能醫(yī)療器械面臨的合規(guī)挑戰(zhàn)
(1)算法更新:對于人工智能醫(yī)療器械安全性和有效性的影響具有不確定性。
(2)算法訓(xùn)練所用數(shù)據(jù):受多方面條件限制,存在質(zhì)量不高、數(shù)量不足、數(shù)據(jù)多樣性不夠等問題,容易引入算法偏倚,降低算法通用能力,導(dǎo)致產(chǎn)品難以在臨床落地。
(3)人工智能技術(shù):包含黑盒算法,黑盒算法可解釋性差。而因果性對醫(yī)療決策至關(guān)重要,黑盒算法僅能反映輸出與輸入的相關(guān)性而非因果性,難以與現(xiàn)有醫(yī)學(xué)知識建立有效關(guān)聯(lián),用戶知其然不知其所以然,不利于后續(xù)醫(yī)療決策。
二、人工智能醫(yī)療器械合規(guī)的應(yīng)對方法
(一)分類界定
醫(yī)學(xué)人工智能軟件是否為人工智能獨(dú)立軟件?
需要結(jié)合其預(yù)期用途、核心功能、處理對象進(jìn)行綜合判定。
例如:基于知識管理的醫(yī)學(xué)人工智能軟件,其代表性產(chǎn)品是采用自然語言處理技術(shù)處理分析電子病歷文本信息,生成知識圖譜或量表,并以此為基礎(chǔ)向用戶提供醫(yī)療決策建議。此類軟件的處理對象是非醫(yī)療器械數(shù)據(jù),而人工智能獨(dú)立軟件的處理對象是醫(yī)療器械數(shù)據(jù)(即醫(yī)療器械產(chǎn)生的用于醫(yī)療用途的客觀數(shù)據(jù)),故此類基于知識管理的醫(yī)學(xué)人工智能軟件不是人工智能獨(dú)立軟件。
獨(dú)立的醫(yī)療器械軟件采取什么管理類別?
主要基于風(fēng)險水平進(jìn)行判定。風(fēng)險水平可從預(yù)期用途和算法成熟度兩個維度刻化。
預(yù)期用途:可分為輔助決策和非輔助決策,前者提供醫(yī)療決策建議,后者提供醫(yī)療參考信息,前者風(fēng)險高于后者;
算法成熟度:可分為成熟算法和全新算法,后者潛在風(fēng)險多于前者。全新算法若用于輔助決策按第三類醫(yī)療器械管理,若用于非輔助決策按第二類醫(yī)療器械管理。
(二)技術(shù)審評
人工智能醫(yī)療器械技術(shù)審評主要結(jié)合算法特征和產(chǎn)品特性,綜合權(quán)衡風(fēng)險和受益,系統(tǒng)評價安全性和有效性。
算法特征 不同,評價重點(diǎn)也不同,例如:黑盒算法需要關(guān)注其可解釋性提升問題;有監(jiān)督學(xué)習(xí)需要關(guān)注其數(shù)據(jù)標(biāo)注質(zhì)控問題;基于數(shù)據(jù)的算法需要關(guān)注其數(shù)據(jù)質(zhì)控問題。
風(fēng)險 主要關(guān)注過擬合和欠擬合等算法風(fēng)險,以及假陰性和假陽性等醫(yī)療決策風(fēng)險。
系統(tǒng)評價 需結(jié)合算法訓(xùn)練、算法性能評估、臨床評價等結(jié)果,對產(chǎn)品的適用范圍、使用場景、核心功能進(jìn)行評價和規(guī)范。
算法更新
可分為算法驅(qū)動型更新和數(shù)據(jù)驅(qū)動型更新。
> 前者是指算法發(fā)生實(shí)質(zhì)性變化或者重新訓(xùn)練,屬于重大軟件更新,需申請變更注冊;
> 后者是指僅由訓(xùn)練數(shù)據(jù)量增加而發(fā)生的算法更新,若算法性能評估結(jié)果與前次注冊相比存在統(tǒng)計學(xué)差異則屬于重大軟件更新,需申請變更注冊,反之屬于輕微軟件更新,無需申請變更注冊,通過質(zhì)量管理體系進(jìn)行控制即可,同時通過軟件版本命名規(guī)則進(jìn)行算法更新控制。
算法通用能力保證 訓(xùn)練數(shù)據(jù)需結(jié)合目標(biāo)疾病的流行病學(xué)特征,盡可能取自多家、多地域、多層級的代表性臨床機(jī)構(gòu)和代表性采集設(shè)備,從而提高數(shù)據(jù)充分性和多樣性,從源頭保證算法通用能力。
> 算法訓(xùn)練 需提供訓(xùn)練數(shù)據(jù)量-評估指標(biāo)曲線等證據(jù)。
> 算法驗(yàn)證 所用測試集需不同于訓(xùn)練集,以便客觀評價算法通用能力。
> 算法確認(rèn) 需保證臨床評價數(shù)據(jù)集不同于訓(xùn)練數(shù)據(jù)集,機(jī)構(gòu)數(shù)量盡可能多,地域分布盡可能廣,以全面評價算法通用能力,上市后亦需在真實(shí)世界持續(xù)開展算法通用能力的評估。
黑盒算法可解釋性提升
算法設(shè)計需對黑盒算法開展算法性能影響因素分析,研究影響算法性能的主要因素及其影響程度,根據(jù)分析結(jié)果明確產(chǎn)品使用限制,并在說明書中予以警示和提示,以提升算法可解釋性。
同時,明確算法開發(fā)生存周期過程質(zhì)控要求,以提升算法透明度。
此外,建議與現(xiàn)有醫(yī)學(xué)知識建立關(guān)聯(lián),以進(jìn)一步提升算法可解釋性。
(三)體系核查
人工智能醫(yī)療器械的體系核查需要基于醫(yī)療器械生產(chǎn)質(zhì)量管理規(guī)范、獨(dú)立軟件附錄及其現(xiàn)場檢查指導(dǎo)原則,并可參考人工智能醫(yī)療器械生存周期過程質(zhì)控要求,涵蓋:需求分析、數(shù)據(jù)收集、標(biāo)注質(zhì)量評估、算法設(shè)計、驗(yàn)證與確認(rèn)、更新控制等階段。
重點(diǎn)加強(qiáng) 體系記錄、數(shù)據(jù)質(zhì)控、算法更新控制、算法可追溯性分析 的要求。
# 技術(shù)審評、體系核查,國內(nèi)醫(yī)械注冊的關(guān)鍵環(huán)節(jié),如何高質(zhì)高效過關(guān)? #
>> 敬請聯(lián)絡(luò)【久順企管集團(tuán)】,近30年全球合規(guī)技術(shù)專家,中國\荷蘭\美國\英國均設(shè)公司,擅于產(chǎn)品注冊全程輔導(dǎo)、技術(shù)文檔編寫、質(zhì)量體系建立完善與咨詢等服務(wù)項(xiàng)目,以及CE/FDA/UKCA/CFS等證書辦理,具備優(yōu)厚的咨詢管理和技術(shù)服務(wù)經(jīng)驗(yàn)及能力,護(hù)航產(chǎn)品全球范圍暢行無阻。