台灣急診醫學會


首頁本會期刊台灣急診醫學通訊第五卷第六期醫師福祉的威脅還是朋友-淺談醫療人工智慧本會期刊台灣急診醫學通訊台灣急診醫學通訊第五卷第六期刊登日期：2022/12/30 Taiwan Emergency Medicine Bulletin 5(6) : e2022050611回上頁醫師福祉的威脅還是朋友-淺談醫療人工智慧林佩蓁部立桃園醫院急診醫學部隨著人工智慧(Artificialintelligence, AI)技術和電腦計算能力的進步，2016年，DeepMind運用AI技術所開發的 “AlphaGo” 擊敗了圍棋世界冠軍後。自此，AI聲名大噪，各行各業都開始導入AI的應用。在醫療領域，醫院們也致力於發展「智慧醫療」，優化臨床照護的品質。然而，在此同時，不少新聞媒體大幅就「AI是否會取代人類」的問題展開討論。2016 年 12 月，發表在《美國放射學會雜誌》上的一篇文章¹寫到:「機器學習是放射科醫生面臨的『最強大的威脅』。」甚至有人討論「我們是否應該考慮關閉放射學相關的研究所？」就現實情況而言，在過去的幾年中，雖然有不少AI醫材獲得美國FDA核准上市，但這些智慧醫材實際上在臨床被醫師採用的比率並不高。 2019 年一個研究²指出，只有29%的臨床醫生表示正在使用或計劃使用 AI。此外，對於AI用在臨床決策輔助的信心，大約一半 (51%) 的受訪者回答「不太有信心」或「完全沒有信心」。究竟，AI是醫師的威脅還是朋友? 面對AI這個看似強大的技術，究竟它對醫療能有甚麼幫助呢? 【AI是什麼?】 AI在這幾年引起熱烈的討論，但其實這個名詞早在1956年，便由與圖靈（Alan Turing）並稱「AI 之父」的約翰·麥卡錫（John McCarthy）提出，顧名思義泛指「透過普通電腦程式來呈現人類智慧的技術」。因此，AI所涵蓋的技術範疇非常廣(圖一)。以敗血症照護為例，無論是一個依據SIRS criteria設定的Rule-based model (只要病人的血壓、心跳、呼吸、白血球指數符合SIRS，就在電子病歷系統中跳出警示)、或是使用更多臨床參數，藉由複雜的ML模型訓練出來的敗血病預警系統(predictionmodel)，都可稱為AI。AlphaGo和目前大多數的AI應用，都僅是執行特定功能的「弱AI」，離能夠模擬人類大腦獨立思考的「強AI」還有相當程度的差距。所以，有關醫師將被AI取代的言論，著實是過度誇大了AI的能力。【醫療AI的結果，真的可以信任嗎?】目前大多數的醫療AI，都是運用ML技術所發展出來的。一個ML訓練和評估的流程簡單來說如【圖二】所示。因此，要評估一個醫療AI的結果可不可信，「訓練資料和測試資料的品質」是十分重要的關鍵因素。理想上，訓練資料和測試資料必須要完全獨立、而且兩者都應該要具有高度的異質性(heterogeneity)、涵蓋了目標患者的特性(例如: 如果此AI是要應用在急診室，拿ICU病人的資料作為訓練可能就不太合適)。此外。醫療機構在評估是否採用一個外部機構所發展出來的AI時，也應評估院內的病患特質，是否與當初模型的訓練資料類似。舉例來說，目前已知乳房的緻密度會因人種有所差異，因此，如果要使用西方國家所研發出來針對乳房攝影進行病灶偵測的AI，就要考量訓練資料中東方人資料的比例；同樣的，在審視對方提供的效能測試報告時，也要注意測試資料中東方人的比例。而如果是涉及影像和檢驗數據分析的AI，還要注意資料的取得方式，如取像設定、檢驗方式……等 (例如，不同醫院的CRP單位不同，要注意AI訓練集所用的單位和AI使用端的單位是否相同)。【我可以自己發展AI用在我的病人身上嗎?】當AI產出的資訊，具有達成診斷、治療、緩解或直接預防疾病等臨床用途時，即符合醫療器材管理法對於「醫療器材」的定義⁵，而需要在臨床使用前獲得監管單位的上市許可。但目前台灣食藥署，對於醫院內部自行開發之醫療AI，若僅限院內、未進行醫療AI之販售行為，並不將這些醫療AI以醫療器材列管而強制要求醫院須進行查驗登記。然醫療行為仍受醫療法與醫師法規範，因此所有的醫療處置皆須符合醫學倫理並具有正當性。【結語】在臨床照護面，AI不僅可以協助進行疾病的偵測，還可以協助進行檢傷分流、醫療影像的自動計數、定量；而放大到醫療領域，更涉及行政管理、用藥安全等電子病歷系統相關應用。儘管台灣的醫療AI發展，針對資料庫建置、資料標準化、數據應用相關法規….. 等面向都還有諸多挑戰需要克服。醫師身為醫療AI的目標用戶，應對AI有基本了解，懂得對資料進行審視了解AI的臨床限制和潛在的偏誤 (bias)，才能更好地與AI協作，優化工作流程並提升醫療照護的品質。 Reference: 1. Chockley K, Emanuel E. The End of Radiology? Three Threats to theFuture Practice of Radiology. J Am Coll Radiol. 2016 Dec;13(12 Pt A):1415-1420. 2. Obermeyer, Z. and J. N. Weinstein (2020). "Adoption ofArtificial Intelligence and Machine Learning Is Increasing, but IrrationalExuberance Remains." NEJM Catalyst 1(1). 3. Rudie JD, Rauschecker AM, Bryan RN, et al.; Emerging Applications ofArtificial Intelligence in Neuro-Oncology. Radiology. 2019 Mar;290(3):607-618. 4. Lin,P.-C.; Chen, K.-T.; Chen, H.-C.; et al.; Machine Learning Model to Identify SepsisPatients in the Emergency Department: Algorithm Development and Validation. J.Pers. Med. 2021, 11, 1055. 5. 醫療器材管理法第 3 條回上頁

第五卷第六期
刊登日期：2022/12/30
Taiwan Emergency Medicine Bulletin 5(6) : e2022050611回上頁

醫師福祉的威脅還是朋友-淺談醫療人工智慧

林佩蓁

部立桃園醫院急診醫學部

隨著人工智慧(Artificialintelligence, AI)技術和電腦計算能力的進步，2016年，DeepMind運用AI技術所開發的 “AlphaGo” 擊敗了圍棋世界冠軍後。自此，AI聲名大噪，各行各業都開始導入AI的應用。在醫療領域，醫院們也致力於發展「智慧醫療」，優化臨床照護的品質。然而，在此同時，不少新聞媒體大幅就「AI是否會取代人類」的問題展開討論。2016 年 12 月，發表在《美國放射學會雜誌》上的一篇文章¹寫到:「機器學習是放射科醫生面臨的『最強大的威脅』。」甚至有人討論「我們是否應該考慮關閉放射學相關的研究所？」

就現實情況而言，在過去的幾年中，雖然有不少AI醫材獲得美國FDA核准上市，但這些智慧醫材實際上在臨床被醫師採用的比率並不高。 2019 年一個研究²指出，只有29%的臨床醫生表示正在使用或計劃使用 AI。此外，對於AI用在臨床決策輔助的信心，大約一半 (51%) 的受訪者回答「不太有信心」或「完全沒有信心」。

究竟，AI是醫師的威脅還是朋友? 面對AI這個看似強大的技術，究竟它對醫療能有甚麼幫助呢?

【AI是什麼?】

AI在這幾年引起熱烈的討論，但其實這個名詞早在1956年，便由與圖靈（Alan Turing）並稱「AI 之父」的約翰·麥卡錫（John McCarthy）提出，顧名思義泛指「透過普通電腦程式來呈現人類智慧的技術」。因此，AI所涵蓋的技術範疇非常廣(圖一)。以敗血症照護為例，無論是一個依據SIRS criteria設定的Rule-based model (只要病人的血壓、心跳、呼吸、白血球指數符合SIRS，就在電子病歷系統中跳出警示)、或是使用更多臨床參數，藉由複雜的ML模型訓練出來的敗血病預警系統(predictionmodel)，都可稱為AI。AlphaGo和目前大多數的AI應用，都僅是執行特定功能的「弱AI」，離能夠模擬人類大腦獨立思考的「強AI」還有相當程度的差距。所以，有關醫師將被AI取代的言論，著實是過度誇大了AI的能力。

【醫療AI的結果，真的可以信任嗎?】

目前大多數的醫療AI，都是運用ML技術所發展出來的。一個ML訓練和評估的流程簡單來說如【圖二】所示。因此，要評估一個醫療AI的結果可不可信，「訓練資料和測試資料的品質」是十分重要的關鍵因素。理想上，訓練資料和測試資料必須要完全獨立、而且兩者都應該要具有高度的異質性(heterogeneity)、涵蓋了目標患者的特性(例如: 如果此AI是要應用在急診室，拿ICU病人的資料作為訓練可能就不太合適)。此外。醫療機構在評估是否採用一個外部機構所發展出來的AI時，也應評估院內的病患特質，是否與當初模型的訓練資料類似。舉例來說，目前已知乳房的緻密度會因人種有所差異，因此，如果要使用西方國家所研發出來針對乳房攝影進行病灶偵測的AI，就要考量訓練資料中東方人資料的比例；同樣的，在審視對方提供的效能測試報告時，也要注意測試資料中東方人的比例。而如果是涉及影像和檢驗數據分析的AI，還要注意資料的取得方式，如取像設定、檢驗方式……等 (例如，不同醫院的CRP單位不同，要注意AI訓練集所用的單位和AI使用端的單位是否相同)。

【我可以自己發展AI用在我的病人身上嗎?】

當AI產出的資訊，具有達成診斷、治療、緩解或直接預防疾病等臨床用途時，即符合醫療器材管理法對於「醫療器材」的定義⁵，而需要在臨床使用前獲得監管單位的上市許可。但目前台灣食藥署，對於醫院內部自行開發之醫療AI，若僅限院內、未進行醫療AI之販售行為，並不將這些醫療AI以醫療器材列管而強制要求醫院須進行查驗登記。然醫療行為仍受醫療法與醫師法規範，因此所有的醫療處置皆須符合醫學倫理並具有正當性。

【結語】

在臨床照護面，AI不僅可以協助進行疾病的偵測，還可以協助進行檢傷分流、醫療影像的自動計數、定量；而放大到醫療領域，更涉及行政管理、用藥安全等電子病歷系統相關應用。儘管台灣的醫療AI發展，針對資料庫建置、資料標準化、數據應用相關法規….. 等面向都還有諸多挑戰需要克服。醫師身為醫療AI的目標用戶，應對AI有基本了解，懂得對資料進行審視了解AI的臨床限制和潛在的偏誤 (bias)，才能更好地與AI協作，優化工作流程並提升醫療照護的品質。

Reference:

1. Chockley K, Emanuel E. The End of Radiology? Three Threats to theFuture Practice of Radiology. J Am Coll Radiol. 2016 Dec;13(12 Pt A):1415-1420.

2. Obermeyer, Z. and J. N. Weinstein (2020). "Adoption ofArtificial Intelligence and Machine Learning Is Increasing, but IrrationalExuberance Remains." NEJM Catalyst 1(1).

3. Rudie JD, Rauschecker AM, Bryan RN, et al.; Emerging Applications ofArtificial Intelligence in Neuro-Oncology. Radiology. 2019 Mar;290(3):607-618.

4. Lin,P.-C.; Chen, K.-T.; Chen, H.-C.; et al.; Machine Learning Model to Identify SepsisPatients in the Emergency Department: Algorithm Development and Validation. J.Pers. Med. 2021, 11, 1055.

5. 醫療器材管理法第 3 條