新光醫院人工智慧生命週期標準流程圖

圖片說明

專案審查規則與評分標準

評分標準

一、臨床卓越與安全性 (Clinical Excellence & Safety):(35%)

  • 模型準確度與臨床一致性 (Accuracy & Consistency)
  • 異常值偵測與風險警示 (Outlier Detection)
  • 病患安全防護機制 (Safety Protocols)

【核心:符合衛福部查驗登記與臨床實證】

  • 敏感度/特異度是否優於現行標準?是否經過院內資料驗證?
  • 遇到非訓練範圍的案例,系統是否會發出「低信心度」警示?
  • 軟體失效時的備援流程(Fallback plan)是否明確?

二、系統整合與資安 (IT Integration & Cybersecurity):(25%)

  • 院內系統整合度 (HIS/PACS/NIS Integration)
  • 資安合規性 (Cybersecurity & Privacy)
  • 系統維運與更新機制 (Maintenance & DevOps)

【核心:符合新光醫院 HIS/PACS 架構】

  • 是否支援 HL7/FHIR 標準?能否無縫寫入病歷或影像報告?
  • 是否通過弱點掃描?符合 ISO 27001 及個資法規範?
  • 廠商是否提供定期模型校正(Re-calibration)服務?

三、負責性 AI 與治理 (Responsible AI & Governance):(25%)

  • 可解釋性與透明度 (Explainability / XAI)
  • 人類監督機制 (Human-in-the-loop)
  • 模型生命週期管理 (Lifecycle Management)

【核心:針對 2026 負責性 AI 中心認證重點】

  • AI 的決策邏輯是否可視化(如 Heatmap)?醫師能否理解?
  • 是否強制要求醫師最終確認?介面設計是否避免「自動化偏見」?
  • 是否具備持續監測模型效能衰退(Drift)的儀表板?

四、營運效益與創新價值 (Operational Value & ESG):(15%)

  • 成本效益分析 (ROI / Cost-Benefit)
  • 病患體驗與衛教應用 (Patient Engagement)
  • ESG 與永續指標 (Sustainability)

【核心:針對院方營運考量】

  • 預估節省的人力工時或增加的服務量能(需量化數據)。
  • 輸出結果是否可轉化為病患易懂的衛教素材?
  • 是否採用低耗能演算法或有助於無紙化流程?

備註: 

 75分以上=推薦

 60~75分=修正後推薦

 60分以下=不推薦

🚨有關評分內容細節詳如表單:新光醫院_AI軟體評估表_v1.xlsx

新光醫療財團法人新光吳火獅紀念醫院人工智慧管理辦法

透明性原則與可解釋性分析

透明性原則

在醫療、AI、或數位健康領域中,為了確保系統或專案可被理解、信任與監管,所強調的九個透明面向。

可解釋性分析

圖片說明

1.AI詳情與輸出

說明 AI 在診斷流程中的運作機制(如模型類型、資料型態與來源),以及其輸出形式(如數值或文字),使醫師能清楚理解 AI 提供資訊的內容與使用方式。

2.AI目的

闡述 AI 在醫療診斷中的定位與應用目標,明確界定其功能與使用情境。

3.AI的警告範圍外使用

說明 AI 的適用對象、臨床場景及使用限制,避免被誤用於不適合的情境或族群。

4.AI開發詳情與輸入特徵

揭露 AI 的開發過程,包括訓練資料來源、資料前處理方式及主要輸入特徵,以提升系統透明度。

5.確保AI開發公平性的過程

說明在模型開發過程中如何納入公平性考量(如性別、年齡、疾病嚴重度等分布),以降低潛在偏差並提升模型公正性。

6.外部驗證過程

描述 AI 模型於外部資料上的驗證方式與資料來源,確保其在不同環境與族群中的適用性與穩定性。

7.模型表現的量化指標

提供模型表現的量化評估指標,作為醫療團隊評估其臨床應用價值與可靠性的依據。

8.AI實施與使用的持續維護

說明 AI 系統於臨床導入後的維運與監控機制,以確保系統穩定運作。

9.更新和持續驗證或公平性評估計畫

建立 AI 全生命週期管理制度,包含模型更新、再驗證及公平性再評估機制,必要時可進行調整或停用,以確保醫療安全與品質。