新光醫院人工智慧生命週期標準流程圖
專案審查規則與評分標準
評分標準
新光醫療財團法人新光吳火獅紀念醫院人工智慧管理辦法
透明性原則與可解釋性分析
透明性原則
在醫療、AI、或數位健康領域中,為了確保系統或專案可被理解、信任與監管,所強調的九個透明面向。
可解釋性分析


1.AI詳情與輸出
說明 AI 在診斷流程中的運作機制(如模型類型、資料型態與來源),以及其輸出形式(如數值或文字),使醫師能清楚理解 AI 提供資訊的內容與使用方式。
2.AI目的
闡述 AI 在醫療診斷中的定位與應用目標,明確界定其功能與使用情境。
3.AI的警告範圍外使用
說明 AI 的適用對象、臨床場景及使用限制,避免被誤用於不適合的情境或族群。
4.AI開發詳情與輸入特徵
揭露 AI 的開發過程,包括訓練資料來源、資料前處理方式及主要輸入特徵,以提升系統透明度。
5.確保AI開發公平性的過程
說明在模型開發過程中如何納入公平性考量(如性別、年齡、疾病嚴重度等分布),以降低潛在偏差並提升模型公正性。
6.外部驗證過程
描述 AI 模型於外部資料上的驗證方式與資料來源,確保其在不同環境與族群中的適用性與穩定性。
7.模型表現的量化指標
提供模型表現的量化評估指標,作為醫療團隊評估其臨床應用價值與可靠性的依據。
8.AI實施與使用的持續維護
說明 AI 系統於臨床導入後的維運與監控機制,以確保系統穩定運作。
9.更新和持續驗證或公平性評估計畫
建立 AI 全生命週期管理制度,包含模型更新、再驗證及公平性再評估機制,必要時可進行調整或停用,以確保醫療安全與品質。
