新光醫院人工智慧生命週期標準流程圖

圖片說明

專案審查規則與評分標準

評分標準

圖片說明


圖片說明

🚨有關評分內容細節詳如表單:新光醫院_AI軟體評估表_v1.xlsx

新光醫療財團法人新光吳火獅紀念醫院人工智慧管理辦法

透明性原則與可解釋性分析

透明性原則

在醫療、AI、或數位健康領域中,為了確保系統或專案可被理解、信任與監管,所強調的九個透明面向。

可解釋性分析

圖片說明

圖片說明

1.AI詳情與輸出

說明 AI 在診斷流程中的運作機制(如模型類型、資料型態與來源),以及其輸出形式(如數值或文字),使醫師能清楚理解 AI 提供資訊的內容與使用方式。

2.AI目的

闡述 AI 在醫療診斷中的定位與應用目標,明確界定其功能與使用情境。

3.AI的警告範圍外使用

說明 AI 的適用對象、臨床場景及使用限制,避免被誤用於不適合的情境或族群。

4.AI開發詳情與輸入特徵

揭露 AI 的開發過程,包括訓練資料來源、資料前處理方式及主要輸入特徵,以提升系統透明度。

5.確保AI開發公平性的過程

說明在模型開發過程中如何納入公平性考量(如性別、年齡、疾病嚴重度等分布),以降低潛在偏差並提升模型公正性。

6.外部驗證過程

描述 AI 模型於外部資料上的驗證方式與資料來源,確保其在不同環境與族群中的適用性與穩定性。

7.模型表現的量化指標

提供模型表現的量化評估指標,作為醫療團隊評估其臨床應用價值與可靠性的依據。

8.AI實施與使用的持續維護

說明 AI 系統於臨床導入後的維運與監控機制,以確保系統穩定運作。

9.更新和持續驗證或公平性評估計畫

建立 AI 全生命週期管理制度,包含模型更新、再驗證及公平性再評估機制,必要時可進行調整或停用,以確保醫療安全與品質。