🗺️ ISO 42001 地圖
ISO/IEC 42001:2023・附錄 A・透明與負責任使用

透明與負責任使用:給利害關係者的資訊

AI 系統上線後,用的人要知道怎麼用、被影響的人要有地方說、主管機關要拿得到該拿的資料,而系統本身也只能用在它被設計來做的事情上。

實驗室:資訊揭露設計台 實驗室:預期用途守門員 A.8 與 A.9 七項控制的分工

💡 先搞懂問題

想像一家替企業客戶篩選履歷的招募平台(虛構),導入 AI 為履歷排序。上線半年後陸續出現狀況:求職者不知道自己的履歷先被 AI 看過,被刷掉也不知道能問誰;客戶公司的招募人員把排序當成結論,排在後面的履歷幾乎沒人打開;有人在社群上抱怨轉職者都被排到最後,平台卻是最後一個知道的;主管機關來函詢問篩選方式,團隊花了兩週才湊出說明;後來還有客戶直接拿同一套模型去排內部升遷名單。

這些狀況可以歸成兩類。第一類是資訊沒有送到對的人手上:該知道的人不知道,想反映的人找不到門,被問的時候拿不出來。第二類是系統被用在沒設計過的地方:模型在新情境裡表現如何,沒有人測過,也沒有人評估過會傷到誰。

ISO/IEC 42001 附錄 A 用兩組控制處理這兩類問題。A.8 給利害關係者的資訊(Information for interested parties of AI systems)管「誰該知道什麼、誰能回報什麼」;A.9 AI 系統的使用(Use of AI systems)管「這個系統該怎麼用、能用到哪裡」。它們背後是附錄 C 的兩個 AI 目標:透明與可解釋(transparency and explainability,讓人知道有 AI 參與、它大致怎麼運作、某個結果為什麼產生)與可問責性(accountability,結果追得到負責的人,出事時有人能說明與處理)。

預期用途 A.9.4 AI 系統 負責任使用 A.9.2 流程・A.9.3 目標 使用者 員工或客戶 A.8.2 說明 A.8.4 事故通知 受影響者 外部的人 A.8.3 回報 由外而內 主管機關・客戶 依法規或合約 A.8.5 義務揭露 A.8 管資訊流向,A.9 管用途邊界
紫色箭頭是組織送出去的資訊,橘色箭頭是外部的人送進來的回報。

生活比喻:藥盒、仿單與適應症

到藥局買一盒感冒藥,藥盒上會用白話寫著這是什麼藥、緩解哪些症狀、一天吃幾次、哪些人不適合吃、可能有哪些副作用;盒子裡的仿單更完整,主要寫給醫師與藥師看。吃了之後若出現嚴重過敏,民眾、醫師或藥師都可以通報藥物不良反應。藥廠如果發現某一批藥有問題,會發布回收並通知藥局與民眾。藥廠也要依規定向衛生主管機關提交各種資料。最後,這盒藥只適合用在標示的症狀上,拿感冒藥去治失眠,出了事很難說是藥的問題。

這一套安排讓每一方都拿到自己需要的資訊:民眾知道怎麼吃,專業人員知道細節,主管機關掌握得到全貌,而出了狀況,消息可以從外面傳回藥廠,也可以從藥廠傳出去。

回到 AIMS:藥盒上的白話說明,對應 A.8.2 給使用者的系統文件與資訊;不良反應通報對應 A.8.3 外部回報,方向是由外而內,讓組織以外的人能告訴組織「你的 AI 對我造成了問題」,不是組織對外發布報告;批次回收通知對應 A.8.4 事故溝通;向主管機關提交資料對應 A.8.5 給利害關係者的資訊。藥只用在適應症上,對應 A.9.4 預期用途;醫院決定哪些藥能進院內處方集、開藥後由誰覆核,則接近 A.9.2 負責任使用的流程,而醫院希望用藥達成的品質目標,對應 A.9.3 負責任使用的目標。

這個比喻有三個地方要小心。第一,藥品標示的內容、上市審查與不良反應通報大多由法規明定;AIMS 裡除了法規另有要求的部分,要揭露哪些資訊、用什麼形式、回報管道怎麼設計,多半由組織依風險自行決定。第二,藥的成分出廠後就固定了,AI 系統卻會改版、重新訓練,表現也可能隨資料變化而漂移,所以給使用者的說明要跟著版本更新。第三,醫療上醫師有時會依專業判斷在適應症以外用藥;在 AIMS 裡,把 AI 系統用在預期用途以外,應該當成變更處理,先重新評估再決定,不能靠個人判斷直接擴大。

🎮 互動實驗室一:資訊揭露設計台

下面有兩個虛構的 AI 服務,先選一個。表格每一列是一項資訊,三欄是三種對象。點一下格子代表「要提供給這個對象」,再點一次取消,下方會立刻說明這個選擇合不合理。設計完成後按「檢查整體設計」,系統會標出缺漏與過度揭露。標準沒有規定一份固定的揭露清單,這裡的判定是依情境風險做的示意。

已選擇提供 缺漏(必要卻沒給) 過度揭露 建議補上
畫面說明:目前每一格都還沒選。紫色實心格代表會提供給該對象;按下檢查後,紅色虛線框是缺漏,紅色實心是過度揭露,橘色虛線是建議補上的項目。

🎮 互動實驗室二:預期用途守門員

你是 AI 治理窗口,各部門會拿著新的使用方式來問「可不可以這樣用」。每張卡片上方是該系統登記在 AI 系統清冊裡的預期用途與禁止用途,請判斷這個用法屬於哪一類:用途內照既有規則使用;先評估再擴充表示超出目前用途,要走變更、重做評估、經核准後才可能放行;應禁止表示明列禁止或明顯不可接受。

得分 0 / 0
連續答對 0
畫面說明:綠色核心是預期用途,黃色環是可以評估後擴充的範圍,紅色外圍是不該進入的區域。

📘 原理補完

七項控制,各管一段資訊流或用途邊界

A.8 有四項控制,A.9 有三項。用資訊的方向來記最清楚:A.8.2、A.8.4、A.8.5 是組織把資訊送出去,A.8.3 是外部的人把回報送進來;A.9 則是組織自己管好「怎麼用」。下表用白話整理每一項在做什麼,條文原文請以 ISO 正式出版品為準。

控制資訊方向主要對象組織要做的事(白話)稽核常看的證據
A.8.2 使用者資訊組織 → 使用者內部員工或外部使用者判斷使用者需要知道什麼才能正確使用,並提供給他們:AI 參與的告知、用途與限制、輸出怎麼解讀、怎麼找真人介面上的告知、使用說明、訓練教材;訪談使用者是否知道限制
A.8.3 外部回報外部 → 組織使用者、受影響者、其他外部利害關係者讓組織以外的人能回報 AI 造成的負面影響,並有人受理、分類、調查與回覆回報入口、受理流程、處理紀錄、趨勢分析、連回風險評鑑的紀錄
A.8.4 事故溝通組織 → 使用者受事故影響的使用者事先決定並記錄 AI 事故發生時,要通知誰、何時、用什麼管道、說什麼事故溝通計畫、分級標準、通知範本、演練或實際通知紀錄
A.8.5 利害關係者資訊組織 → 外部主管機關、企業客戶等盤點並記錄依法規、指引或合約必須對外提供哪些 AI 系統資訊揭露義務清冊、實際提供紀錄、法規更新時的維護方式
A.9.2 使用流程組織內部使用 AI 的部門與員工定義並記錄負責任使用 AI 的流程:導入審查、核准工具、輸入限制、人工覆核使用規範、核准工具清單、覆核紀錄、訓練紀錄
A.9.3 使用目標組織內部管理階層與使用部門找出並記錄引導負責任使用的目標,轉成可觀察的指標並定期檢討目標文件、量測紀錄、未達成時的調整紀錄
A.9.4 預期用途組織內部系統擁有者與使用部門確保 AI 系統依預期用途與隨附文件使用,用途擴大時重新評估清冊上的預期與禁止用途、實際使用情形、用途變更的評估紀錄

標準要求的是「做這些事」:判斷並提供使用者資訊、提供外部回報的能力、決定並記錄事故溝通方式、盤點對外揭露義務、訂出使用流程與目標、守住預期用途。至於揭露清單長什麼樣子、回報管道用表單還是專線、事故通知的時限、使用目標要訂幾個、門檻多少,標準都沒有規定,由組織依法規、合約與風險自行決定。法規另有要求時要一併納入,例如歐盟 AI 法(EU AI Act)第 50 條對與人互動的 AI 系統、生成內容標示等情境訂有透明義務,自 2026 年 8 月 2 日起適用,部分過渡安排經 2026 年的數位綜合法案調整,細節以歐盟官方公告為準;台灣的人工智慧基本法把「透明與可解釋」與「問責」列為基本原則,具體義務要看各目的事業主管機關後續的規範。

設計揭露內容的四個步驟

  1. 列出對象:誰在操作系統(使用者)、誰被結果影響(受影響者,ISO/IEC 22989 稱為 AI 主體)、誰有權要求資料(主管機關、企業客戶)。這三群人常常不是同一群。
  2. 對每一類對象問:「他要做什麼決定、需要知道什麼才能做對?」使用者需要用途、限制與怎麼解讀輸出;受影響者需要知道有 AI 參與、怎麼申訴與回報;主管機關需要方法、測試與風險管理的證據。
  3. 檢查過度揭露:公開後會不會讓人繞過防護(例如完整提示詞、過濾規則、評分權重)、會不會洩漏他人個資或營業秘密。常見做法是分層:一般資訊公開、細節依請求提供、敏感內容在保密條件下交給有權限的對象。
  4. 接上其他控制:說明要跟著系統版本更新;說明裡的回報入口要接到 A.8.3 的受理流程;事故時用 A.8.4 的計畫通知;對外義務記在 A.8.5 的清冊裡。

新用法來了,怎麼判斷

  1. 先查 AI 系統清冊上這個系統的預期用途與禁止用途。明列禁止的,直接擋下;若組織真的想改變禁止事項,那是政策層級的決定,要回到 AI 政策、使用目標與影響評估,不是現場調整設定。
  2. 沒有明列的,檢查四個面向有沒有變:使用對象(員工變客戶)、資料(換了族群、語言、產品線)、決策影響(從參考變成自動決定)、使用環境(光源、市場、法規)。任何一項明顯改變,就屬於超出目前用途。
  3. 超出用途就當成變更處理:依條文 6.3 變更的規劃,重做 8.2 風險評鑑與 8.4 影響評估,必要時重新驗證模型,再由有權限的人核准。
  4. 放行後同步更新清冊上的預期用途、A.8.2 給使用者的說明與回報管道,並在上線初期加強監控。評估結果不可接受時,答案就是不擴充。

還有一個常被忽略的概念:可合理預見的誤用(reasonably foreseeable misuse),指雖然不在用途內、但可以預料使用者會這樣做的情境,例如員工把內部助理的回答原封不動寄給客戶。良好做法是在風險評鑑裡一併考慮,用訓練、介面提示或技術限制降低它發生的機會,而不只是在規範裡寫一句「禁止」。

和 ISO 27001 對照

有 ISMS 經驗的讀者可以這樣接:27001 附錄 A 的 5.10 資訊及其他相關資產的可接受使用,是 A.9.2 與 A.9.4 的起點,但 42001 多了人工覆核、輸出驗證與用途邊界;5.24 到 5.26 的事件管理流程可以和 A.8.4 共用,只是要把 AI 事故(例如大量誤判、歧視性結果、生成不實內容)加進事故定義;5.5 與主管機關的聯繫、5.31 法規與合約要求的盤點,可以延伸成 A.8.5 的揭露義務清冊。A.8.2 給使用者的系統資訊、A.8.3 外部回報管道、A.9.3 使用目標則沒有直接對應,是 42001 新增的工作。

常見誤解

透明等於全部公開:透明是揭露適當的資訊給適當的對象,不是公開原始碼、提示詞或評分權重。公開防護細節反而會讓系統更容易被繞過。透明和可解釋也不同:透明是讓人知道有 AI、用途與限制是什麼;可解釋是針對某一個結果說明主要依據。

外部回報就是對外發布報告:A.8.3 的方向是由外而內,重點是外部的人找得到入口、回報有人接手。組織主動對外提供資訊屬於 A.8.5;員工對 AI 用法提出疑慮的內部管道屬於 A.3.3。

有客服信箱就算有回報管道:信箱存在只是第一步。稽核時會追問:AI 相關的回報能不能被辨識出來、誰負責分類與調查、多久回覆、同類回報有沒有做趨勢分析、重大回報有沒有進入事故處理或觸發風險重新評鑑。

只用不開發,A.9 跟我們無關:正好相反。主要角色是 AI 使用者的組織,A.9 往往是附錄 A 的核心;採購外部服務時,還要遵守供應商的用途說明與可接受使用政策。

稽核常見的不符合

生成式 AI 客服沒有任何「正在與 AI 對話」的提示;內部 AI 工具的說明沒提到輸出可能捏造內容,員工直接把結果交給客戶;回報按鈕收集到的資料沒人看;事故程序只涵蓋資安事故,模型輸出錯誤造成客戶損失時沒有通知機制;揭露義務只盤點了個資法規;原本給員工用的 AI 助理被直接嵌到官網,沒有重做風險與影響評估;使用目標全部是效率指標,和 AI 政策強調的人類監督互相矛盾。

✅ 自我檢測

以下 6 題都是原創情境題,選完會立即顯示對錯與解析。目前得分:0 / 6