💡 先搞懂問題
想像一家替企業客戶篩選履歷的招募平台(虛構),導入 AI 為履歷排序。上線半年後陸續出現狀況:求職者不知道自己的履歷先被 AI 看過,被刷掉也不知道能問誰;客戶公司的招募人員把排序當成結論,排在後面的履歷幾乎沒人打開;有人在社群上抱怨轉職者都被排到最後,平台卻是最後一個知道的;主管機關來函詢問篩選方式,團隊花了兩週才湊出說明;後來還有客戶直接拿同一套模型去排內部升遷名單。
這些狀況可以歸成兩類。第一類是資訊沒有送到對的人手上:該知道的人不知道,想反映的人找不到門,被問的時候拿不出來。第二類是系統被用在沒設計過的地方:模型在新情境裡表現如何,沒有人測過,也沒有人評估過會傷到誰。
ISO/IEC 42001 附錄 A 用兩組控制處理這兩類問題。A.8 給利害關係者的資訊(Information for interested parties of AI systems)管「誰該知道什麼、誰能回報什麼」;A.9 AI 系統的使用(Use of AI systems)管「這個系統該怎麼用、能用到哪裡」。它們背後是附錄 C 的兩個 AI 目標:透明與可解釋(transparency and explainability,讓人知道有 AI 參與、它大致怎麼運作、某個結果為什麼產生)與可問責性(accountability,結果追得到負責的人,出事時有人能說明與處理)。
生活比喻:藥盒、仿單與適應症
到藥局買一盒感冒藥,藥盒上會用白話寫著這是什麼藥、緩解哪些症狀、一天吃幾次、哪些人不適合吃、可能有哪些副作用;盒子裡的仿單更完整,主要寫給醫師與藥師看。吃了之後若出現嚴重過敏,民眾、醫師或藥師都可以通報藥物不良反應。藥廠如果發現某一批藥有問題,會發布回收並通知藥局與民眾。藥廠也要依規定向衛生主管機關提交各種資料。最後,這盒藥只適合用在標示的症狀上,拿感冒藥去治失眠,出了事很難說是藥的問題。
這一套安排讓每一方都拿到自己需要的資訊:民眾知道怎麼吃,專業人員知道細節,主管機關掌握得到全貌,而出了狀況,消息可以從外面傳回藥廠,也可以從藥廠傳出去。
這個比喻有三個地方要小心。第一,藥品標示的內容、上市審查與不良反應通報大多由法規明定;AIMS 裡除了法規另有要求的部分,要揭露哪些資訊、用什麼形式、回報管道怎麼設計,多半由組織依風險自行決定。第二,藥的成分出廠後就固定了,AI 系統卻會改版、重新訓練,表現也可能隨資料變化而漂移,所以給使用者的說明要跟著版本更新。第三,醫療上醫師有時會依專業判斷在適應症以外用藥;在 AIMS 裡,把 AI 系統用在預期用途以外,應該當成變更處理,先重新評估再決定,不能靠個人判斷直接擴大。
🎮 互動實驗室一:資訊揭露設計台
下面有兩個虛構的 AI 服務,先選一個。表格每一列是一項資訊,三欄是三種對象。點一下格子代表「要提供給這個對象」,再點一次取消,下方會立刻說明這個選擇合不合理。設計完成後按「檢查整體設計」,系統會標出缺漏與過度揭露。標準沒有規定一份固定的揭露清單,這裡的判定是依情境風險做的示意。
🎮 互動實驗室二:預期用途守門員
你是 AI 治理窗口,各部門會拿著新的使用方式來問「可不可以這樣用」。每張卡片上方是該系統登記在 AI 系統清冊裡的預期用途與禁止用途,請判斷這個用法屬於哪一類:用途內照既有規則使用;先評估再擴充表示超出目前用途,要走變更、重做評估、經核准後才可能放行;應禁止表示明列禁止或明顯不可接受。
📘 原理補完
七項控制,各管一段資訊流或用途邊界
A.8 有四項控制,A.9 有三項。用資訊的方向來記最清楚:A.8.2、A.8.4、A.8.5 是組織把資訊送出去,A.8.3 是外部的人把回報送進來;A.9 則是組織自己管好「怎麼用」。下表用白話整理每一項在做什麼,條文原文請以 ISO 正式出版品為準。
| 控制 | 資訊方向 | 主要對象 | 組織要做的事(白話) | 稽核常看的證據 |
|---|---|---|---|---|
| A.8.2 使用者資訊 | 組織 → 使用者 | 內部員工或外部使用者 | 判斷使用者需要知道什麼才能正確使用,並提供給他們:AI 參與的告知、用途與限制、輸出怎麼解讀、怎麼找真人 | 介面上的告知、使用說明、訓練教材;訪談使用者是否知道限制 |
| A.8.3 外部回報 | 外部 → 組織 | 使用者、受影響者、其他外部利害關係者 | 讓組織以外的人能回報 AI 造成的負面影響,並有人受理、分類、調查與回覆 | 回報入口、受理流程、處理紀錄、趨勢分析、連回風險評鑑的紀錄 |
| A.8.4 事故溝通 | 組織 → 使用者 | 受事故影響的使用者 | 事先決定並記錄 AI 事故發生時,要通知誰、何時、用什麼管道、說什麼 | 事故溝通計畫、分級標準、通知範本、演練或實際通知紀錄 |
| A.8.5 利害關係者資訊 | 組織 → 外部 | 主管機關、企業客戶等 | 盤點並記錄依法規、指引或合約必須對外提供哪些 AI 系統資訊 | 揭露義務清冊、實際提供紀錄、法規更新時的維護方式 |
| A.9.2 使用流程 | 組織內部 | 使用 AI 的部門與員工 | 定義並記錄負責任使用 AI 的流程:導入審查、核准工具、輸入限制、人工覆核 | 使用規範、核准工具清單、覆核紀錄、訓練紀錄 |
| A.9.3 使用目標 | 組織內部 | 管理階層與使用部門 | 找出並記錄引導負責任使用的目標,轉成可觀察的指標並定期檢討 | 目標文件、量測紀錄、未達成時的調整紀錄 |
| A.9.4 預期用途 | 組織內部 | 系統擁有者與使用部門 | 確保 AI 系統依預期用途與隨附文件使用,用途擴大時重新評估 | 清冊上的預期與禁止用途、實際使用情形、用途變更的評估紀錄 |
標準要求的是「做這些事」:判斷並提供使用者資訊、提供外部回報的能力、決定並記錄事故溝通方式、盤點對外揭露義務、訂出使用流程與目標、守住預期用途。至於揭露清單長什麼樣子、回報管道用表單還是專線、事故通知的時限、使用目標要訂幾個、門檻多少,標準都沒有規定,由組織依法規、合約與風險自行決定。法規另有要求時要一併納入,例如歐盟 AI 法(EU AI Act)第 50 條對與人互動的 AI 系統、生成內容標示等情境訂有透明義務,自 2026 年 8 月 2 日起適用,部分過渡安排經 2026 年的數位綜合法案調整,細節以歐盟官方公告為準;台灣的人工智慧基本法把「透明與可解釋」與「問責」列為基本原則,具體義務要看各目的事業主管機關後續的規範。
設計揭露內容的四個步驟
- 列出對象:誰在操作系統(使用者)、誰被結果影響(受影響者,ISO/IEC 22989 稱為 AI 主體)、誰有權要求資料(主管機關、企業客戶)。這三群人常常不是同一群。
- 對每一類對象問:「他要做什麼決定、需要知道什麼才能做對?」使用者需要用途、限制與怎麼解讀輸出;受影響者需要知道有 AI 參與、怎麼申訴與回報;主管機關需要方法、測試與風險管理的證據。
- 檢查過度揭露:公開後會不會讓人繞過防護(例如完整提示詞、過濾規則、評分權重)、會不會洩漏他人個資或營業秘密。常見做法是分層:一般資訊公開、細節依請求提供、敏感內容在保密條件下交給有權限的對象。
- 接上其他控制:說明要跟著系統版本更新;說明裡的回報入口要接到 A.8.3 的受理流程;事故時用 A.8.4 的計畫通知;對外義務記在 A.8.5 的清冊裡。
新用法來了,怎麼判斷
- 先查 AI 系統清冊上這個系統的預期用途與禁止用途。明列禁止的,直接擋下;若組織真的想改變禁止事項,那是政策層級的決定,要回到 AI 政策、使用目標與影響評估,不是現場調整設定。
- 沒有明列的,檢查四個面向有沒有變:使用對象(員工變客戶)、資料(換了族群、語言、產品線)、決策影響(從參考變成自動決定)、使用環境(光源、市場、法規)。任何一項明顯改變,就屬於超出目前用途。
- 超出用途就當成變更處理:依條文 6.3 變更的規劃,重做 8.2 風險評鑑與 8.4 影響評估,必要時重新驗證模型,再由有權限的人核准。
- 放行後同步更新清冊上的預期用途、A.8.2 給使用者的說明與回報管道,並在上線初期加強監控。評估結果不可接受時,答案就是不擴充。
還有一個常被忽略的概念:可合理預見的誤用(reasonably foreseeable misuse),指雖然不在用途內、但可以預料使用者會這樣做的情境,例如員工把內部助理的回答原封不動寄給客戶。良好做法是在風險評鑑裡一併考慮,用訓練、介面提示或技術限制降低它發生的機會,而不只是在規範裡寫一句「禁止」。
和 ISO 27001 對照
有 ISMS 經驗的讀者可以這樣接:27001 附錄 A 的 5.10 資訊及其他相關資產的可接受使用,是 A.9.2 與 A.9.4 的起點,但 42001 多了人工覆核、輸出驗證與用途邊界;5.24 到 5.26 的事件管理流程可以和 A.8.4 共用,只是要把 AI 事故(例如大量誤判、歧視性結果、生成不實內容)加進事故定義;5.5 與主管機關的聯繫、5.31 法規與合約要求的盤點,可以延伸成 A.8.5 的揭露義務清冊。A.8.2 給使用者的系統資訊、A.8.3 外部回報管道、A.9.3 使用目標則沒有直接對應,是 42001 新增的工作。
常見誤解
透明等於全部公開:透明是揭露適當的資訊給適當的對象,不是公開原始碼、提示詞或評分權重。公開防護細節反而會讓系統更容易被繞過。透明和可解釋也不同:透明是讓人知道有 AI、用途與限制是什麼;可解釋是針對某一個結果說明主要依據。
外部回報就是對外發布報告:A.8.3 的方向是由外而內,重點是外部的人找得到入口、回報有人接手。組織主動對外提供資訊屬於 A.8.5;員工對 AI 用法提出疑慮的內部管道屬於 A.3.3。
有客服信箱就算有回報管道:信箱存在只是第一步。稽核時會追問:AI 相關的回報能不能被辨識出來、誰負責分類與調查、多久回覆、同類回報有沒有做趨勢分析、重大回報有沒有進入事故處理或觸發風險重新評鑑。
只用不開發,A.9 跟我們無關:正好相反。主要角色是 AI 使用者的組織,A.9 往往是附錄 A 的核心;採購外部服務時,還要遵守供應商的用途說明與可接受使用政策。
稽核常見的不符合
生成式 AI 客服沒有任何「正在與 AI 對話」的提示;內部 AI 工具的說明沒提到輸出可能捏造內容,員工直接把結果交給客戶;回報按鈕收集到的資料沒人看;事故程序只涵蓋資安事故,模型輸出錯誤造成客戶損失時沒有通知機制;揭露義務只盤點了個資法規;原本給員工用的 AI 助理被直接嵌到官網,沒有重做風險與影響評估;使用目標全部是效率指標,和 AI 政策強調的人類監督互相矛盾。
✅ 自我檢測
以下 6 題都是原創情境題,選完會立即顯示對錯與解析。目前得分:0 / 6