加 Line 領取免費課程、GCP 教學電子書、轉職攻略

東東 GCP 教學 - GCP 實戰講師

聯絡我

可解釋 AI 是什麼？Shapley、Integrated Gradients、XRAI

可解釋 AI 是算出每個特徵對預測貢獻多少：樹模型用 Sampled Shapley，神經網路用 Integrated Gradients。

模型說 M002 會流失、說這張封膜有問題，為什麼？ 老闆問、客戶問、法規問，你答不出來，模型就只是一個黑盒子。可解釋 AI 就是打開黑盒子的工具：它不改模型，而是算出「這次預測，每個特徵各出了多少力」。

這篇有一個重要的現況：Google 的 Vertex Explainable AI 已在 2026 年 3 月 16 日淘汰，2027 年 3 月 16 日停用。概念和方法沒變（考試還是考），但工具要換成 SHAP、LIME 這類開源套件，或 BigQuery ML 內建的解釋函數。文末會整理。

一樣用有 2,000 間分店、50 萬名會員的連鎖飲料店當例子（教學假設）：流失模型（表格）和封膜檢查模型（影像）。

可解釋 AI 是什麼：Shapley 值的概念是把每個特徵當成合作的玩家，依它在各種組合裡的平均貢獻分配功勞；兩位員工單獨做 10 和 20、合作做 40，Shapley 值是 15 和 25；線性模型的歸因等於權重乘標準化後的特徵值

為什麼你需要知道

  • 法規和信任：金融、醫療、保險的模型，被拒絕的人有權知道原因。BigQuery 的可解釋 AI 文件說，特徵歸因可以用來「確認模型行為符合預期、找出偏見、改進模型和訓練資料」
  • 除錯：Vertex Explainable AI 總覽說，特徵歸因能抓到「標準評估方法通常會漏掉的資料問題」。第 8 篇的資料洩漏，常常是看到某個特徵貢獻大到不合理才發現的
  • 監控要用：第 20 篇的特徵歸因漂移、偏見監控，底層就是這篇的方法
  • 證照必考：PMLE 考試指南 6.1「Agent Platform 上的模型可解釋性」；3.1「依可解釋性需求選建模技術」；6.1「監控偏見」。筆記裡的採樣 Shapley、整合梯度、XRAI 三個名詞全在這篇

先搞懂：可解釋 AI 是什麼

白話是什麼

可解釋 AI（Explainable AI，XAI）：讓人看懂模型為什麼做出某個預測的方法。最主要的做法是特徵歸因（feature attribution）：算出每個特徵對這次預測的貢獻值，有正有負，加起來等於預測值和基準值的差。

比喻

一碗牛肉麵好吃，到底是湯、麵、肉、還是辣油的功勞？特徵歸因就是「給每樣材料打分數」：湯 +4、肉 +3、麵 +1、辣油 −1，加起來是這碗麵比「平均水準」好吃多少。

兩種解釋：局部和全域

BigQuery 的文件分得很清楚：

局部解釋（local）全域解釋（global）
白話這一筆預測，每個特徵貢獻多少模型整體最看重哪些特徵
怎麼算對單一樣本算歸因把全部樣本的歸因彙總（取絕對值平均）
飲料店M002 為什麼被判會流失流失模型整體最看「距上次消費天數」
BigQuery MLML.EXPLAIN_PREDICTML.GLOBAL_EXPLAIN、ML.FEATURE_IMPORTANCE

來龍去脈

模型越強越像黑盒子：線性迴歸（第 2 篇）的權重一看就懂，但 XGBoost 幾百棵樹、神經網路幾百萬個參數，沒人看得懂。2017 年前後，SHAP、Integrated Gradients 這些方法陸續出來，Google 把它們整合進 Vertex AI 叫 Vertex Explainable AI。現在 Google 把它淘汰，建議回頭用開源的 SHAP 和 LIME，BigQuery ML 則把解釋功能內建在 SQL 函數裡。

為什麼要學

考試 3.1 有一條「依可解釋性需求選建模技術」：題目說「法規要求能解釋每筆決定」，答案可能是選線性模型、樹模型這種本身就可解釋的，或是用特徵歸因。分不清就選錯。

1. Shapley 值：公平分功勞的數學

白話是什麼

Shapley 值（Shapley value）：把每個特徵當成一個「玩家」，算它在所有可能的合作組合裡平均貢獻多少，當作它的功勞。Vertex Explainable AI 文件說，三種特徵歸因方法都是以 Shapley 值為基礎，它來自合作賽局理論（cooperative game theory），專門處理「一群人一起做出一個結果，功勞怎麼分」。

算一次給你看：兩個員工分獎金

飲料店兩位員工 A、B，單獨做一天業績 A 是 10 杯、B 是 20 杯，一起做是 40 杯（有合作效應）。獎金怎麼分才公平？

Shapley 的算法：考慮每種加入順序，看每個人「加入時多帶來多少」：

順序 1：A 先來，B 後來
  A 加入：0 → 10，帶來 10
  B 加入：10 → 40，帶來 30

順序 2：B 先來，A 後來
  B 加入：0 → 20，帶來 20
  A 加入：20 → 40，帶來 20

A 的 Shapley 值 = (10 + 20) ÷ 2 = 15
B 的 Shapley 值 = (30 + 20) ÷ 2 = 25
15 + 25 = 40 ✓（功勞加起來等於總業績）

數字怎麼看：

  • A 單獨只做 10，但分到 15，因為他跟 B 合作時貢獻更大。這就是 Shapley 值的優點：考慮了交互作用（第 11 篇的特徵交叉）
  • 功勞一定加總等於結果，這是它被選為特徵歸因標準的原因

套到模型：每個「玩家」是一個特徵，「業績」是預測值減掉基準值。

線性模型的 Shapley 值：直接算

BigQuery 的文件給了一個簡單的公式：線性和邏輯迴歸的 Shapley 值＝模型權重 × 標準化後的特徵值（權重是用標準化特徵訓練出來的）。

流失模型（邏輯迴歸，第 15 篇）的權重和會員 M002 的標準化特徵值（教學假設）：

特徵權重M002 標準化後的值歸因＝權重 × 值
距上次消費天數+0.8+2.0（比平均久很多）+1.6
90 天來店次數−0.6−1.5（比平均少很多）+0.9
平均客單價−0.2+0.5（略高）−0.1
合計+2.4

標準化是第 10 篇講的：減平均、除以標準差，0 代表「平均的會員」。

怎麼讀：

  • 基準是「平均的會員」，M002 比平均多了 +2.4 的流失分數（這是進 sigmoid 之前的分數，第 2 篇）
  • +1.6 來自「太久沒來」，+0.9 來自「來得少」，客單價高一點點反而讓她稍微不像會流失（−0.1）
  • 正負號是方向，絕對值是力道。給客服看就是：「M002 已經 75 天沒來，是主因」

特徵多了怎麼辦：Sampled Shapley

兩個玩家只有 2 種順序，10 個特徵有 10! ＝ 3,628,800 種順序，20 個特徵算不完。Sampled Shapley（採樣 Shapley）：隨機抽一些順序來算，用平均值估計真正的 Shapley 值。

官方設定裡的 path count（路徑數）就是「抽幾條順序」，範圍 1 到 50：越多近似誤差越小，但越慢越貴。

適合誰：官方說 Sampled Shapley 適合不可微分的模型，例如樹的集成（XGBoost、隨機森林）和 AutoML 表格模型（它是樹和神經網路的混合集成）。不可微分白話是「輸出對輸入沒有平滑的斜率」，樹模型是一堆 if-else，就是這種。

2. Integrated Gradients：沿著一條路累積斜率

白話是什麼

Integrated Gradients（整合梯度，IG）：從一個基準輸入（例如全黑的圖、或全是中位數的表格）慢慢變成實際輸入，沿路每一步算「預測對每個特徵的斜率」（梯度），把斜率累積起來，就是每個特徵的貢獻。

比喻

把一張照片的亮度從全黑慢慢調到正常，看模型的「貓」分數在哪些像素變亮時跳最多，那些像素就是模型認貓的依據。官方文件的說法：想像一個滑桿，把所有像素往黑色縮放。

來龍去脈

官方描述的步驟：

  1. 在縮放參數的不同區間算梯度，區間大小用高斯求積法（一種數值積分技巧）決定
  2. 用加權平均近似積分
  3. 平均梯度逐元素乘上原始輸入

梯度是第 3 篇講過的「該往哪調、調多少」，神經網路訓練本來就在算它，所以 IG 對神經網路特別自然。

適合誰

可微分的模型：神經網路（TensorFlow、PyTorch）。表格和影像都能用。設定裡有 step count（步數），越多越準越慢，跟 Sampled Shapley 的路徑數是同樣的取捨。

基準值很重要

兩種方法都要一個基準（baseline）：「沒有資訊」的輸入長什麼樣。官方說沒指定就用全零（影像是全黑）。但表格資料的全零常常不合理（客單價 0 元？），官方建議選有意義的基準，例如文件裡的腳踏車例子用「騎乘時間的中位數」。基準選錯，歸因的數字會跟著歪。

3. XRAI：影像看區域，不看像素

白話是什麼

XRAI：IG 算出來的是每個像素的貢獻，很碎、人看不懂。XRAI 把影像先切成一塊一塊的區域，把區域內像素的貢獻加總，排出「哪幾塊最重要」。

比喻

IG 像拿著放大鏡看每一顆沙子，XRAI 像退後一步看「這片沙灘的哪一區」。

官方的三步

  1. 像素級歸因：用 IG，而且用黑色和白色兩種基準各算一次
  2. 過度分割：用 Felzenszwalb 的圖論方法把影像切成很多小區塊（跟歸因無關，獨立做）
  3. 選區域：把每個區塊裡的像素歸因加總算密度，排序，從最正的排到最不正的

輸出是一張疊在原圖上的熱圖，標出模型「看哪裡」。封膜檢查模型判「有問題」，XRAI 會標出封膜邊緣那一圈。如果它標的是杯子上的 logo，就知道模型學歪了（第 8 篇的洩漏：也許有問題的那批照片都是某家分店拍的）。

適合誰

影像，而且官方說特別適合自然影像（照片）。表格資料不適用。

三種方法一張表

Sampled ShapleyIntegrated GradientsXRAI
原理抽樣估計 Shapley 值從基準到輸入累積梯度IG＋區域分割
適合的模型不可微分：樹集成、AutoML 表格可微分：神經網路神經網路的影像模型
資料表格表格、影像影像（自然照片）
輸出每個特徵一個分數每個特徵或像素一個分數每個區域的重要性熱圖
旋鈕path count（1～50）step count同 IG
飲料店流失模型（XGBoost）推薦模型（PyTorch 神經網路）封膜檢查（影像）
三種特徵歸因方法比較：Sampled Shapley 抽樣估計 Shapley 值適合樹集成和 AutoML 表格這類不可微分模型；Integrated Gradients 從基準到輸入累積梯度適合神經網路的表格和影像；XRAI 在 IG 之上做區域分割只適合影像，輸出哪一區最重要的熱圖

4. 範例式解釋：找最像的訓練樣本

Vertex Explainable AI 還有第二類：範例式解釋（example-based explanations）。做法是用最近鄰搜尋，從訓練集找出跟這筆輸入最像的幾個樣本。邏輯是「相似的輸入應該有相似的預測」。

官方列的四個用途：

  • 改進資料或模型：鳥被判成飛機，找出最像的訓練樣本，發現全是飛機的黑色剪影 → 要多加鳥的剪影；如果最像的都是鳥卻還判錯 → 模型太簡單，要加層
  • 解讀新類型的資料：訓練時只有鳥和飛機，上線遇到無人機，看它最像哪些已標記的樣本
  • 找異常值：跟所有訓練資料都不像的，就是離群值。神經網路對錯誤常常很有信心，這招能抓出來
  • 主動學習：最像的樣本一半是感冒一半是流感，代表這筆很難判，值得送給醫生標記

限制：只支援能輸出嵌入（embedding，第 11 篇）的 TensorFlow 模型，樹模型、PyTorch、XGBoost 不支援。

5. 淘汰之後怎麼辦：SHAP、LIME、BigQuery ML

Vertex Explainable AI 的時程

官方淘汰清單：2026 年 3 月 16 日起不再加新功能，2027 年 3 月 16 日完全停用、API 不再提供。替代方案官方點名：SHAP 和 LIME。

SHAP

SHAP（SHapley Additive exPlanations）：開源 Python 套件，Shapley 值的工業級實作。對樹模型有 Tree SHAP（算精確的 Shapley 值，不用抽樣），對任何模型有 Kernel SHAP（抽樣近似），對神經網路也有對應的版本。第 20 篇 Model Monitoring v2 的特徵歸因用的就是 SHAP 值。

LIME

LIME（Local Interpretable Model-agnostic Explanations）：開源套件，不管模型是什麼（model-agnostic），只要它能吐出機率就能解釋。做法是在這筆資料附近製造很多擾動過的樣本，用一個簡單的線性模型去「局部模仿」黑盒子，線性模型的權重就是解釋。支援文字、表格、影像。官方範例：把「Host」和「NNTP」兩個字拿掉，分類器判「無神論」的機率從 0.58 降到 0.31。

BigQuery ML：解釋內建在 SQL 裡

BigQuery ML 的解釋功能不受淘汰影響，文件列的方法：

模型方法局部全域
線性／邏輯迴歸Shapley 值（權重 × 標準化值）；另有標準誤和 p 值做顯著性檢定ML.EXPLAIN_PREDICTML.GLOBAL_EXPLAIN、ML.ADVANCED_WEIGHTS
提升樹、隨機森林Tree SHAP（精確）；或近似特徵貢獻（更快）；Gini 重要性（訓練時每個特徵多有用）ML.EXPLAIN_PREDICTML.GLOBAL_EXPLAIN、ML.FEATURE_IMPORTANCE
時間序列 ARIMA_PLUS拆解趨勢、季節、假日ML.EXPLAIN_FORECAST

第 15 篇示範過 ML.EXPLAIN_PREDICT 的 top_k_features，訓練時開 enable_global_explain = TRUE 才能用 ML.GLOBAL_EXPLAIN。

本身就可解釋的模型

考試 3.1「依可解釋性需求選建模技術」的另一個答案：直接選看得懂的模型。

模型可解釋性代價
線性／邏輯迴歸權重直接讀抓不到複雜關係
單棵決策樹規則一路看下來準確度通常較低
樹集成（XGBoost）要靠 SHAP準
神經網路要靠 IG、SHAP最準、最黑

法規嚴、解釋比準確度重要 → 前兩種；要準又要解釋 → 後兩種加特徵歸因。

局部解釋看這一筆預測每個特徵貢獻多少、全域解釋看模型整體最看重哪些特徵；Vertex Explainable AI 2027 年 3 月停用，替代方案是 SHAP 的 Tree SHAP 和 Kernel SHAP、LIME 的局部線性模仿、BigQuery ML 內建的 ML.EXPLAIN_PREDICT 和 ML.GLOBAL_EXPLAIN

在 GCP 上怎麼做

現在（2026 年 10 月）的建議路線

  1. 表格模型在 BigQuery ML：訓練時 enable_global_explain = TRUE，用 ML.EXPLAIN_PREDICT 看單筆、ML.GLOBAL_EXPLAIN 看整體，最省事
  2. 自訂訓練的模型：在訓練或推論程式裡裝 shap（樹模型用 TreeExplainer，神經網路用 DeepExplainer 或 GradientExplainer），把歸因跟預測一起存到 BigQuery，方便第 20 篇的監控和第 22 篇的追蹤
  3. 影像模型：SHAP 有影像的解釋器，或用開源的 XRAI 實作（Google 的 saliency 套件），輸出熱圖
  4. 還在用 Vertex Explainable AI 的：2027 年 3 月前遷移。Model Registry 裡模型的 explanation 設定（方法、path count、基準）要改成在程式裡做
  5. Model Monitoring v2 的特徵歸因目標用 SHAP，第 20 篇講過

基準值怎麼選

  • 表格：用訓練資料的中位數或平均當基準，代表「一個典型的會員」
  • 影像：黑圖是預設，XRAI 黑白各算一次
  • 基準不同，歸因的絕對值會不同，比較歸因時要用同一個基準

改名對照

舊名稱（筆記、舊題庫）現在
Vertex Explainable AI（採樣 Shapley、整合梯度、XRAI）2026 年 3 月淘汰、2027 年 3 月停用；方法概念不變，工具改 SHAP、LIME
AI Explanations（AI Platform 時代）更早的名字，已隨 AI Platform 關閉
BQML.EXPLAIN_PREDICT（筆記寫法）ML.EXPLAIN_PREDICT，不受淘汰影響
Vertex AI Model Monitoring 的特徵歸因Model Monitoring v2，用 SHAP 值

考試會怎麼考

Google Cloud Professional Machine Learning Engineer（PMLE，專業機器學習工程師） 證照，2026 年 6 月 1 日起的官方考試指南裡，這篇的內容對應到：

考試區塊跟這篇有關的項目
第 3 區：把原型放大成 ML 模型（約 21%）3.1 依可解釋性需求選建模技術
第 6 區：監控 AI 方案（約 13%）6.1 符合負責任 AI 實務（監控偏見）；Agent Platform 上的模型可解釋性（例如 Agent Platform Inference）

考試指南寫的還是「Agent Platform 上的模型可解釋性」，淘汰公告是 2026 年 3 月、指南是 6 月，題目可能還會出現舊功能的名字。方法名稱（Sampled Shapley、Integrated Gradients、XRAI）和適用情境是重點，不會變。

PMLE 考試關鍵字：表格樹模型 AutoML 表格想到 Sampled Shapley、神經網路可微分想到 Integrated Gradients、影像哪一區重要想到 XRAI、每一筆預測的原因想到局部解釋 ML.EXPLAIN_PREDICT、整體最看重哪些特徵想到全域解釋、法規要求能解釋想到可解釋模型或特徵歸因、找最像的訓練樣本想到範例式解釋

看到這些字，就想到這個

題目出現的關鍵字想到
「表格」「XGBoost」「樹集成」「AutoML 表格」「不可微分」Sampled Shapley
「神經網路」「可微分」「TensorFlow 模型的特徵歸因」Integrated Gradients
「影像」「哪個區域」「熱圖」「自然照片」XRAI
「每一筆預測為什麼」「客戶問原因」局部解釋，ML.EXPLAIN_PREDICT
「模型整體最看重什麼」「哪些特徵可以拿掉」全域解釋，ML.GLOBAL_EXPLAIN、ML.FEATURE_IMPORTANCE
「法規要求能解釋」「解釋比準確重要」選可解釋模型（線性、單棵樹），或加特徵歸因
「歸因太慢」「近似誤差」調 path count／step count（少＝快、多＝準）
「歸因數字怪怪的」「全零不合理」基準值選錯，改用中位數
「找出最像的訓練樣本」「異常值」「哪些該人工標記」範例式解釋（最近鄰）
「某個特徵貢獻大到不合理」可能是資料洩漏（第 8 篇）
「敏感特徵（性別、年齡）貢獻很大」偏見，6.1
「Vertex Explainable AI 要停用了」SHAP、LIME，BigQuery ML 內建函數

六個常見陷阱

  1. 樹模型選 Integrated Gradients：IG 要可微分，樹模型用 Sampled Shapley（或 Tree SHAP）
  2. 表格資料選 XRAI：XRAI 只給影像
  3. 用全零當表格的基準：客單價 0 元不是「典型會員」，歸因會歪
  4. 把歸因當因果：歸因是「模型怎麼想」，不是「世界怎麼運作」。模型看重「城市」可能是訓練資料的偏見
  5. 以為解釋功能都沒了：淘汰的是 Vertex Explainable AI 這個服務，方法還在，SHAP 和 BigQuery ML 都能做
  6. path count 設 50 跑正式推論：每筆預測都要抽 50 條路徑，延遲和費用暴增，線上用小一點、離線分析再開大

練習情境（自己出的練習，不是真實考題）

飲料店的流失模型是 XGBoost，客服部門要求每一筆「會流失」的判斷都要附三個主要原因。應該怎麼做？

判斷過程：

  • 「XGBoost」「每一筆」→ 局部解釋，樹模型用 Sampled Shapley（或 SHAP 的 Tree SHAP）
  • 在 BigQuery ML 的話，ML.EXPLAIN_PREDICT 加 top_k_features = 3
  • 自訂訓練的話，推論程式裡用 shap.TreeExplainer，把前三名存進結果表

封膜檢查模型（神經網路）把一批正常的杯子判成有問題。工程師想知道模型到底在看照片的哪裡。應該用什麼？

判斷過程：

  • 「影像」「看哪裡」→ XRAI（區域熱圖）；如果要到像素級細節用 Integrated Gradients
  • 熱圖標在 logo 而不是封膜 → 訓練資料有洩漏，回頭查（第 8 篇）
  • 也可以用範例式解釋找出最像的訓練照片，看是不是某家分店的拍法特殊

保險公司要用機器學習審核理賠，法規要求每個拒絕都能用人看得懂的規則解釋，而且模型要能被稽核。該怎麼選模型？

判斷過程：

  • 「人看得懂的規則」「稽核」→ 3.1 的可解釋性需求，優先選本身可解釋的模型：邏輯迴歸（權重直接讀）或單棵決策樹（規則一路看）
  • 準確度不夠才升級到樹集成＋SHAP，但要能證明歸因方法
  • 敏感特徵（年齡、性別）的歸因要監控（6.1 偏見）

常見問答

可解釋 AI 是什麼？

讓人看懂模型為什麼做出某個預測的方法，主要做法是特徵歸因：算出每個特徵對這次預測的貢獻值，有正有負，加起來等於預測值和基準值的差。分局部解釋（這一筆每個特徵貢獻多少）和全域解釋（模型整體最看重什麼）。用途是確認模型行為合理、找偏見、除錯、改進資料，也是法規要求的解釋依據。

Shapley 值是什麼？

來自合作賽局理論的分功勞方法：把每個特徵當玩家，算它在所有加入順序裡平均帶來多少增量，當作它的貢獻。好處是考慮交互作用，而且所有特徵的貢獻加總一定等於結果。兩位員工單獨做 10 和 20 杯、合作做 40 杯，Shapley 值是 15 和 25。線性模型的 Shapley 值等於權重乘標準化後的特徵值。

Sampled Shapley、Integrated Gradients、XRAI 怎麼選？

Sampled Shapley 抽樣估計 Shapley 值，適合不可微分的模型：樹集成（XGBoost、隨機森林）、AutoML 表格。Integrated Gradients 從基準到輸入累積梯度，適合可微分的神經網路，表格和影像都能用。XRAI 在 IG 之上做區域分割，只適合影像，輸出哪一區最重要的熱圖。三種都以 Shapley 值為基礎。

基準值（baseline）是什麼？為什麼重要？

「沒有資訊」的輸入長什麼樣，歸因算的是「從基準變成實際輸入，每個特徵帶來多少變化」。預設是全零（影像是全黑），但表格資料全零常不合理（客單價 0 元），官方建議選有意義的基準，例如中位數。基準不同歸因的絕對值不同，比較時要用同一個基準。

什麼是範例式解釋？

用最近鄰搜尋從訓練集找出跟這筆輸入最像的幾個樣本，邏輯是相似輸入應有相似預測。用途：找出模型判錯的原因（最像的樣本都是另一類代表資料不夠）、解讀訓練時沒見過的新類型資料、找異常值、挑出值得人工標記的困難樣本。只支援能輸出嵌入的 TensorFlow 模型。

Vertex Explainable AI 淘汰了，還能怎麼做解釋？

Vertex Explainable AI 2026 年 3 月 16 日淘汰、2027 年 3 月 16 日停用。官方建議改用開源的 SHAP（樹模型有精確的 Tree SHAP，任何模型有 Kernel SHAP）和 LIME（不管模型是什麼，在資料附近用線性模型局部模仿）。BigQuery ML 的 ML.EXPLAIN_PREDICT、ML.GLOBAL_EXPLAIN、ML.FEATURE_IMPORTANCE 不受影響。Model Monitoring v2 的特徵歸因也是用 SHAP。

BigQuery ML 怎麼做解釋？

線性和邏輯迴歸用 Shapley 值（權重乘標準化值），另有標準誤和 p 值；提升樹和隨機森林用 Tree SHAP（精確）或近似特徵貢獻（更快），還有 Gini 重要性；ARIMA_PLUS 用 ML.EXPLAIN_FORECAST 拆趨勢季節假日。局部用 ML.EXPLAIN_PREDICT，全域用 ML.GLOBAL_EXPLAIN（訓練時要開 enable_global_explain）和 ML.FEATURE_IMPORTANCE。

法規要求模型能解釋，該怎麼選模型？

考試指南 3.1 的「依可解釋性需求選建模技術」。解釋比準確度重要時，直接選本身可解釋的模型：邏輯迴歸的權重直接讀，單棵決策樹的規則一路看。要準又要解釋，用樹集成或神經網路加特徵歸因（SHAP、IG），但要能說明方法。敏感特徵的歸因要監控有沒有偏見。

特徵歸因可以當成因果關係嗎？

不行。歸因說的是「模型怎麼想」，不是「世界怎麼運作」。模型看重「城市」可能只是訓練資料裡某個城市的流失率剛好高。歸因大到不合理反而是警訊：可能是資料洩漏（答案混進特徵），或模型學到了偏見。

path count 和 step count 要設多少？

Sampled Shapley 的 path count 是抽幾條順序，1 到 50；Integrated Gradients 的 step count 是沿路算幾步。越多近似誤差越小但越慢越貴。線上推論每筆都要算，設小一點顧延遲；離線分析或除錯再開大。

重點整理

  • 可解釋 AI＝特徵歸因：每個特徵對這次預測的貢獻，加總等於預測值減基準值；局部（這一筆）vs 全域（整體）
  • Shapley 值：合作賽局分功勞，考慮所有加入順序的平均增量，考慮交互作用、加總等於結果；線性模型＝權重 × 標準化值
  • 三種方法：Sampled Shapley（不可微分：樹集成、AutoML 表格）、Integrated Gradients（可微分：神經網路，表格與影像）、XRAI（影像區域熱圖）；旋鈕 path count／step count；基準值要選有意義的
  • 範例式解釋：最近鄰找最像的訓練樣本，除錯、新資料、異常值、主動學習；只支援 TensorFlow 嵌入
  • Vertex Explainable AI 2027 年 3 月停用：改用 SHAP（Tree SHAP）、LIME；BigQuery ML 的 ML.EXPLAIN_PREDICT、ML.GLOBAL_EXPLAIN 不受影響
  • 選模型：法規要解釋 → 線性、單棵樹；要準 → 集成或神經網路＋歸因。歸因不是因果

延伸閱讀

本系列

站上相關文章

模型說得出「為什麼」，才能被信任、被稽核、被改好。如果你想有系統地從雲端基礎一路學到在 GCP 上動手做機器學習，可以看看東東的 GCP 課程，或加 LINE 聊聊你現在的狀況，一起找出最適合你的學習順序。

Table of Contents

東東 GCP 教學 - GCP 實戰講師

隱私權政策

Copyright © 2026 雲上星辰有限公司 (統編: 62251136) 保留一切權利

返回頂端