真實案例：一覺醒來帳單暴增 2,500 倍

澳洲開發者的 25,000 澳幣慘劇

澳洲 AI 顧問 Jesse Davies 在 LinkedIn 和 Reddit 分享了他的親身經歷。

他在 Google AI Studio 做了一個小測試專案，用「Deploy to Cloud Run」一鍵部署到雲端，之後就沒再理它。

帳戶預算通知設定是 10 澳幣（約新台幣 210 元）。

某天早上起床，信用卡已經被扣了 10,000 澳幣。

他立刻聯絡 Google 客服。但在等待回覆的過程中，帳戶又被多刷了 15,000 澳幣。

最終帳單是 25,672.86 澳幣，折合約 18,391 美元（新台幣 58 萬左右）。

攻擊者做了什麼？他們根本沒有偷走 API 金鑰。

他們只是找到 Jesse 部署在 Cloud Run 上的公開網址，直接朝這個網址送請求。

Cloud Run 容器裡以明碼形式存放的 API 金鑰，就會幫攻擊者一筆一筆簽好請求，送到 Vertex AI 上去跑。

短短一個晚上，攻擊者送出了超過 60,000 次請求。

最後 Google 同意撤銷這筆費用，但這個過程讓 Jesse 整整驚嚇了好幾天。

原始貼文如下：

Google Cloud 自動升級消費上限的隱藏機制

這個案例裡還有一個關鍵細節，很多人不知道。

Davies 的帳戶原本是 Tier 2，消費上限大約是 2,000 美元。

Google Cloud 的帳單/用量層級可能會依帳戶歷史消費與資格自動提升；在某些案例中，Tier 2 帳戶累積消費達到門檻後，可能被提升到更高層級，對應上限可達 20,000 至 100,000 美元以上。

雖然不是「偷偷加額度」，但確實代表預設風控不足時，帳單風險會被放大 。

注意 Google 的 AI Studio 帳戶建立超過 30 天、且終生消費達 1,000 美元的帳戶，系統可能自動將可用消費額提高至 100,000 美元。這個機制設計初衷是讓正常業務不中斷，但在 GCP 帳單爆炸的情境下，它反而成為放大損失的燃料。

詳情可以查看以下連結：

https://ai.google.dev/gemini-api/docs/rate-limits?hl=zh-tw

後來 Google 就在 AI Studio 加入每月專案支出上限設定，一旦專案的支出超過上限，系統將在約 10 分鐘內暫停該專案的請求。

但也因為這個延遲，在這段期間內仍可能產生超額費用，並且還是由使用者自行負擔。

為什麼 GCP 帳單爆炸這麼容易發生？

GCP 帳單爆炸之所以容易發生，是因為 Google Cloud 的預設設定把 9 項安全機制全部關閉、消費上限設計成可自動升級，而開發者往往在測試後忘記關閉公開服務。三個條件同時成立，帳單爆炸就只差一個攻擊者。

API 金鑰公開在前端的致命風險

API 金鑰（API Key）是一組用來識別呼叫者身份的字串，當它出現在公開的前端程式碼或 URL 中，任何人都能用它以你的身份呼叫付費服務。

Google Maps API 金鑰數年前被設計成允許放在前端使用，因為當時 Maps API 的計費邏輯相對友善。

但後來 Gemini、Veo 等高價模型加入之後，這個設計就變成潛在漏洞：如果同一把 API 金鑰被賦予存取 Gemini 的權限，任何拿到這把金鑰的人都能用它呼叫 Gemini，費用算在你頭上。

資安公司 Truffle Security 在 2026 年 2 月已公開警告這個問題，詳情可以看這篇文章。

Cloud Run 部署後忘記關閉的代價

Cloud Run 是 GCP 的容器化服務執行平台，讓你可以把應用程式打包成容器並部署到雲端對外提供服務，預設為公開可存取。

問題在於：你的服務有一個公開的 HTTPS 網址，任何人都可以發請求給它。如果你的容器裡有 API 金鑰（特別是明碼形式存放的），每一次外部請求都會觸發真實的 API 呼叫，並產生費用。

很多開發者在測試完之後，只是停用服務，沒有完整刪除。

只要網址還在、API 還沒停掉，攻擊者只要找到這個網址，就能開始刷費用。

GCP 預設關閉的 9 項安全機制是什麼

Davies 在事後整理發現，Google Cloud 內建了 9 項安全機制，可以有效阻擋這類攻擊。

但它們全部預設關閉，需要你自己進設定頁面逐一啟用。

這 9 項機制包含：

• API 金鑰的 HTTP referrer 限制
• IP 位址限制
• Cloud Audit Logs 稽核日誌
• Cost Anomaly Detection 成本異常偵測
• Cloud Armor 防護規則
• VPC Service Controls
• Budget Alert 預算警報
• Cloud Run 的身份驗證要求
• IAM 最小權限原則

後面的步驟章節會逐一說明如何啟用其中最關鍵的幾項。

防止 GCP 帳單爆炸：Step 1 保護你的 API 金鑰

API 金鑰是整個問題的核心。把它保護好，GCP 帳單爆炸的機率就降低 80% 以上。

不要把 API 金鑰以明碼形式放進環境變數

明碼環境變數（Plaintext Environment Variable）是指直接把 API 金鑰字串寫進容器設定或程式碼的做法，這樣做會讓任何能存取容器的人直接讀到金鑰值，是造成 GCP 帳單爆炸最常見的根本原因之一。

這樣做有 2 個根本問題：

1. 任何能存取容器的人（包含攻擊者）都能直接讀到金鑰值
2. 金鑰跟著容器映像一起存在，就算你之後想換金鑰，舊的映像版本裡還是有原本的金鑰

正確的做法是改用 GCP Secret Manager 或短期憑證來取代長期金鑰。

使用 GCP Secret Manager 管理敏感憑證

GCP Secret Manager 是 Google Cloud 提供的機密管理服務，讓你可以把 API 金鑰、密碼、憑證等敏感資料集中存放，並透過 IAM 權限控制誰可以讀取。

Secret Manager 的基本設定步驟

1. 在 GCP Console 搜尋「Secret Manager」，進入服務頁面
2. 點擊「建立密鑰」（Create Secret），輸入名稱（例如 gemini-api-key）
3. 在「密鑰值」欄位貼上你的 API 金鑰，點擊「建立密鑰版本」
4. 進入 IAM 頁面，只賦予你的 Cloud Run 服務帳號「Secret Manager Secret Accessor」這個角色
5. 在 Cloud Run 的程式碼中，改用 Secret Manager SDK 動態讀取金鑰，而不是從環境變數讀取

設定完成後，你的 API 金鑰不再存放於容器內部。就算攻擊者拿到容器映像，也讀不到金鑰內容。

搭配服務帳號短期 Token 取代長期金鑰

更進一步的做法是完全不使用 API 金鑰，改用服務帳號（Service Account）搭配短期 Token（OAuth 2.0 access token，一種有時效限制的身份驗證憑證）。

短期 Token 的有效期間最長為 3,600 秒（1 小時），到期後自動失效。

就算被攻擊者截取，也只有在有效期間內能被使用，損失窗口遠比長期 API 金鑰小得多。

設定方式：讓你的 Cloud Run 服務以特定服務帳號身份運行，並透過 Workload Identity 機制自動取得短期 Token，不需要手動管理任何長期憑證。

防止 GCP 帳單爆炸：Step 2 關閉或刪除閒置服務

就算你的 API 金鑰保護做得再好，只要有一個公開的服務端點還在運行，就是潛在的攻擊入口。

如何找出帳號內所有公開的 Cloud Run 服務

1. 進入 GCP Console，在左側選單點擊「Cloud Run」
2. 選擇你要檢查的專案，查看所有已部署的服務列表
3. 對每個服務點擊進入，查看「觸發條件」（Triggers）和「安全性」（Security）分頁
4. 確認「需要驗證」（Require authentication）是否已勾選，未勾選代表該服務完全公開
5. 如果你不確定這個服務還有沒有在用，查看「指標」（Metrics）分頁，若過去 30 天請求數為 0，直接刪除

建議每季做一次這個檢查，把所有不再使用的服務清掉。

這些服務沒在使用時，沒有機器也沒有費用產生，但設定和網址仍然保留，你點擊一下網址它們就恢復運行。

除非你直接刪除，要不然隨時都會有被啟動的風險。

如果你擔心刪除後需要回復，可以先把部署設定（Cloud Run YAML 或 Terraform 設定）存到版本控制系統，之後需要時重新部署即可。

App Engine 和 Cloud Functions 的相同風險

Cloud Run 不是唯一有這個問題的服務。App Engine 和 Cloud Functions 也有相同的風險：

1. App Engine 的版本（Version）在停用後，對應的 URL 在某些情況下仍然可存取
2. Cloud Functions 的 HTTP 觸發函式預設也是公開的
3. 這 2 個服務都需要同樣的定期清查動作

原則一樣：凡是超過 90 天沒有收到任何請求的服務，就直接刪除，不要只是停用。

防止 GCP 帳單爆炸：Step 3 設定消費上限與預算警報

API 金鑰保護和服務管理是預防攻擊，預算設定是當攻擊發生時的最後一道防線。

在 Google Cloud Console 建立預算通知

預算通知（Budget Alert）是 GCP 提供的消費警報機制，當你的消費達到設定門檻時，會發送 Email 通知。

設定步驟：

1. 進入 GCP Console，點擊左側選單的「帳單」（Billing）
2. 選擇「預算與快訊」（Budgets & alerts）
3. 點擊「建立預算」（Create budget）
4. 設定預算名稱和涵蓋範圍（可以只針對特定專案）
5. 設定預算金額（例如新台幣 500 元）
6. 在「快訊門檻」至少設定 50%、75%、100% 三個通知點
7. 在「通知方式」填入你的 Email，或設定 Pub/Sub 主題以觸發自動化動作

PS. 你也可以像我這麼極端，我的通知門檻是「每多 1 USD 就直接通知 1 次」，雖然常看到通知信很煩，但能確保時時都能收到通知。

重要提醒：預算通知不會自動停止計費，它只發送通知。要真正截斷消費，你需要額外設定自動化動作（見下方步驟）。

了解 GCP 自動升級帳戶等級的觸發條件

這是 Davies 案例中讓損失放大 50 倍的關鍵機制，你一定要了解。

1,000 美元門檻與 100,000 美元上限的來龍去脈

根據 Google 官方說明，GCP 帳戶有信用額度分層機制：

1. 新帳戶（建立未滿 30 天）：消費上限約在 2,000 美元
2. 舊帳戶（建立超過 30 天）且終生消費達 1,000 美元：系統可能自動將上限提高至 20,000 至 100,000 美元
3. 這個升級動作完全自動，不需要使用者確認，也不一定會發送通知

換句話說，你在不知情的狀況下，帳戶的實際可消費金額已經是你預期的 50 倍。

如何手動鎖定帳戶消費上限

GCP 目前沒有提供「硬性消費上限」功能（Hard Cap），只能透過以下 3 種方式控制：

1. 透過預算快訊 + Cloud Pub/Sub + Cloud Functions 建立自動化截斷機制：當消費達到設定金額時，自動停用指定的 API 或服務 (要注意這個自動停用的 Cloud Functions 程式，還是要自己寫)
2. 在個別 API 的 Google Cloud Console 設定中查看「配額」（Quota），把每日請求數限制在可接受的範圍
3. 聯絡 Google Cloud 支援，要求在帳戶層級設定更嚴格的消費限制

這是目前最接近「硬性上限」的做法。需要一點工程工作，但一次設好就能長期保護你。

2026 4 月開始，AI Studio 可以設定上限

請先到 Google AI Studio Dashboard 選單的 Spend，再點擊 Set spend cap

設定 Gemini API 的每月花費上限

防止 GCP 帳單爆炸：Step 4 啟用 GCP 內建的安全機制

GCP 內建了 9 項安全機制，但全部預設關閉。這一節帶你把最關鍵的 3 項打開。

9 項預設關閉的安全設定在哪裡找

這 9 項設定散落在 GCP Console 的不同位置，沒有統一入口。你需要逐一進入各個服務的設定頁面手動啟用。

最快的方法是使用 GCP 的「安全性指揮中心」（Security Command Center，一個集中管理 GCP 安全問題的控制台）。

進入 GCP Console，搜尋「Security Command Center」，點擊「漏洞」（Vulnerabilities）分頁。

這裡會列出你帳號中偵測到的安全問題，包含沒有啟用身份驗證的 Cloud Run 服務、過於寬鬆的 IAM 權限等。

Security Command Center 的詳情可以查看這篇文章。

API 金鑰限制：綁定 HTTP referrer 與 IP 位址

如果你的 API 金鑰無法立刻換成 Secret Manager，至少要做這件事：限制 API 金鑰的使用範圍。

設定步驟：

1. 進入 GCP Console，搜尋「API 和服務」（APIs & Services）
2. 點擊「憑證」（Credentials）
3. 找到你要保護的 API 金鑰，點擊進入編輯
4. 在「應用程式限制」（Application restrictions）選擇「HTTP referrer（網站）」，填入你的網域（例如 https://yourdomain.com/*）
5. 在「API 限制」（API restrictions）選擇「限制金鑰」，只勾選這把金鑰真正需要使用的 API
6. 點擊「儲存」

完成後，就算有人拿到你的 API 金鑰字串，在非你網域的環境下使用它，GCP 會直接拒絕這個請求。

設定只能呼叫哪些 API

啟用 Cloud Audit Logs 追蹤異常呼叫

Cloud Audit Logs（雲端稽核日誌）是 GCP 記錄所有 API 呼叫行為的機制，讓你在事後追查「誰在什麼時間呼叫了什麼 API」。

預設只有管理活動日誌（Admin Activity Logs）是開啟的。

資料存取日誌（Data Access Logs）預設關閉，但這才是追蹤異常 API 呼叫最重要的日誌。

啟用方式：

1. 進入 GCP Console，搜尋「IAM 與管理員」（IAM & Admin）
2. 點擊「稽核日誌」（Audit Logs）
3. 找到你要啟用的服務（例如 AI Platform、Cloud Run），勾選「資料讀取」和「資料寫入」
4. 點擊「儲存」

啟用之後，你就能在 Cloud Logging 中查詢：過去 24 小時內，所有 Gemini API 的呼叫次數、來源 IP、使用的金鑰。在異常發生時，你有完整的事後追查能力，也能把日誌資料提供給 Google 客服作為退款申請的佐證。

防止 GCP 帳單爆炸：Step 5 建立異常偵測與即時告警

前面 4 個步驟都是預防，這個步驟是監控——讓你在帳單失控的前 30 分鐘就收到通知，而不是睡一覺起來才發現。

Cost Anomaly Detection 的設定方式

Cost Anomaly Detection（成本異常偵測）是 GCP 的自動化機制，會分析你的歷史消費模式，當消費突然偏離預期時，發送警報 Email。

啟用方式：

1. 進入 GCP Console，點擊「帳單」（Billing）
2. 選擇「異常狀況」（Cost anomalies）分頁
3. 點擊「管理異常狀況」，設定要自動產生門檻，或手動自己設定
4. 在「通知設定」填入你想接收警報的 Email 地址

但要記住 AWS 那個案例的教訓：Cost Anomaly Detection 只涵蓋直接計費的服務。如果你透過 Marketplace 或第三方管道計費，這個偵測在那些項目上無效。記得確認你所有 GCP 服務的計費路徑。

為什麼光靠預算通知還不夠

預算通知有 2 個根本限制：

1. Email 通知有延遲，GCP 帳單的計算週期不是即時的，有時候通知寄到的時候，費用早就超標了
2. 預算通知只有在你的帳戶達到設定門檻時才發送，如果攻擊在短短幾小時內讓費用從 0 衝到 5,000 美元，中間你不會收到任何通知

這就是為什麼需要加上 Cloud Monitoring 的即時 Alerting Policy。

結合 Cloud Monitoring 設定即時 Alerting Policy

Cloud Monitoring（雲端監控）是 GCP 的指標監控服務，可以讓你針對任何 GCP 指標設定即時警報。

設定步驟：

1. 進入 GCP Console，搜尋「Monitoring」，進入 Cloud Monitoring
2. 點擊「警報」（Alerting），再點擊「建立政策」（Create Policy）
3. 在「選取指標」中，搜尋 serviceruntime.googleapis.com/api/request_count（API 請求次數）
4. 設定觸發條件：例如「過去 10 分鐘內，Gemini API 的請求次數超過 1,000 次」
5. 在「通知管道」設定你的 Email 或 Slack 通知
6. 點擊「儲存」

完成後，當有人在 10 分鐘內對你的 API 發出超過 1,000 次請求，你的手機就會立刻收到警報，而不是隔天早上才看到帳單。

常見問題：帳單已經爆了，現在怎麼辦？

如果你看到這篇文章時，帳單已經在爆炸了，這個章節是給你的。動作越快，損失越小。

立刻停用金鑰和服務的操作順序

按照這個順序執行：

1. 進入 GCP Console，點擊「API 和服務」→「憑證」，找到所有 API 金鑰，點擊刪除或停用
2. 進入「Cloud Run」，找到所有公開服務，點擊「刪除」
3. 進入「IAM 與管理員」，找到異常的服務帳號，點擊「停用」
4. 進入「帳單」，查看「本月消費明細」，確認是哪個服務在產生費用
5. 直接停用該服務對應的 API（進入「API 和服務」→「已啟用的 API 和服務」，找到對應的 API，點擊停用）

整個流程在 10 分鐘內應該可以完成。每晚一分鐘，就多幾美元的損失。

如何向 Google Cloud 申請帳單減免

Davies 的案例最後有退款，但這不是自動的，需要你主動申請。

申請步驟：

1. 進入 GCP Console，點擊右上角的「支援」（Support）圖示 （要注意你有購買 Google 官方的技術支援方案）
2. 選擇「建立案例」（Create case）
3. 在問題類型選擇「帳單」（Billing）
4. 詳細描述事件：攻擊發生的時間、你發現的方式、你已採取的緊急措施
5. 附上 Cloud Audit Logs 的截圖或匯出資料，作為攻擊行為的佐證
6. 明確要求「費用撤銷」（Credit request 或 Billing adjustment）

Google 不保證一定退款。但根據公開案例，在能提供明確攻擊證據、且帳號本身沒有不當行為的情況下，退款機率相當高。

隱藏密技，從這裡點選就不需要先購買技術支援方案。

被扣款後帳號被鎖定，怎麼取回日誌權限

這是 Davies 案例中最令人抓狂的環節：因為帳單欠款，GCP 帳號被限制，他一度無法進入 Cloud Logging 查看攻擊日誌。

如果你遇到這個狀況：

1. 先嘗試透過 Google Cloud Console 的帳單頁面補繳欠款，部分情況下補繳後帳號限制會立刻解除
2. 如果無法補繳（例如信用卡已被鎖定），直接聯絡 Google Cloud 支援，說明你正在收集攻擊佐證，需要暫時恢復日誌存取權限
3. 要求 Google 客服協助匯出你帳號的 Audit Logs，這是他們技術上可以做到的事
4. 同步提出費用撤銷申請，兩件事可以一起處理

結語：GCP 帳單爆炸不是你的錯，但防護是你的責任

GCP 的預設設定就是把 9 項安全機制全部關掉，把消費上限設計成會自動升級。這確實是平台設計的問題。

但等 Google 改好設計，可能要等很久。

防止 GCP 帳單爆炸，你能做的就是這 5 件事：保護 API 金鑰、刪除閒置服務、設定預算上限、啟用安全機制、建立即時監控。每一步都花不到一小時。但少做任何一步，都有機會讓你睡一覺起來帳單多出台幣 58 萬。

現在就去 GCP Console 打開那 9 項設定吧。

常見問題（FAQ）

Q1：GCP 預算通知設定後，消費真的會被自動停止嗎？ A：GCP 帳單爆炸最常見的誤解就是這個——預算通知只發 Email，不會自動停止計費。要實現自動截斷，需要額外設定 Cloud Pub/Sub 加上 Cloud Functions，讓警報觸發自動停用服務的程式。這個架構需要一點工程工作，但做一次就能保護所有專案。

Q2：我只是用 GCP 跑實驗，金額很小，需要這麼麻煩嗎？ A：需要。Davies 的案例就是從「只是跑個實驗」開始的。攻擊者不管你的帳戶是否在活躍使用，只要 Cloud Run 網址存在、API 金鑰有效，就是攻擊目標。實驗完成後，刪除服務是最小成本的防護動作，花不到 2 分鐘。

Q3：Secret Manager 收費嗎？費用大概是多少？ A：收費，但金額很小。根據 GCP 官方定價，Secret Manager 每 10,000 次存取操作收費 0.03 美元，每個活躍密鑰版本每月收費 0.06 美元。對大多數開發者來說，每月費用會在 1 美元以下，比起 GCP 帳單爆炸的風險，這筆錢完全值得。

Q4：我有多個 GCP 專案，每個都要做一遍嗎？ A：金鑰保護和服務清查需要在每個專案個別執行。但預算設定可以在帳單帳戶（Billing Account）層級設定，一次涵蓋所有專案。Cost Anomaly Detection 也可以在帳單帳戶層級啟用，不需要逐一設定。

Q5：如果我用的是 Firebase，也有同樣的風險嗎？ A：有。Firebase 專案底層就是 GCP 專案，Firebase 的 API 金鑰同樣可以用來呼叫 GCP 的付費服務。如果你在 Firebase 專案中啟用了 Gemini API 或其他付費服務，一樣需要做 API 金鑰的限制設定。

Q6：Cloud Armor 是什麼？它能防止帳單爆炸嗎？ A：Cloud Armor 是 GCP 的 Web Application Firewall（Web 應用程式防火牆），可以封鎖特定 IP、地區或請求模式。它能減少惡意請求的數量，但不能直接限制消費金額。建議把 Cloud Armor 當作補充防護，而不是主要防線，且它需要額外費用，適合已有穩定流量的正式服務。

Q7：Google Maps API 金鑰和 Gemini API 金鑰是同一把嗎？ A：在 GCP Console 裡，同一個專案的 API 金鑰預設可以存取該專案啟用的所有 API。如果你在同一個專案裡同時啟用了 Maps API 和 Gemini API，你的 Maps API 金鑰在技術上也能呼叫 Gemini。正確做法是在 API 金鑰設定中明確指定這把金鑰只能用於哪些 API。

Q8：我已經把 API 金鑰換掉了，舊金鑰還需要特別處理嗎？ A：需要立刻刪除舊金鑰。進入 GCP Console，點擊「API 和服務」→「憑證」，找到所有舊的 API 金鑰，點擊「刪除」而不是只是停用。停用的金鑰在特定條件下可能被重新啟用；刪除才能確保舊金鑰永久失效，是防止 GCP 帳單爆炸的必要步驟。

Q9：攻擊者是怎麼找到我的 Cloud Run 網址的？ A：常見的途徑有 3 種：在 GitHub、GitLab 或 Bitbucket 的公開 repo 中搜尋 Cloud Run 網址（攻擊者有自動化工具掃描這些平台）；透過搜尋引擎索引到公開的 API 文件或設定檔；從 Google AI Studio 的部署紀錄或相關社群貼文中找到。任何 Cloud Run 網址都不要出現在公開的程式碼或文件裡。

Q10：除了 GCP，其他雲端服務（AWS、Azure）也有同樣的問題嗎？ A：有，而且 AWS 還有額外的盲點。透過 AWS Marketplace 計費的 Bedrock 服務不在 AWS Cost Anomaly Detection 的偵測範圍內。Azure 的 API Management 服務有類似的公開端點風險。每個雲端平台的預設安全設定都不夠嚴格，原則相同：任何公開端點加上任何付費 API 的組合，都需要額外的保護機制。

The post GCP 帳單爆炸防護指南：5 個步驟讓你不再睡醒崩潰 first appeared on 東東 GCP 教學 - GCP 實戰講師.

Vertex AI 是 GCP 推出的 AI 開發平台，目的是為了簡化機器學習（ML）模型的開發、訓練、部署和管理。它包含了 AutoML 和自訂模型的建立和訓練，讓你能夠更輕鬆地運用 AI 技術，無論是沒有 AI 經驗的新手，還是 AI 的專家，都能利用這個平台加速 AI 產品開發。

記得 2022 年底 ChatGPT 爆紅的時候嗎？它讓大家第一次看到 AI 不只是冷冰冰的機器，而是能夠真正理解人類語言、寫文章、寫程式碼，甚至畫圖的強大工具。這種被稱為「生成式 AI」的技術，基本上就像是一個超級助手，你問什麼它就回答什麼。

不過科技永遠在進步，現在的 AI 已經不滿足於只是回答問題了。新一代的 AI，也就是所謂的 AI Agent（人工智慧代理）是一種能夠自行感知相關訊息、做出決定並執行各項行動的智慧系統。它可以根據資料分析和機器學習來適應不同情境，還能夠不斷改善自身的行為。

Vertex AI 三大功能簡介

說到企業應用，GCP 推出的 Vertex AI 平台就很適合企業用戶來開發。它就像是一個完整的 AI 工具箱，裡面有三個主要部分：

Agent Builder

這是專門用來建立 AI 助手的工具。企業可以用它來設計 AI 助手的各種功能，比如處理客服問題、管理內部系統等。

Model Builder

這個工具可以幫助企業打造自己的 AI 模型。它把複雜的機器學習過程變得簡單，就像是用積木搭建東西一樣容易。

Model Garden（模型花園）

你可以把它想像成一個大型的 AI 模型商店，裡面有 Google 自己的模型，也有其他公司的模型，企業可以直接挑選合適的來用。

三者之間的關係

• Agent Builder 可以用少數 Model Garden 的模型，但仍以本身的對話和搜尋功能為主。
• Model Builder 專注在機器學習，少數情況下可以微調給 Agent Builder 使用。
• Model Garden 提供預先訓練好的模型，給 Model Builder 微調，或是 Agent Builder 開發成應用程式。
• 三者之間部分互相整合，但仍然以獨立功能為主。

二、Agent Builder：低程式碼 (Low Code) 的 AI Agent 開發工具

Agent Builder 簡介

Agent Builder 是一個專門用於建立 AI Agent 的平台。它不僅整合了大型語言模型與 GCP 的各項服務，還支持廣泛的工具整合和客製化。通過直觀的對話流程設計和完善的測試功能，企業可以快速建立符合需求的 AI Agent。同時，平台還特別注重安全性和可控性，確保 AI 應用符合企業的管理規範。Agent Builder 主要包含兩個部分：

Vertex AI Agents（AI 助理）

這是一個能讓你的應用程式理解人類語言的系統。比如說你可以用它來做聊天機器人、語音助理和任何需要和使用者對話的功能，重點是它能聽懂使用者說什麼，並給出合適的回應。它的功能包含：

• 自然語言理解 – 能夠理解用戶的意圖和需求
• 多模態理解 – 可處理文字、圖片、聲音等多種形式的輸入
• 工具整合 – 可連接外部服務和 API
• 知識庫 – 能夠訪問和利用企業的數據資源
• 對話管理 – 維持上下文和管理對話流程
• 多語言支持 – 支持多種語言的互動

Vertex AI Search

這是一個進階的搜尋系統，讓你能在網站或 APP 中加入強大的搜尋功能。用途包含：

搜尋功能：

• 一般搜尋：跟 Google 搜尋一樣，但它是搜尋你自己的網站。
• 影音搜尋：特別適合用來搜尋影片和音樂這類的內容。
• 醫療資料搜尋：專門用來搜尋醫療紀錄的功能。

推薦功能：

• 影音推薦：根據使用者在看什麼來推薦相關影片。
• 一般推薦：推薦任何種類的內容（目前還在測試階段）。

Vertex AI Search 特別好用的地方

1. 很聰明：它能理解人類的說話方式，不會只找關鍵字。
2. 容易使用：自動修正錯字、建議搜尋和理解同義詞。
3. 有 AI 對話功能：可以用對話的方式來搜尋資料。
4. 會自己學習：會從使用者的使用習慣中學習，變得更準確。
5. 適合醫療用途：不需要特殊的搜尋語法，就能找到醫療資料。

簡單說，它就是讓你的網站或 APP 變得更聰明的工具包，能幫助使用者更容易找到他們要的東西，也能推薦他們可能感興趣的內容。

Vertex AI 操作示範

這個示範來自 Integrate Search in Applications using Vertex AI Agent Builder，我們要建立一個搜尋引擎，讓使用者可以搜尋 Google 的財報。 

假設你已經有一個 GCP 的專案，我們先來釘選經常使用的服務。從主選單選擇「查看所有產品」，在人工智慧的區塊找到 Vertex AI 和 Agent Builder，點擊圖釘的圖示：

接下來我們來啟用需要的 API，我們在 API 和服務的首頁點擊啟用「API 和服務」：

接著在搜尋欄位輸入 Discovery Engine API：

在搜尋結果當中點擊 Discovery Engine API：

我們目前看到 Discovery Engine API 尚未啟用，所以直接點擊「啟用」：

接下來你應該會看到像這樣的畫面，代表 Discovery Engine API 啟用完成：

我們再去 Agent Builder，進去後一樣會碰到啟用 API 的確認視窗，我們就點擊「CONTINUE AND ACTIVATE THE API」：

啟用完成畫面會自動跳轉到 Agent Builder 的主頁，我們點擊「建立應用程式」：

接下來我們會看到有五個搜尋的功能，我們現在點擊「文件搜尋」底下的「建立」按鈕：

我們將「Alphabet investor PDFs」輸入到應用程式和公司名稱的欄位，然後按「繼續」：

接下來點擊「建立資料儲存庫」，讓 Agent 可以進來這裡搜尋資料：

接著我們選取資料來源為 Cloud Storage，點擊下方的「Select」：

在資料類型的選項當中，我們選擇「非結構化文件」，同步處理頻率選擇「單次」，在「選擇要匯入的資料夾和檔案」，我們選擇「資料夾」然後將字串「cloud-samples-data/gen-app-builder/search/alphabet-investor-pdfs 」貼到欄位當中再按下「繼續」：

我們可以同時來看一下這個公開的 Cloud Storage 資料夾的檔案內容，可以確認是 Google 歷年來的財報資料：

接下來在資料儲存庫名稱的欄位，我們輸入「Unstructured data」，然後再按下建立：

在這個畫面要注意，我們建立的應用程式是有連結到我們建立的資料儲存庫，如果確認沒問題，就再次按下「建立」：

接下來我們等待幾分鐘讓 Agent Builder 去匯入資料，同時我們可以點擊「Activity」確認資料匯入情形：

我們可以在這裡確認資料匯入的過程是否有任何錯誤，也能看到已匯入的資料數量：

我們再點擊文件的「分頁」，可以看到它所找到的每一份資料的原始位置：

大約 18 分鐘左右，我們看到資料已經全部匯入完成，再點擊「Agent Builder」回到主頁：

在主頁我們看到已經建立好的應用程式，直接點擊「Alphabet Investor PDFs」：

我們看到兩個部分，下方是正常的文件搜尋結果，而上方是由生式式 AI 根據文件內容自行產生的文字，它直接告訴你相關的營收數字：

我們將搜尋的關鍵字改成「Google Product List」，會看到它直接生成 Google 完整的產品清單，非常方便，當然你還是要再次核對喔！

值得一提的是，我們可以在「設定」視窗裡任意去切換模型，來觀察不同的模型所生成的結果，非常方便：

在「整合」的頁面，我們可以設定要串接的外部服務，為了展示方便，我們在授權類型選擇「公開存取權」，然後再下方輸入要整合的網域，並且按下「儲存」：

畫面再往下捲動，我們看到它已經幫你準備好網頁的 HTML 原始碼，我們可以直接複製起來，貼到想要呈現搜尋框的頁面中：

這個畫面就是我在自己架設的網站上所呈現的結果：

到這裡我們成功建立了一個方便的 Agent，以後不用真的找到文件，它能夠直接告訴你答案，不覺得很方便嗎？

三、Model Builder：簡化 AI 模型的開發與訓練

Model Builder（模型建造器），這個工具可以幫助企業打造自己的 AI 模型。它把複雜的機器學習過程變得簡單，就像是用積木搭建東西一樣容易。目前有兩種建立 Model 的方法：

Custom Training 客製化的訓練

Vertex AI 提供代管的模型訓練服務，如果你是一位 AI 專家，了解各種 AI 的演算法，可以自己撰寫程式來開發 AI 模型。你就可以在 GCP 上面使用現成的模型開發環境，而不需要自己建立各種基礎建設。 

AutoML

如果你不是 AI 專家怎麼辦？AutoML 讓你不用自己撰寫演算法，就可以開發和訓練 AI 模型。 畢竟對大多數的人來說，並非人人都是 AI 專家。你可能是胸腔內科醫生、電子商務的行銷人員或正在判斷建築物類型，AI 的技術對你來說是一個門檻，但是不用擔心，你只要把手上的資料準備好，就可以讓 Google 來幫你建立和訓練 AI 模型。

假設你是一個行銷人員，你的手上有網站使用者的資料和過去的消費紀錄，你想要提高使用者購買產品的機率，但是你不知道該怎麼做。

你手上已經有一張表格包含特徵（使用者的屬性和行為）和標籤 （購買金額），你可以直接讓 AutoML 幫你建立和訓練模型。

這個模型可以幫你分類使用者，是屬於哪一種類型，例如瀏覽者、時尚前衛、最後一刻購物者或是折扣愛好者。

當模型訓練完成，部署上線之後，每當新的使用者進來，你的模型可以很快判斷，他是哪一種類型的使用者，你就可以立即提供適合他的促銷方案，進而帶動產品的銷售。

簡單的操作示範

這個示範來自 Identify Damaged Car Parts with Vertex AutoML Vision，我們要建立一個照片辨認的模型，這個模型要從一堆損壞的汽車照片當中，判斷它到底是哪一種零件。首先我們來啟用 Cloud Shell：

首先設定兩個環境變數，之後執行相關指令會用到：

export PROJECT_ID=[ 你的專案 ID ]

export BUCKET=[ 你之後要建立的 Cloud Storage Bucket ID ]

再執行建立 Bucket 的指令：

gsutil mb -p $PROJECT_ID -c standard -l us-central1 gs://$[BUCKET]

接下來我們把 Google 公開 Bucket 的資料，也就是汽車的照片，複製到我們剛建好的 Bucket：

gsutil -m cp -r gs://car_damage_lab_images/* gs://${BUCKET}

光是有照片本身還不夠，因為機器學習的過程中，你需要給 AutoML 一張表格，告訴它哪些照片（特徵）是屬於哪一種汽車零件（標籤），我們執行指令去取得表格： 

gsutil cp gs://car_damage_lab_metadata/data.csv .

我們可以看到如下的表格，可以知道前面 18 張都是屬於保險桿的照片，我們之後要傳給 AutoML，就像在教小嬰兒看動物照片那樣。 

另外這些照片的儲存位置，我們也要改成在我們專案環境裡面的位置，如下圖紅色框選處：

我們可以執行這個指令，來批次修改這個檔案的內容： 

sed -i -e “s/car_damage_lab_images/${BUCKET}/g” ./data.csv

執行完就可以看到每個照片的檔案路徑都一口氣改好了：

目前這個表格檔案還是放在 Cloud Shell，我們現在要把它複製到跟照片同樣的 Bucket 位置：

 gsutil cp ./data.csv gs://${BUCKET}

接下來我們進入 Vetex Ai，並且啟用建議的 API：

我們剛剛準備好的資料是放在 Cloud Storage ，而 Vertex AI 還不知道，我們必須要在這邊再建立一次資料集，讓它知道這個資料是要拿來訓練模型用的：

我們輸入資料集的名稱，然後在資料類型選擇「圖片」，分類方式選擇「單一標籤分類」，接著按下「建立」：

然後我們在「選取匯入方法」當中，選擇從「Cloud Storage 選取匯入檔案」，接著打開選取物件的視窗，找到我們剛剛準備好的表格，再按下「選取」：

我們在「匯入檔案路徑」欄位會看到綠色勾勾，表示它有讀取到檔案，我們再按「繼續」。畫面會跳轉到正在執行匯入流程的頁面，然後等待資料匯入完成：

當資料匯入完成，我們也會收到一封通知信，告訴你匯入作業成功，我們可以點擊上面提供的超連結，直接進入資料集的畫面：

你會看到它匯入了 100 張照片，這些照片都已經設定好標籤。我們可以在這個畫面調整標籤，如果確認資料都沒問題，可以按下右上角的「訓練新模型」：

在訓練方法的部分我們選擇 AutoML，然後按下繼續：

在這一頁，我們選擇「訓練新的模型」，加上模型的名稱，再按繼續：

在訓練選項的部分，選擇「Higher accuracy (new) 」，再按繼續：

在預算的部分要注意，最短的訓練時常為 8 小時，即使你的資料不多，它還是會以 8 小時計費，而每個小時的費用是 3.465 美金， 所以你訓練一次至少要花費 27.72 美金，如果不想花到這麼高的費用可以去 GCP 提供的 Lab 環境 操作。接著我們按下「開始訓練」：

大概 1 小時後，我們又收到了模型訓練完成的通知信，可以直接點擊它所提供的連結：

接下來我們會以 Vertex AI Lab 的擷圖來展示後續成果，因為它有提供 Cloud Run 做為 Model 上線運作的 AI 服務端點，可以直接呼叫。

我們就來將幾張測試圖片傳送給這個 Model 來分辨，我們再次打開 Cloud Shell，並且設定環境變數：

AUTOML_PROXY=https://automl-proxy-646123337508.us-centrall.run.app

INPUT DATA FILE=payload.json

上圖的環境變數中，我們有設定 INPUT_DATA_FILE=payload.json，它會包含我們要給模型判斷的圖片檔，但目前這個檔案還不存在。所以我們要建立 payload.json 檔案，把我們要測試的圖片藉由這個檔案送去給 Model 判斷。

你可能覺得奇怪，文字檔怎麼放圖？
我們不是直接上傳圖片，而是透過指令來傳送檔案，透過 Base64 Image Encoder 把圖片轉成 Base64 格式，只要把圖片拖曳進入網頁，它就產生 Base64 的字串，你看起來是亂碼，不要懷疑，它就是圖片的 Base64 格式， 把它複製起來：

接著打開 Cloud Shell 的檔案編輯器，將字串貼到 payload.json 檔案的 content 欄位，你會覺得怪怪的，但不要懷疑這是正確的：

現在我們可以開始測試了，執行下方指令，把圖片傳到 Cloud Run 去判斷： 

curl -X POST -H “Content-Type: application/json” $AUTOML_PROXY/v1 -d “@${INPUT_DATA_FILE}”

在它傳回的資料當中，Conficences 95% 指的是信心水準，代表我們有 95% 的信心相信它判斷的準確度，Display Name 寫的是「bumper」保險桿，可以知道他的判斷是正確的：

我們用相同指令再傳送另一張圖片給它，得到 96% 的信心水準，它的判斷是「hood」引擎蓋，也是正確的：

到這裡代表我們已經成功建立一個 AI 模型囉！過程中主要在準備資料，後執行一些指令，還沒到寫程式的程度喔！

四、Model Garden：預先訓練好的模型庫，快速導入 AI 解決方案

你可以把它想像成一個大型的 AI 模型商店，裡面有 Google 自己的模型，也有其他公司的模型，企業可以直接挑選合適的來用。

Model Garden 提供三大模型類別如下表：

我們在 Model Garden 的主畫面上可以看到，它有各種模型的列表，左邊有依照資料格式和工作場景的模型篩選器，和上方可以看到最新消息，例如最近討論熱烈的 DeepSeek 模型，已經可以在這裡找到：

我們選擇 Gemini 1.5 Pro 來看看：

我們選擇在「Vertex AI studio 開啟」： 

我們可以再提示區輸入提示詞，接著模型會再回應區產生回答，同時我們可以再設定區調整參數，看看它的回答是否會不一樣：

在設定區的部分，我們可以隨時切換成不同的模型而不需要另外打開其他的視窗。而在不同 Region，可以使用的模型可能會不一樣。

在溫度參數的部分，數值越大，代表回答內容的隨機程度越高，你也可以限制每次回應文字的上限。同時你也可以啟用「基準建立」，確保它的回應是有可靠的參考來源。最後你也可以決定讓它輸出純文字或者 JSON 格式的內容。

我們找到一張範例圖片拖曳進去，並且直接輸入中文的提示詞，請它來描述這張圖片，你會看到在回應區，它提供了詳細的描述資訊：

接下來我請它將照片中的時間和城巿用表格來呈現，它也如預期地整理成完整的表格：

我們回到主畫面再搜尋「OWL-ViT」，然後點擊該模型：

這次我們點擊開啟筆記本 （Notebook），這個功能就是「Colab Enterprise」，它是一個幫你設定好的 AI 開發環境，你可以在這裡調整這個模型：

打開之後你會看到一些程式碼，你可以輸入或調整它的程式碼，同時可以查查看它的執行結果：

在這裡要特別注意，當我們打開 Notebook 時，它會直接建立一台虛擬機器，規格是 e2-standard-4 和 100 GB 的 SSD Disk，當你沒有在使用記得要關起來喔！

我們回到 Model Garden 主畫面，再來看另外一個模型 Imagen 3，它是由 Google 所開發的圖片生成模型。

我們直接在下方輸入要想要生層的圖片描述，同時右邊也有各種參數可以選擇，包含生成的模型、照片的比例，以及產生圖片的數量，當我們按下「傳送」之後，就看到它生成了四隻可愛的倉鼠照片。

五、為什麼要選擇 Vertex AI？

不用學習 AI 演算法，可立即開發

我們不需要去學習各種 AI 的演算法或程式， Vertex AI 已經準備好簡易的開發環境和直觀的操作介面，你可以在上面輕易的建立、訓練和調整你的模型。 

一站式平台，整合 GCP 各項服務

在開發 AI 模型之前我們必須要收集整和理相關資料， 可以使用 Pub/Sub、Dataflow、Dataproc 等等，當你把資料儲存到 BigQuery 或 Cloud Storage 後，可以直接匯入 Vertex AI 。當模型訓練完成我們還可以直接部署上線，所以整個 AI 模型的生命週期，通通都在 GCP 上完成。不用切換到其他陌生的環境，提升了方便性與安全性。 

整合 Google 強大 AI 技術，提升模型效能

Google 在 AI 領域的領先地位無庸置疑，而 Vertex AI 直接提供 Google 自家 AI 研究的技術，例如：

• AutoML：無需寫程式碼即可訓練高效能機器學習模型，適合行銷人員與資料科學家。
• Gemini：內建 Google 最新的大型語言模型（LLM），適用於自然語言處理（NLP）、對話式 AI、生成式 AI 應用。
• TPU 支援：可使用 Google 自家研發的 Tensor Processing Unit（TPU），提供比 GPU 更快的 AI 訓練與推論效能。

內建 MLOps 工作流程

MLOps（Machine Learning Operations）是現代 AI 開發的重要關鍵，Vertex AI 內建多種 MLOps 工具，幫助企業加速 AI 的開發流程：

• Vertex AI Pipelines：自動化 AI 工作流程，確保模型訓練、部署與更新流程標準化。
• Feature Store：集中管理與重複使用特徵工程的資料，提升模型訓練的效率。
• Model Monitoring：監控模型在生產環境的表現，主動偵測數據漂移（Data Drift；因趨勢改變造成模型不準），確保 AI 訓練工作精準運行。

六、結論與未來發展

(一) 最新功能 Vertex AI RAG Engine 發布

Vertex AI RAG Engine 能夠整合你公司的內部資料，針對公司內部的問題來回答。一般的 AI（也就是大型語言模型 LLM）只能搜尋網路上公開的資訊，不知道你們公司內部的事，而它能夠尋找公司資料，給你精準的回答（例如去年的公司第四季營收），而不是直接回答「我不知道」。

企業可以將此功能用在客服系統，讓它更智慧的回答客戶問題，也可以讓員工可以直接詢問問題，而不用東翻西找查資料。在知識管理方面，可以集中公司的知識，讓大家學習更快，做好知識的傳承。由於 RAG Engine 才剛發佈，未來此功能必定會持續優化，給企業帶來更多價值。 

(二) 持續提供更多大型語言模型

目前（截稿前）已經支援超過 160 種模型，除了 Google 自己的 Gemini 和 Imagen 持續改版優化中，還有提供第三方的 Claude 模型，也有開源的 Llama 和 Gemma，甚至最新的 DeepSeek 模型，都以極快的速度收進 Model Garden。未來必定持續擴充，你一定可以找到最適合的模型。

(三) 更強的客製化能力

Google 計劃進一步提升 Vertex AI 的客製化選項，讓企業能更靈活地調整 AI 模型，以滿足不同產業的需求。例如，在 AutoML 和 MLOps 方面提供更多可以調整的參數，讓開發人員能夠更深入調整模型和部署環境。

(四) AI 民主化持續進行

自從當年 AutoML 的推出，讓大家開始能夠在不懂任何 AI 知識的情況下，開發自己的模型，現在生成式 AI 時代的到來，Google 必定會往低程式碼或無程式碼的方向持續發展，讓 AI 民主化更為徹底，達到人人都可以不只使用 AI，還能開發 AI。

結論

整個 AI 領域正在朝著更實用的方向發展。從最早的單純回答問題，到現在能夠處理特定專業領域的問題，甚至能夠主動完成任務。隨著技術越來越成熟，我們看到越來越多好用的工具出現，讓企業能更容易地運用 AI 來改善工作效率。

這些發展讓我們看到 AI 的未來充滿可能性。隨著 AI 變得越來越聰明，相信它們能為各行各業帶來更多便利，讓我們的工作和生活變得更輕鬆。

七、常見問題解答（FAQ）

Vertex AI 與 AI Platform 有什麼不同？

Vertex AI 是 AI Platform 的進化版本，提供了更完整的功能，包括 AutoML 和客製化的訓練，都整合在統一的操作界面上，以及更強大的模型管理和 MLOps 功能。

Vertex AI 適合初學者使用嗎？

適合，像 Agent Builder 和 Model Builder 只需要提供資料和一點點操作就可以建立應用程式和模型；Model Garden 只要選定想要的模型，就可以調整參數來測試 AI 回答的內容。

Vertex AI 適合的產業或應用

Agent Builder 適合任何需要對話機器人，或是搜尋功能的應用；Model Builder 產生的模型可以用來分類、辨識和預測等；Model Garden 則是可以用來生成任何你想要的文字或圖片；不管你在哪一個產業，只要你的工作流程牽涉到上述的應用，都可以使用 Vertex AI。

如何開始使用 Vertex AI？

只要你有一個正式的 GCP 專案環境，都可以立即開始使用 Vertex AI。 不過你也要啟用相關的 API，並且準備好訓練的資料。如果是要客製化模型，也需要熟悉相關的開發工具和 SDK 喔！

Model Garden 的模型可以客製化嗎？

Model Garden 中的許多模型都支援微調，這表示你可以使用自己的資料集來進一步訓練模型，以提高其在特定任務上的效能。你可以將多個模型組合在一起，用來開發出更複雜的系統。當然你還可以通過撰寫程式碼來修改模型的行為。

但是要注意，並非所有模型都支援所有客製化選項，而且客製化模型可能需要一定的技術知識和經驗。

Vertex AI 支援哪些 AI 框架？

目前提供 PyTorch、TensorFlow、scikit-learn 和 XGBoost，在 GCP 的官方文件都有相關的使用教學。

Vertex AI 的是如何計費的？

• Vertex AI 的 Agent，文字聊天 1,000 次輸入為 12 美金，但測試階段不計費。 Vertex AI Search 則是 1000 次 2 美元。
• AutoML，每小時訓練費為 3.465 美元，一次至少 8 小時。
• 自訂模型，主要是依照訓練主機的時數計費，例如台灣 （asis-east1）的 n1-standard-4 是每小時 0.253 美元。
• 以上只是針對常見應用舉例，各項功能可能和價格可能會不定期更新，建議以官方文件為準，使用前多確認相關費用，以免不小心誤開機器或 GPU，造成高額的帳單費用！

如何確保 Vertex AI 上的模型安全性？

因為 Vertex AI 整合在 GCP 上，你可以直接透過 IAM 權限控管、私有的存取服務（Private Access）、VPC Service Control 和加密的儲存等機制來保護模型和資料。

Vertex AI 的模型部署選項有哪些？

提供多種部署選項如線上預測（當做 API 即時呼叫）、批次預測（特定時間開機器來運作）、邊緣部署（部署到手機、IoT 設備或生產線）等。可以選擇虛擬機器或容器化的方式部署。

本文同時刊登於：

《【東東老師 X 思想科技】Vertex AI 核心功能 Agent Builder 和 Model Builder》

《【東東老師 X 思想科技】Vertex AI 核心功能 Model Garden 介紹》

The post Vertex AI 核心功能 Agent Builder、Model Builder 和 Model Garden 介紹 first appeared on 東東 GCP 教學 - GCP 實戰講師.