發表文章

目前顯示的是有「FinOps」標籤的文章

SRE 視角解讀:Uber Software Factory 如何治理 AI Agent 時代的 Token 成本

AI coding agent 在過去兩年間,從輔助工具演變為軟體開發生命週期中的主要生產力來源,也讓 AI 支出從可預測的授權費用,轉變為隨用量複合成長的變動成本。Token 計費模式沒有天然的用量上限——工程師平行執行多個 agent、對整個 codebase 進行重構、或把重複性作業自動化,都會讓消耗量隨活躍度倍增。這個轉變,正把「AI 支出治理」推成一個新的工程管理課題。 Uber Engineering 在 2026 年 8 月發布的〈Running a Software Factory Efficiently at Uber Scale〉,公開了該公司如何在用量快速擴張的同時壓低單位成本。根據該文披露,從 2 月到 8 月中,全公司 agentic 功能的週活躍用戶成長 7 倍,agent 請求量成長 9。4 倍;若把模型版本固定下來比較,每千次請求的成本從高峰下降約 34%,每個 session 的成本從 6 月高峰下降 52%。 若拉開一層來看,這套框架並不是全新的方法論,而是把 SRE 領域行之有年的容量規劃與 error budget 治理,搬進了 AI agent 這個新的資源類型。過去容量規劃談的是運算資源與流量成長的關係,error budget 談的是可用性與變更速度的平衡;Uber 這篇文章處理的問題結構完全相同,只是把「運算資源」換成了「token」、把「可用性」換成了「單位成本」。理解這層對應關係,有助於判斷哪些做法是換皮的舊經驗,哪些才是 AI agent 帶來的新變數。以下先整理該文揭露的治理框架,再回頭對照這層關係。 分層治理模型:掌控力隨專用程度遞增 該文將公司內的 agent 使用場景分為四層,由最泛用到最受管理。層級愈高、愈受管理,團隊對成本、輸出品質與模型選擇的掌控力也愈強。互動式的個人 coding session 屬於最泛用的一層,routing 與模型選擇多半由工程師臨時決定;相對地,把工作交給「受管理的 agent」(例如自動 code review、CI 失敗自我修復、on-call alert 分診),則讓平台方能統一決定模型版本與執行環境。該文將此描述為核心策略轉向——從優化個別終端 session,轉向優化一支專門化的 managed agent 艦隊。 成本方程式:六個變數,三個...

SRE 不是專案:價值、評估與治理

導讀摘要: 在企業管理會議上,「這個 SRE 專案什麼時候結束?」是財務長與執行長最常提出、也最容易誤導決策的問題。它反映了一種常見的認知失調——用「專案(Project)」的靜態思維,去管理一項本質上動態、連續、持續對抗系統熵增的工程實踐。本文從三個層面展開分析:為什麼傳統專案管理難以有效衡量 SRE、SRE 真正的核心價值何在、以及在沒有明確截止日期的前提下應如何評估其 ROI 並控制成本。核心觀點是:衡量 SRE 的正確標準,不是「何時完成」,而是「自動化的程度是否讓人力成本的成長率低於業務成長率」。 一、問題的起點:一個常被問錯的問題 當年度規劃討論到 SRE 或 DevOps 團隊時,最常出現的質疑往往是:「這個專案什麼時候會結束?既然沒有完工日,預算要如何控制?是否要無止盡地投入人力與軟體授權費用?」 這是一個合理、卻建立在錯誤前提上的問題。傳統的 IT 管理習慣以專案思維運作——明確的範圍、時間、預算與截止日期(Deadline)——藉此控管風險。然而,SRE 的本質是對抗複雜系統中的熵增(Entropy)與規模化挑戰,這是一個持續進行的過程,而非一次性的交付任務。 問題的根源不在 SRE,而在管理範式(Paradigm)的錯配。以靜態的專案框架衡量動態的維運工作,不僅難以正確評估績效,也容易導致資源錯置。要化解這個誤判,需要先釐清三件事:專案管理為何在此失效、SRE 的價值究竟該如何定義、以及該用什麼機制取代「截止日期」來控制成本。 二、為什麼傳統專案管理難以衡量 SRE? 軟體服務與建築工程有本質差異。建築物完工後,維護成本相對低廉且可預測;軟體服務則不同——只要業務在成長、流量在增加、新功能在發布,維運的複雜度就會持續上升。 若以「專案結案」的方式管理 SRE,通常會導向兩種結果。其一是 專案永遠無法結案 :由於系統的熵增不會停止,管理者容易因看不到終點而誤判團隊效率低落。其二是 強制結案、撤出人力 :系統隨後因缺乏維護而逐漸劣化,最終造成遠大於節省成本的商業損失。 兩種結果指向同一個結論:SRE 並非一個「有終點的導入計畫」,而是一種「持續運作的能力」。為它設定完工日,就如同為消防體系設定解散日——問題不在於效率,而在於這個提問的框架本身並不成立。承認這一點,是後續一...

Loop Engineering 是新詞,控制迴圈是老朋友:SRE 視角的 AI Agent 設計觀

2026 年六月起,「Loop Engineering」成了討論度很高的一個詞。它的核心主張是:不要再一句一句去指揮 AI agent,而是設計一個能自己運作的迴圈,讓系統替你下指令。這個想法很誘人,但也帶來疑問:它跟我們已經在用的東西有什麼不同?什麼時候該用?會不會出問題? 這篇文章想換一個角度來看這件事。如果我們把 Loop Engineering 放回「控制迴圈(control loop)」這個更老、也更成熟的脈絡裡,前面那些疑問會清楚不少。控制迴圈是 SRE 與自動化領域用了很多年的概念,它累積下來的一些經驗,剛好可以回答 Loop Engineering 現在還沒講清楚的問題。本文的目的不是重述一次「Loop Engineering 是什麼」,(這類介紹網路上已經很多了),而是透過 SRE 的角度來說明,並用它來想清楚幾個實務上真正重要的問題。 一、Loop Engineering 本質 Google Cloud 的 Addy Osmani 在他那篇被廣泛引用的長文裡,把 Loop Engineering 定義為「把負責下指令的那個人,從你自己換成一套你設計好的系統」。在過去 Prompt Engineering 的模式下,開發者跟 AI 是一來一往的:你提需求、AI 產出、你看完再給下一個指令,人始終是流程的控制者。Loop Engineering 想做的,是把這個控制的角色交給一個迴圈:它會自動發現工作、指派任務、驗證結果、記錄狀態,再決定下一步。實作上它由幾個元素組成:Automation、工作區隔離 Worktree、Skills、Connector、Sub-Agent,以及 State Memory。 這裡有個容易被熱潮蓋過的事實值得先說:這並不是一個全新發明。Anthropic 在 2024 年的《Building Effective Agents》裡,就已經描述過 Evaluator-Optimizer(一個模型產出、另一個模型批判修正)與 Orchestrator-Workers(主代理分派工作給子代理)這類架構,它們本質上都是 agent 迴圈。真正改變的其實是工具的成熟度,一年前你想做這件事,得自己寫一堆 bash script 跟排程,現在這些能力已經直接內建進 Claude Cod...

打破「專案」迷思:如何用 Google SRE 思維控制 IT 維運成本?

(本文含聯盟連結。As an Amazon Associate I earn from qualifying purchases.) 在企業管理會議中,當我們討論到 DevOps 或 SRE(網站可靠性工程)團隊的年度規劃時,最常聽到的質疑往往來自財務長或是執行長: 「這個 SRE 專案什麼時候會結束?」 「既然沒有完工日,那我們要如何控制預算?難道要無止盡地投入人力和軟體授權費嗎?」 這是一個非常合理,卻也最容易被誤解的問題。傳統的 IT 管理習慣用「專案(Project)」思維——有明確範圍、時間、預算——來控管風險。但 SRE 的本質是對抗系統的熵增(Entropy),這是一場沒有終點的馬拉松。 然而, 「持續進行」不代表「成本失控」 。事實上,SRE 擁有一套比傳統專案管理更嚴謹的成本控制邏輯。本文將引用 Google 原廠的 SRE 守則,從管理者的角度解析如何正確評估與控制現代化維運團隊的成本。 一、 為什麼用「完工日」管不好 SRE? 軟體服務與建築工程不同。建築蓋好後,維護成本相對低廉且可預測;但軟體服務只要業務在成長、流量在增加、新功能在發布,維運的複雜度就會呈現指數級上升。 如果你試圖用「專案結案」的方式來管理 SRE,通常會導致兩種下場: 專案永遠無法結案: 管理者覺得團隊效率低落。 強制結案撤出人力: 系統隨後因缺乏照料而崩潰,造成更大的商業損失。 關於成本的黑洞:Google SRE Book, Chapter 5 "Toil is the kind of work tied to running a production service that tends to be manual, repetitive, automatable, tactical, devoid of enduring value, and that scales linearly as the service grows." 譯文: 「瑣事 (Toil) 是指那些與維運生產服務相關的工作,它們通常是 手動的、重複的、可被自動化的 、戰術性的、缺乏長期價值的,並且 隨著服務...

熱門文章

Docker 環境下的 Proxy 配置