黃朝健觀點：AI時代真正昂貴的，不只是模型，而是失控的Token

生成式 AI 快速走進企業之後，競爭的焦點也正在改變。過去大家關心的是哪一家模型更強、誰的推理能力更好，但當 AI 真正進入客服、採購、行銷、研發與行政流程後，企業面對的問題開始變得務實： AI 不只是要會用，更要用得起、用得久，而且必須創造足以支撐成本的價值。 過去談數位轉型，企業習慣計算伺服器、軟體授權、人力與系統維護成本；進入生成式 AI 時代後，成本結構裡又多了一個過去很少被管理階層注意的項目 ——Token 。從員工的一次提問、文件摘要、資料分析，到 AI Agent 自主搜尋資訊、呼叫工具、反覆推理與執行任務，每一個動作背後，其實都伴隨著 Token 的消耗。當企業只有少數人使用 AI 時，這筆成本或許並不起眼；但當數百名員工、數十個 AI Agent 開始全天候運作， Token 就不再只是技術名詞，而會逐漸成為企業必須管理的營運成本。 如果把 GPU 視為 AI 時代的發電設備，那麼 Token 就像這座「 AI 工廠」持續生產與消耗的數位能源。模型能力愈強、任務愈複雜、 Agent 執行的步驟愈多，需要投入的算力與 Token 通常也愈多。因此，未來企業的競爭力，恐怕不能只看擁有多少 GPU 、採用了多強的模型，而要進一步追問：同樣完成一項工作，誰能消耗更少的 Token 、付出更低的成本，卻創造更高的商業價值？ 這也是「 Token 經濟」真正值得台灣企業關注的原因。它談的其實不只是 AI 怎麼計價，而是一套新的企業經營邏輯：當算力開始像人力、電力與資本一樣成為生產要素，企業就必須學會衡量每一次 AI 運算究竟創造了多少價值。下一階段的 AI 競爭，因此不會只是模型之戰，也將是一場 ** 成本效率與生產力之戰。 AI 導入的下一題，不是哪個模型最好 這兩年， ChatGPT 、 Claude 、 Gemini 陸續走進企業，愈來愈多公司也開始嘗試自行部署開放權重模型。面對快速增加的選擇，企業最常問的問題往往是：「到底哪一個模型最好？」 但當生成式 AI 真正進入企業日常營運後，這個問題其實已經不夠用了。比起一味追求最強模型，企業更應該開始思考另一件事： 眼前這項工作，真的需要花這麼多 Token 嗎？ 一封客服信件的摘要、一張採購單的分類，或是一段會議紀錄的整理，通常並不需要動用最昂貴、推理能力最強的模型。如果所有工作不分難易，都交給最高階模型處理，就像只是送一份文件，卻每次都派出一輛大型聯結車。技術上當然做得到，但從企業經營的角度來看，卻未必划算。而當 AI 從「回答問題的聊天工具」進一步走向 Agentic AI ，這個成本問題還會被進一步放大。 傳統 Chatbot 的互動相對單純，通常是使用者提出一個問題，模型產生一次回答； AI Agent 卻不同。為了完成一項任務，它可能先搜尋資料、讀取文件、呼叫外部工具或 API ，接著分析結果、重新推理、檢查錯誤，再根據新的資訊繼續下一個步驟。一個看似簡單的任務，背後可能已經經歷多輪模型呼叫與大量上下文交換。 對使用者而言，最後看到的也許只是一份報告、一張表格，或一句「任務已完成」；但企業真正付出的，卻是整個 Agent 執行過程累積下來的 Token 與算力成本。因此， AI 進入企業的下一個管理難題，很可能不是「模型價格到底有多高」，而是企業是否真正知道自己的 AI 正在做什麼、呼叫多少次模型，又消耗了多少 Token 。 當 AI Agent 從幾個實驗性專案，擴大到採購、客服、財務、行銷甚至內部管理流程時，這個問題就會從幾美元、幾十美元的 API 帳單，逐漸變成必須被管理的企業成本。換句話說， AI 時代真正危險的，未必是 Token 太貴，而是 Token 在企業看不見的地方持續被消耗。 Token 可能成為企業新的成本中心 這樣的發展，其實和企業過去導入雲端服務的歷程十分相似。 AWS 、 Azure 與 Google Cloud 剛開始普及時，企業看中的是彈性、快速部署，以及不必一次投入大量硬體設備的便利性。但隨著系統愈搬愈多、使用規模愈來愈大，許多企業才逐漸發現：雲端雖然方便，帳單卻可能在不知不覺中快速增加。也因此，後來才發展出 FinOps 的概念，透過財務、技術與營運團隊共同管理雲端資源，讓每一筆算力支出都能對應到實際的業務價值。生成式 AI 很可能正在重演同樣的過程。 企業現在導入 AI ，多半還在關注「有多少員工使用」、「導入多少個 Agent 」，或者「模型效果好不好」；但當 AI 真正擴大到日常營運後，管理者遲早必須面對更現實的問題：完成一次任務到底花了多少 Token ？處理一張採購單需要多少成本？客服 AI 解決一個案件花多少錢？一個 AI Agent 為公司創造一萬元營收的同時，又消耗了多少模型與算力資源？因此，未來企業可能需要建立一套類似「 AI FinOps 」的管理思維，把過去相對抽象的 Token 消耗，轉換成可以被財務與管理階層理解的經營指標。 例如完成一項工作的 Cost per Task 、做出一次判斷的 Cost per Decision ，甚至真正產生商業成果之後的 Cost per Outcome 。到了這個階段，企業衡量 AI 的方式就不會只是看呼叫多少次模型、用了多少 Token ，而是開始追問： 這些 Token 究竟替公司換回了什麼？ 員工多問幾次、文件多分析幾份，成本可能還不明顯；但當數百名員工與大量 AI Agent 同時運作，而且 Agent 還能自行呼叫模型、工具與資料來源時，每一次看似微不足道的成本，都可能在規模放大之後累積成可觀的支出。因此，企業真正需要管理的不是「少用 AI 」，而是 讓每一次 AI 運算都有值得付出的理由 。 否則就可能出現一個看似矛盾的情況： AI 導入愈成功、員工使用愈頻繁、 Agent 部署愈多，企業的 AI 帳單也成長得愈快，最後卻無法證明生產力或營收以相同速度增加。 到了那個時候，問題就不再是 AI 好不好用，而是這筆 AI 投資究竟划不划算。 中階主管不會立刻消失，但工作一定會改變 當 AI Agent 開始接手愈來愈多流程性工作後，另一個值得企業重新思考的問題，就是管理者的角色將如何改變。 近年不少討論認為， AI 可能壓縮中階管理層的需求。這樣的變化未必會在短時間內發生，但背後的趨勢確實值得注意。因為傳統主管有相當一部分時間，用在資訊彙整、工作分派、進度追蹤與跨部門協調，而這些工作正逐漸成為 AI Agent 可以協助甚至部分自動完成的領域。但這並不代表管理者因此失去價值。相反地，當例行性的管理工作被 AI 接手之後，主管真正重要的能力反而會更加凸顯。 未來管理者需要思考的，不只是「工作要分給誰」，而是「這項工作究竟應該交給人，還是交給 AI 」。哪些任務可以自動化？哪些決策必須保留人類判斷？ AI 產生的結果要如何驗證？一旦發生錯誤，又該由誰承擔責任？這些問題，都會逐漸成為企業管理的新日常。換句話說，管理的重心正在從「管理人力」，進一步走向「設計人與 AI 如何共同工作」。 因此，未來的主管可能更接近「 Player-Coach 」的角色 —— 既是球員，也是教練。他不能只是站在組織上層分派任務，而必須理解 AI 工具的能力與限制，親自參與流程設計、檢查關鍵成果，同時帶領團隊把 AI 真正轉化成生產力。這也意味著，未來衡量一名主管價值的方式可能會有所不同。過去我們常用「管理多少人」來理解一個職位的重要性；但在 AI 時代，真正具有競爭力的管理者，未必是帶領最多員工的人，而可能是最懂得讓 人、 AI Agent 與企業流程有效協作的人 。 當管理者開始同時調度人力與數位勞動力，企業的管理邏輯也就正式從「管人」，進入「管理人機協作」的新階段。 一個人加上一群 Agent ，可能變成新的生產單位 這樣的變化，也讓 Individual Contributor ，也就是「獨立貢獻者」的重要性重新被放大。 過去，一個人即使能力再強，仍然受到時間與體力的限制，一天終究只有 24 小時。但在 AI Agent 加入之後，個人的工作邊界開始被重新定義。 一名工程師可以同時操作程式碼 Agent 、測試 Agent 、文件 Agent 與資料分析 Agent ，讓原本需要多人分工的工作，在更短時間內完成；行銷人員也可能同時使用市場研究 Agent 、內容生成 Agent 、 SEO Agent 、廣告分析 Agent 與客戶資料 Agent ，把分析、企劃到執行的流程串接起來。 這意味著，未來企業衡量生產力的方式可能會出現明顯改變。過去要擴大產能，往往意味著增加人力；未來則可能先思考，能不能透過 AI Agent 放大既有人才的能力。 因此，企業未來的基本生產單位，未必仍然是一個傳統的十人團隊，而可能逐漸變成： 一個專業人才，加上一群 AI Agent 。 但個人產能被放大的同時，另一個問題也隨之而來： AI 並不是免費的勞動力。 當一名員工背後只有一個聊天機器人時， Token 成本或許並不明顯；但當每位員工都同時操作多個 Agent ，而這些 Agent 又能自行讀取資料、呼叫模型、使用工具與反覆推理時，企業消耗的 Token 與算力也會快速增加。換句話說， AI 讓「一個人可以做更多事」，同時也意味著「一個人可以消耗更多算力」。 因此，未來企業不能只衡量每位員工創造多少產值，還必須進一步思考：為了放大這名員工的生產力，公司究竟投入了多少 Token 與運算成本？到了這個階段， Token 就不再只是工程師關心的技術參數，而會逐漸變成主管、財務部門與經營者都必須理解的管理指標。 Token 經濟真正的意義，也正在於此： AI 把個人能力放大的同時，也把算力成本帶進了企業日常管理。 台灣企業別再追逐最大模型，真正要算的是 Token ROI 台灣企業導入 AI 時，一個很常見的誤區，就是太容易把模型排行榜當成採購指南。哪一個模型 Benchmark 最高、推理能力最強，就傾向把更多工作交給它處理。但對企業來說，「最強」不一定等於「最適合」，更不代表所有任務都值得使用最高階模型。真正成熟的做法，應該是建立 Model Routing ，也就是模型分流機制。 簡單、重複性高的工作，可以交給成本較低的小型模型；一般摘要、客服回覆或內容整理，可以使用中型模型；只有涉及複雜推理、高風險判斷或重要決策時，才需要動用 Frontier Model 。例如文件分類、格式轉換與資訊抽取，通常不需要最強模型；但法律分析、資安判斷、複雜程式碼或重大商業決策，對準確率與推理能力的要求較高，就有理由投入更多 Token 成本。 這背後其實是一個很基本的經營原則： 不同價值的工作，不應該使用相同成本的資源來處理。 未來成熟的企業 AI 架構，很可能不會只依賴單一模型，而是讓不同規模、不同能力與不同成本的模型共同存在，再依照任務難度、風險與價值，自動決定由哪一個模型接手。現在很多討論容易走向兩個極端：不是認為所有 AI 都應該搬上雲端，就是認為資料安全起見，所有模型都應該留在地端。但對多數企業而言，真正合理的做法往往不是二選一，而是混合式架構。 大量、固定而且可預測的工作，可以考慮部署在地端，降低長期運算成本；涉及機密資料、個資或法規限制的內容，也可以留在企業內部處理。至於流量變動大、需要快速擴充的工作，可以交由公有雲負責；真正需要高階推理能力的特殊任務，再透過 API 呼叫外部 Frontier Model 。因此，未來企業的 AI 環境，很可能會同時存在地端小模型、企業私有模型、公有雲與外部高階模型 API 。企業真正需要解決的，也就不再只是「到底要選哪一家模型」，而是更務實的問題： 什麼工作，應該交給哪一個模型，又應該放在哪一個地方執行？ 當企業開始從這個角度思考 AI ，模型選擇與算力配置就不再只是 IT 部門的技術問題，而會直接進入財務與經營決策。這也是為什麼，台灣企業下一步真正需要建立的，不只是 AI 能力，而是 Token ROI 的概念。 台灣企業對 ROI 並不陌生，但目前不少 AI 專案的績效指標，仍然停留在「導入多少套 AI 工具」、「多少員工接受 AI 訓練」、「建立多少個 AI Agent 」，甚至「模型回答速度有多快」。 這些數字可以反映導入進度，卻無法真正回答最重要的問題： AI 到底替企業創造了多少價值？ 因此，企業應該進一步把 Token 成本納入投資報酬率的計算。 簡單來說： Token ROI ＝AI創造的商業價值 ÷ AI相關運算成本。 例如，一套客服 AI 每月需要 10 萬元的模型、雲端與系統成本，但可以減少 50 萬元的人工作業成本，或者讓客服團隊處理原本數倍的案件量，那麼這項 AI 投資就有相對清楚的商業意義。 反過來說，如果一套 AI Agent 每月花費 20 萬元，最後只是讓一名行政人員每個月少做幾個小時的例行工作，即使它使用的是最先進的模型、最複雜的 Agent 架構，也不代表這項投資具有真正的商業價值。所以未來企業 AI 主管真正需要回答的問題，不會只是「我們用了 GPT 、 Claude 還是 Gemini 」，也不只是「公司部署了多少個 Agent 」。 真正重要的是： 每花一塊錢在 AI 上，到底替公司創造多少價值？ 當企業開始計算這個問題， AI 的競爭邏輯就會完全不同。 企業不再追求所有事情都使用最強模型，而會開始思考哪一個任務值得投入更多 Token ；不再執著所有系統一定放在雲端或地端，而是根據成本、安全性與彈性配置算力；也不再用「用了多少 AI 」衡量數位轉型成果，而是用 AI 真正創造了多少產值來衡量。這才是 Token 經濟真正進入企業經營的關鍵。 未來真正具有競爭力的企業，不一定是擁有最大模型、最多 GPU 或最多 AI Agent 的公司，而是最懂得配置模型、調度算力，並讓每一個 Token 都能產生最大商業價值的企業。 AI 時代最後比的，仍然是組織能力 Token 經濟真正值得企業關注的，並不只是 Token 這個技術名詞，而是它正在重新改變企業的成本結構、工作流程與組織設計。過去企業擴張，往往意味著增加員工；未來則可能同時意味著增加 AI Agent 。過去主管主要管理人力，未來可能還要管理 AI 與人之間的協作；過去企業習慣計算人均產值，未來也可能進一步衡量「 Token 產值」 —— 也就是每 100 萬 Token 究竟完成了多少工作、節省多少工時、降低多少成本，又創造了多少營收。當 AI 逐漸成為企業基礎設施後，競爭的重點就不會只是誰擁有最強模型、最多 GPU 或最多 AI Agent ，而是誰能用更低的成本完成更多工作，並把 AI 放在最適合的位置，讓人真正專注在判斷、創造力與責任承擔等更高價值的工作。 因此，台灣企業下一階段真正需要重新思考的，或許已經不是「公司還可以導入什麼 AI 」，而是「公司每消耗 100 萬 Token ，到底創造了多少價值？」這兩個問題看似只是換了一種問法，背後代表的卻是完全不同的經營思維：前者仍把 AI 視為一項新工具，後者則開始把 AI 當成真正的生產要素來管理。當企業開始計算 Token 成本、衡量 Token 產值，並持續調整模型、算力與 Agent 配置時， AI 才算真正離開科技展示的階段，進入企業經營的核心。到了那個時候， AI 競爭真正比的，或許不再是誰的模型最大，而是 誰能讓每一個 Token ，都轉化成更高的商業價值。 ＊作者為中華民國內部稽核協會講師、嘉南藥理大學講師