AI 資料中心缺電不只靠增供電：NVIDIA DSX 以動態負載與電網協同打造能源韌性
生成式 AI 快速普及後，資料中心面臨的挑戰已經不再只是「買更多 GPU」。當運算密度持續上升，電力供應、機房冷卻、電網品質與硬體利用率，逐漸成為限制 AI 應用規模的核心因素。依 TechNews 科技新報於 2026 年 10 月 24 日整理的消息，NVIDIA 在德國柏林的 GTC 大會宣布，歐洲多家合作夥伴正在採用 DSX AI Factory Platform，藉由動態電力分配與電網調度，提高 AI 工廠的能源使用效率；其中，DSX MaxLPS 軟體可在維持相同 AI 運算產出的情況下，最多降低 30% 用電量。
這項消息的重要性，在於它呈現了 AI 基礎建設的新思維：未來資料中心不應被視為只能全速運作的單一機器群，而應成為能夠配合工作負載、用電價格、碳排要求與電網狀態，進行即時調整的能源管理系統。換句話說，解決 AI 缺電問題除了興建電廠、增加機房與升級變壓設備，也可以從「如何更有效率地使用每一瓦電」開始。
一、為何 AI 資料中心會成為用電管理的重要課題
一般網站與傳統企業資料中心的負載特性，與大型 AI 叢集存在明顯差異。AI 訓練需要大量加速晶片同時運算，推論服務則可能面臨流量突然增加、模型請求集中湧入等情況。當大量高功率伺服器集中在同一座機房，基礎設施便必須即時處理幾個相互連動的問題。
- 功率密度快速增加：單一機櫃內的加速晶片、處理器、記憶體與網路設備，可能在極小空間內產生高達數十千瓦的熱源。
- 冷卻成本上升：高密度運算需要更高效的冷卻設計，空調、液冷系統與熱交換設備也會增加整體耗電。
- 電網負載集中：若多座資料中心都在尖峰時段啟動大型訓練任務，可能造成區域電網供電吃緊。
- 硬體利用率不均：部分工作負載可能等待資料、等待網路或等待其他工作階段完成，即使加速晶片已安裝，也不一定每時每刻都能執行有效運算。
- 能源與運算必須共同衡量：評估 AI 效能時，不能只看每秒處理多少 Token，而應同時考量完成相同任務需要多少電能、冷卻資源與等待時間。
因此，AI 資料中心的效率問題並非單純的硬體問題，而是跨越排程、能源管理、冷卻工程與電網營運的系統問題。NVIDIA 推動 DSX，实质上是把「用電端」納入 AI 工廠的整體設計範圍。
二、DSX 的核心觀念：把電力轉化為可調度資源
依來源摘要，DSX AI Factory Platform 結合了動態電力分配與電網調度兩項概念。雖然現有資訊未完整揭露所有技術細節，但可以從系統架構的角度理解這項設計所代表的意義。
1. 動態電力分配：讓硬體功率隨工作需求調整
動態電力分配的概念，是讓資料中心不再要求所有伺服器始終維持固定功率上限。管理系統可以依據工作負載、服務層級目標、硬體溫度與能源價格，動態調整各類設備的可用功率。
例如，當某批模型訓練可以暫時降低運算優先順序時，系統便可適度釋出部分功率，轉供等待時間較敏感的推論工作。當離峰時段用電價格較低，則可安排可延後的批次任務集中執行。這種方式並不是單純「降低效能」，而是試圖在服務品質、工作完成時間與能源消耗之間取得平衡。
2. 電網調度：避免高負載工作同時湧入
電網調度關注的是「何時用電」以及「用多少電」。如果資料中心能配合公用事業的供電能力，在尖峰時段減少高耗能工作，或把可延後的運算移至離峰時段，就可能降低電網瞬間負載與容量需求。
這對 AI 資料中心尤其重要。模型訓練通常具有較高的工作負載彈性，相較於立即回應使用者請求的線上推論服務，訓練排程通常保留較多調整空間。透過排程器、能源管理系統與資料中心基礎設施管理系統的協同，便有機會將這些工作安排在更適合的時間與功率條件下執行。
3. DSX MaxLPS：相同運算成果下降低能源使用
來源指出，DSX MaxLPS 軟體可在維持相同 AI 運算產出的情況下，最多降低 30% 用電量。這項數據必須從三個關鍵字解讀：相同產出、最多與條件式成果。
- 相同運算产出：節能不能建立在未完成工作或降低服務品質的基礎上。比較時應維持相同模型、相同資料量、相同準確率或相同推論吞吐量。
- 最多 30%：這是最佳情境下的上限，不代表所有資料中心、工作負載與硬體組合都能獲得相同幅度。
- 用電量需要明確邊界：應確認數據是針對 IT 設備用電、整座設施用電，或特定排程情境；不同統計範圍會直接影響結果。
更重要的是，尖峰功率下降與每日總用電量下降並不完全相同。若某項措施只是把工作移至離峰時段，可能降低電費尖峰與電網負載，卻不一定等比例減少每日消耗的千瓦時。因此，導入 DSX 類技術時，必須分別量測「節省多少電」與「減少多少峰值需求」。
三、專業分析：這不是單一省電功能，而是四個層次的協同
從教育與企業數位轉型角度來看，DSX 所反映的是「AI 效能必須與能源韌性共同設計」的趨勢。完整的能源效率改善可以分成四個層次。
第一層：加速晶片與伺服器效率
較高能效的晶片、低電壓運作、更好的冷卻設計及高效電源供應模組，能直接降低每項運算工作的能源需求。這是硬體層的基礎，但只優化單一元件，仍可能受到排程不佳或利用率偏低等因素限制。
第二層：工作排程與資源利用率
AI 叢集需要處理大量排程問題。資料準備速度、節點間通訊、模型平行化方式與工作優先順序，都可能造成加速晶片閒置。透過動態排程，讓適合延後的工作填補離峰時段或低負載區間，可提升整體資本設備利用率。
第三層：資料中心能源管理
資訊基礎設施管理系統可以整合伺服器、電力、UPS、冷卻與環境感測器資料，找出局部負載與能源浪費。當硬體排程器能即時讀取能源資訊時，單純的管理儀表板便會進一步成為可執行控制的平台。
第四層：電網與營運策略
資料中心可以依尖峰电价、備援電力、再生能源供應時段與碳排目標調整工作負載。例如，在再生能源輸出較充足的時段提高訓練排程，在供電受限時降低非緊急任務優先順序。這種跨能源來源的協同，是資料中心由「耗電設施」轉型為「能源參與者」的關鍵一步。
四、資料中心導入動態用電管理的實務建議
對於計畫導入 DSX 或類似方案的企業與研究單位，可依下列流程建立可驗證的能源管理機制。
- 建立基準線：先記錄每日總用電量、IT 設備用電量、機房 PUE、尖峰功率、工作吞吐量、排程等待時間與冷卻耗電。若沒有基準資料，就無法判斷優化是否真正有效。
- 分類工作負載：將模型訓練、批次推論、線上服務與資料前處理分別管理。線上服務通常優先考慮延遲與可用性；可延後的訓練與批次工作則有較多排程彈性。
- 定義服務層級目標：明確規定推論延遲、模型準確率、任務完成期限與可用性。節能措施不得暗中犧牲品質，也應設定功率不足時的降級與回復策略。
- 整合排程與能源管理系統：讓工作排程器能讀取功率、電價與碳排資訊，同時讓能源管理系統掌握各工作階段的即時負載。資料交換介面、權限與資安都需要妥善設計。
- 先進行情境模擬：模擬尖峰用電、伺服器故障、電網限電與再生能源供應變動，確認排程調整不會造成任務大量延後，也不會形成新的單點故障。
- 分批進行對照測試：選擇部分工作負載，比較固定功率模式與動態調度模式。除了總用電量，也要觀察 PUE、峰值功率、任務等待時間與每百萬 Token 耗電量。
- 持續監控並修正：能源條件、工作負載與硬體韌體都可能改變，節能參數不應設定後永久固定。應透過週期性分析重新校正。
五、驗證 AI 節能成效，不能只看 PUE
PUE 能夠反映冷卻、配電等基礎設施對 IT 設備能源的放大程度，是重要的資料中心指標，但 PUE 本身無法完整代表 AI 的能源效率。即使一座機房的 PUE 很低，若 GPU 大部分時間都在等待資料，實際完成每項任務所消耗的電能仍可能偏高。
更完整的評估應納入以下指標：
- 每百萬 Token 的設施總耗電量。
- 每項模型訓練或推論任務的完成時間與耗電量。
- 相同服務層級下的吞吐量與準確率。
- 資料中心的 IT 用電與非 IT 用電比例。
- 尖峰功率、每日總用電量與排程等待時間。
- 任務延後率、服務可用性與能源成本。
- 在不同電力組合下的營運碳排。
教學上可以提醒學員：最有價值的 AI 運算，不是消耗最多電力的運算，而是以合理成本與能源完成最有價值成果的運算。這個觀點能帮助學生從成本、可靠性、永續發展與工程治理四個方向思考 AI，而不是僅追求跑分或模型規模。
六、對校園 AI 學習與研究教學的啟示
學校未必具備大型 AI 工廠，但仍然可以設計具教育價值的能源管理實驗。例如，讓學生使用模擬資料中心，依據不同电价、碳排係數與工作期限建立簡化排程器，再比較固定優先順序與動態排程的差異。
實驗可以觀察四個結果：任務總完成時間是否延長、尖峰功率是否下降、總用電量是否減少，以及服務延遲是否仍在允許範圍內。學生藉此便能理解，資訊系統最佳化很少只有唯一答案，而是多個目標之間的權衡。這也適合用於資料中心管理、能源工程、雲端運算與人工智慧治理等跨領域課程。
結語：AI 的下一場競爭，是每瓦電能能完成多少有效工作
NVIDIA 推動 DSX AI Factory Platform，顯示 AI 基礎建設正從「增加算力」轉向「提高算力的能源回報率」。透過動態電力分配、電網調度與 MaxLPS 軟體，資料中心有機會在相同運算成果下降低最多 30% 用電量，同時舒緩尖峰供電壓力。
不過，這項成果仍應視為需要依工作負載與量測條件驗證的技術訊號，而非所有環境都能直接複製的固定成果。真正成熟的 AI 能源管理，必須同時考量吞吐量、服務品質、排程延遲、PUE、總用電量、尖峰功率與營運成本。未來，當我們評估一項 AI 技術是否值得投入時，除了「能跑多快」與「模型有多大」，還應該追問一個更重要的問題：它究竟以多少能源完成了多少真正有價值的運算？
延伸閱讀：TechNews 科技新報
