跳至內容

公司要在地端跑 AI?GPU 伺服器的電力、散熱與網路準備(2026)

從整機功耗、220V 專用迴路、熱負載散熱到 10G 網路,地端 AI 上線前的幾個檢查點。

企業地端 GPU 伺服器機房配置示意圖

GPU 伺服器買回來,裝進機櫃,開機第一天就跳電。這種情況比想像中常見。辦公室的一般插座迴路是給電腦與事務機設計的,不是給一台吃 3kW 的機器。

先算電力,不要先挑卡

一張高階 GPU 的功耗從 300W 到 700W 都有,四張卡加上 CPU 與散熱風扇,整機 2kW 到 3kW 很普通。八卡的機型可以到 6kW 以上。採購前先問廠商整機的最大功耗,不要只看 GPU 的數字。

台灣一般壁插迴路是 110V、15A,理論值 1.65kW,長期使用建議抓八成,大約 1.3kW。一台四卡伺服器插上去,這條迴路就滿了。

專用迴路與 220V

GPU 伺服器通常要吃 220V。同樣功率下電流少一半,線徑與插座都好處理,電源供應器的效率也比較好。請水電拉專用迴路,獨立斷路器,線徑依電流選,不要跟其他設備共用。

UPS 的容量要用實功率算,不是看 VA 數字漂亮就好。GPU 滿載時的啟動電流與瞬間抽載都要留餘裕。電池只撐十分鐘也好,夠讓機器正常關機。

散熱用熱負載算,不是用坪數

3kW 的設備就是 3kW 的熱,大約等於一台一噸冷氣的制冷量。辦公室原本的冷氣是照人數與坪數配的,多加一台伺服器,房間溫度會慢慢往上爬。GPU 溫度到頂就降頻,花大錢買的算力跑不出來。

機櫃前後要留空間,冷空氣從前面進、熱風從後面出。機櫃裡面不要塞滿其他設備,伺服器放在中間或下層,熱空氣比較好排。

重量、噪音與地板

一台 4U GPU 伺服器 30 到 40 公斤,裝滿的 42U 機櫃常常超過 400 公斤。一般辦公室的地板不是設計來承受這個重量,樓層板與集中載重要先確認。

GPU 伺服器的風扇聲音不小,滿載時像吹風機。放在辦公區旁邊,同仁會抗議。找一個有門的空間,或者做隔音。

網路與儲存別成為瓶頸

GPU 等資料的時間比算的時間長,是很常見的浪費。內部網路至少 10G,多台機器一起訓練就往 25G 或 100G 走。儲存端的讀取速度要跟得上,傳統硬碟陣列應付不了。

資料要放在哪、誰有權限、要不要備份,這些問題在買機器之前就該有答案。模型檔案與訓練資料通常很大,備份策略跟一般檔案不一樣。

先小規模驗證

不確定需求有多大,先租雲端或買一台跑看看。實測之後再決定要不要擴充,比一次買滿八卡、結果閒置三年好。

尚筠科技協助企業評估地端 AI 伺服器的機房電力、散熱與網路配置。電話 02-2397-2716。

辦公室強電與弱電為什麼要分開?裝修時最常被忽略的配電細節(2026)
強電與弱電混在一起的干擾、管線距離、專用迴路與弱電箱配置,裝修前先講清楚。