跳至內容
新聞分析模型和軟體 · 3 分鐘閱讀

當地AI代理人為工作站提供新工作

Perplexity的Windows擴充套件帶來了當地模型執行的另一個實用例子. 硬體尺寸和資料界限仍然需要仔細閱讀。

Supermicro 雙蘇克塔工作站製造商參考影象
Supermicro 塔工作站描述了本地計算的形狀因素,所需的 GPU 和軟體配置取決於應用程式。製造商圖片 · Supermicro ↗

一個應用程式,而不僅僅是一個簡報

NVIDIA 2026 年 9 月 14 日更新描述了 Perplexity Portable 計算機在相容的 Windows PC 和 RTX 硬體上執行本地 AI. Perplexity 自己的要求識別支援的平臺和,適當的配置,具有至少 24GB VRAM 的 GPU. 這是一個產品特定的要求,而不是承諾,每個 24GB 卡都支援每個功能或模型。 NVIDIA:在Windows PC上出現的本地人工智慧 混亂: 可攜帶計算機產品要求

開發是有趣的,因為它給工作站硬體一個更直接的應用角色,一個地方機器可以參與一個代理工作流,而不是僅作為終端服務於遠端模型。

地方不描述每個步驟

一個代理人可以將本地參考與外部工具或服務相結合. 檔案、請求或其他資料仍然可以透過這些連線離開機器. 某個工作流是否仍然本地取決於其配置和行為,而不是一個模型的位置。

對於企業來說,請從一個狹窄的任務開始,並將資料路線地圖。 識別代理人可以閱讀什麼,可以聯絡哪些服務,以及需要審查哪些行動。 這是定義一個可用的應用程式的一部分,特別是工作流可以修改檔案或在其他系統中行動。

工作日的尺寸

一個工作站與使用者共享資源. 模型記憶、應用記憶、儲存和背景任務都影響體驗. 成功的單一演示可能不代表同步文件工作、視訊通話和本地結論的一天。

測量所需的工作負擔在建議的配置上. 包括啟動時間、響應性、持續需求和其他應用的影響. 檢查供應商支援作業系統、GPU 和模型組合而不是僅根據記憶體容量選擇。

物理考慮也重要. 執行可持續計算機的機器需要與其熱量和音效相容的環境. 更有能力的硬體不會自動適合每個桌面。

混合動力可能是實際的結果

某些任務可能在本地機器上舒適;其他可能需要共享伺服器或雲服務;一家公司可以故意定義這些界限,使用本地執行,在滿足要求的地方,另一個環境,在不這樣做的地方。

因此,工作站的機會更廣泛,而不是替換任何遠端API。 它是關於將有用的,連線的計算機靠近使用者. 移動計算機提供一個當前的例子來評估. 購買決策應該遵循支援的工作流和其測量要求,而不是一個總體承諾,任何強大的計算機成為一個自主的辦公室。

來源 & 閱讀更多

分析和結論是我們的;連結的規格和文件可以改變。

訊息來源檢查於2026年9月29日。

探索相關裝置

完整的目錄

目錄參考配置以進一步比較。

Supermicro根據請求
Supermicro SYS-741GE-TNRT塔 · 空
可配置 GPU 伺服器

SYS-741GE-TNRT

H100 PCIe / H100 NVL / L40S / MI210 · 塔 · 空氣冷卻

GPU 能力
至4 · 卡依賴
CPU
2 × 第4/5代 Intel Xeon
冷卻
空氣

請求現有可用性

€35,200–€57,200 未稅價格範圍2 × L40S;雙Xeon,256GB RAM + boot SSD
規格
Supermicro根據請求
Supermicro AS-5126GS-TNRT-01-G25U · 空氣
製造商爆炸

AS-5126GS-TNRT-01-G2

2 × RTX PRO 6000 Blackwell Server · 5U · 空氣冷卻

GPU 記憶體
192 GB GPU 記憶體
CPU
2 × AMD EPYC 9355
冷卻
空氣

請求現有可用性

€73,920–€92,400 未稅價格範圍2 × RTX PRO 6000 伺服器; 2 × EPYC 9355, 1.5TB RAM, 960GB M.2
規格
Supermicro根據請求
Supermicro AS-5126GS-TNRT5U · 空氣
可配置 GPU 伺服器

AS-5126GS-TNRT

H200 NVL / RTX PRO 6000 Server / L40S · 5U · 空氣冷卻

GPU 能力
至8 · 卡依賴
CPU
2 × AMD EPYC 9005/9004
冷卻
空氣

請求現有可用性

€136,400–€176,000 未稅價格範圍8 × RTX PRO 6000 伺服器;雙 EPYC, 1TB RAM + SSD
規格

我們如何涵蓋產業

我們的編輯團隊撰寫有關 AI 基礎設施、設備採購及其背後的行業的文章。新聞分析將報導的進展與我們的結論區分開來;意見文章被貼上這樣的標籤。

每篇文章中都連結了技術和產業參考文獻。出版日期描述了文章的撰寫時間,而不意味著每個規格或市場條件保持不變。