Nvidia 新推出的工具讓本地 AI 計算變得輕而易舉
更新于:2025-03-28 10:38:43

Nvidia 在週二的一篇博客文章中宣佈,推出了一套新的 AI 工具,讓擁有 RTX 硬體的用戶能夠更輕鬆地在本地電腦上運行 AI 模型。

這套名為 Nvidia NIM 微服務的工具,可以讓包括最新發佈的 50 系列在內的 RTX 顯卡用戶輕鬆在其設備上安裝 AI,用於文字、圖像和代碼生成。其他使用場景包括語音處理、PDF 提取和電腦視覺。該工具的目標是讓使用變得盡可能簡單。如果你擁有一台搭載 RTX 的設備,只需下載所需的 NIM 應用程式並運行即可。例如,如果你想轉錄課堂講座,只需下載 parakeet;如果你錄製的歌曲人聲不清晰,只需下載 studiovoice。這些本地 AI 模型也將支援即將推出的 Nvidia DGX 系列專用 AI 計算機。

在本地運行模型的優勢在於從長遠來看可以節省成本。當使用 OpenAI 的 ChatGPT 或 Google 的 Gemini 等 AI 服務時,使用者在需要付費之前能生成的內容是有限的。對於一般任務,大多數人不會觸及這些限制。但在某些使用場景下,成本可能會逐漸累積。本地模型對可生成內容類型的限制較少,而且數據保留在設備上,這對處理敏感材料特別有用。

Nvidia 尚未立即回應記者的置評請求。

Nvidia 是 AI 領域最重要的公司之一。其晶片為包括 OpenAI、Google 和 DeepSeek 在內的新 AI 模型開發提供動力。由於每個主要科技公司都依賴 Nvidia 的硬體來推進 AI 發展,這使得該公司的估值達到了驚人的水準。去年,Nvidia 市值達到了 3 萬億美元。現在已經回落到更"適中"的 2.8 萬億美元。

但通過數千英里外的伺服器運行所有 AI 服務也是一個重擔。這就是為什麼各公司一直在設備上本地實現較小的 AI 功能。例如,iPhone 16 和 Google Pixel 9 可以生成圖像、編輯照片或總結文本,而無需諮詢雲端的 GPU 集群。這使得處理更快更高效。PlayStation 5 Pro 也使用 AI 來提升圖像以獲得更好的視覺效果和性能,據傳任天堂 Switch 2 也將採用類似技術。Nvidia、AMD 和 Qualcomm 等晶片製造商都在致力於開發能夠處理更多 AI 任務的硬體,以繼續吸引科技巨頭的投資。

雖然與 NIM 無關,但 Nvidia 還公佈了一些針對遊戲玩家的新聞。Nvidia 應用程式中新增了一個名為 Project G-Assist 的實驗性 AI 助手。G-Assist 可以更好地説明你優化應用程式和遊戲,允許你運行即時診斷並獲取性能優化建議。因此,如果你想在目前公認最美的遊戲之一《刺客信條:暗影》中獲得最高幀數,G-Assist 可以説明你。G-Assist 還有一個 Google Gemini 外掛程式,所以如果你對《Apex 英雄》中最適合使用的角色或《暗黑破壞神 4》的遊戲技巧有疑問,都可以立即獲得答案。