當你完成組裝、裝好作業系統並更新顯卡驅動後,硬體部分已經大功告成。然而,要讓這台新電腦真正變成一部強大的 AI 算力工作站,最重要的就是部署 AI 執行環境。

對許多剛接觸 AI 的新手來說,手動配置 Python 環境、安裝 CUDA Toolkit、設定 PyTorch 往往會遇到各種版本不相容的報錯。本教學將帶你透過自動化整合包與一鍵安裝腳本,繞過複雜的命令列設定,輕鬆在本地電腦開跑 Stable Diffusion 繪圖與大語言模型(LLM)。

 

一、AI 環境核心三要素簡介

在開始安裝前,先用簡單的方式理解本地 AI 環境的底層結構:

  1. CUDA & cuDNN:NVIDIA 開發的平行運算平台,讓 Python 能直接調用 GPU 進行大規模矩陣運算。

  2. Python:大部分 AI 開發與開源項目的核心程式語言。

  3. WebUI / 繪圖與對話介面:提供視覺化操作介面(如 SD WebUI、ComfyUI、Ollama 等),讓你無需寫程式碼也能操作 AI。

傳統手動安裝需要確保 Python 版本、CUDA 版本與 PyTorch 版本的嚴格對應;而現代的一鍵整合包(Portable Bundles)已經將這些依賴庫封裝完畢,大大降低了入門門檻。

 

二、一鍵部署步驟指南

1.更新 NVIDIA 顯示卡驅動程式:確保顯示卡發揮完整算力.

  1. 前往 NVIDIA 官方網站或打開 GeForce Experience / NVIDIA App。

  2. 下載並安裝最新版本的 Game Ready 驅動程式 或 Studio 驅動程式。

  3. 安裝完成後,最新驅動已內建對應的 CUDA 執行階段(CUDA Runtime),無須手動另外安裝複雜的 CUDA SDK。

2.安裝 SD WebUI / ComfyUI 一鍵整合包:AI 圖像生成(Stable Diffusion).

  1. 下載開源社群推介的一鍵啟動整合包(如秋葉繪世整合包或 ComfyUI Portable 版)。

  2. 將壓縮包解開至純英文路徑的資料夾(如 D:AISD-WebUI),避免中文字元導致路徑讀取報錯。

  3. 打開資料夾中的 A繪世啟動器.exe 或 run_nvidia_gpu.bat。

  4. 啟動器會自動檢測並配置內置的 Python 與 PyTorch 環境,點擊「啟動」即可在瀏覽器開啟操作介面。

3.安裝 Ollama + Open WebUI(對話工具):本地大語言模型(LLM).

  1. 前往 Ollama 官網 下載 Windows 版本的安裝檔並執行。

  2. 安裝後打開命令提示字元(CMD),輸入 ollama run llama3 或 ollama run qwen2.5,系統會自動下載模型並建構本地對話。

  3. 若想要類似 ChatGPT 的漂亮介面,可搭配安裝 AnythingLLM 或 Open WebUI 整合工具,點選幾下即可連結 Ollama 算力。

4.模型檔案管理與存放位置:避免硬碟速度瓶頸.

  1. Stable Diffusion 的 .safetensors 模型請放入 models/Stable-diffusion 資料夾。

  2. 請務必將模型與整合包放在 NVMe M.2 SSD 中,若存放在傳統機械硬碟(HDD),載入大型模型時可能會出現卡頓。

 

三、常見問題與效能最佳化測試

完成安裝後,你可以進行以下測試與優化,確保 AI 效能完全釋放:

1. 顯存(VRAM)溢出檢查

  • 症狀:生成圖片或對話到一半出現 CUDA out of memory 報錯。

  • 解決方案:

    • 在 SD WebUI 的啟動參數中加入 --medvram 或 --lowvram 命令行參數。

    • 選擇參數規模較小或經過量化處理(如 Q4_K_M)的大語言模型。

2. 開啟 xFormers / FlashAttention

  • 在啟動器設定中勾選 xFormers 或 Cross Attention 優化選項,這能大幅降低繪圖時的顯存佔用並提高渲染速度。

3. 工作管理員效能監控

  • 按下 Ctrl + Shift + Esc 打開工作管理員,切換至 GPU 頁面。

  • 將圖表切換為 Cuda 或 Compute_0,在生成圖像或回應文字時,觀察 GPU 使用率是否達到 90% - 100%,確認 GPU 已全速參與運算。

裝好軟體後,你就可以在自己的電腦上不限次數、完全免費且極度私密地運行各種 AI 模型了!

 

如果你在軟體部署或硬體搭配上遇到任何瓶頸,或者希望拿到電腦就能直接使用已預裝優化環境的算力主機,歡迎參考 HKAIPC 香港AI砌機專門店 的精選 AI 硬機套餐。我們不僅提供嚴選相容性與散熱優化的硬體組合,更提供專業的本地 AI 部署支援與測試服務,讓你無縫開啟本地 AI 創作與開發之旅。

想把文章內容變成你的實際配置?

告訴我們模型、軟件、用途及預算,我們可以按工作流整理 AI PC 配置方向。

查詢 AI 配機 →