AI

GPU 周圍的記憶體小區塊連接多條請求光流,象徵 vLLM 的快取管理與批次排程
AI, 模型, 程式開發

同一張 GPU 為何能接更多請求?拆解 vLLM 推理引擎

vLLM 是什麼?從 KV Cache、PagedAttention、前綴快取與連續批次,理解同一張 GPU 如何承載更多請求。本文整理 Prefill 與 Decode 的差別、記憶體用量推算、常見參數與量化取捨,並說明多 GPU、首個 token 等待及吞吐量測試,幫你找出瓶頸,避免把併發改善當成固定倍數加速。

桌面螢幕中的虛構女性 AI 角色與聲波連接,示意 AI Girlfriend V2 語音陪伴與數位人口型
AI, 虛擬人, 語音合成, 語音辨識

AI Girlfriend V2 教學:桌面 AI 女友的語音、記憶與數位人口型怎麼運作?

AI Girlfriend V2 怎麼用?整理 AI 女友的語音對話、DSH 長期記憶、聲音克隆與數位人口型,釐清 8GB 顯卡條件、Windows 整合包和 GitHub 原始碼差異,介紹 RunningHub 素材生成與 AIFISHER 畫布用法。附安裝步驟、記憶驗收與授權提醒,帶你先從純語音開始,建立虛擬夥伴。

放大鏡檢查筆電上的抽象程式區塊並標出提醒,示意 Security Guidance 協助程式碼安全審查
AI, 程式開發

Security Guidance 是什麼?Claude Code 安全外掛安裝與用法

Security Guidance 是 Claude Code 的自動安全審查外掛,透過編輯提醒、回合差異檢查與提交審查,協助發現程式風險。本文整理安裝指令、三個實用範例、專案規則範本與確認啟用的方法,並釐清 Skill、Hook 和 Plugin 的差別,以及模型用量、程式碼傳送範圍與不會阻擋提交的使用限制。

陶瓷人像與透明臉部網格,示意 FaceFusion 本地 AI 換臉與臉部對齊
AI, 影片製作

FaceFusion 換臉教學:本地安裝、模型設定與影片穿幫排查

FaceFusion 怎麼用才自然?從官方下載、本地安裝與圖片換臉開始,整理來源照片挑選、多人臉選擇、遮罩、側臉穿幫與影片閃爍的排查順序。另說明音源錯誤、唇形同步、GPU 後端及 Cpolar 遠端操作,釐清整合包、模型授權與固定網址方案的差別,讓你先做出穩定的短片,再建立適合自己的本地 AI 影像處理流程。

返回頂端