同一張 GPU 為何能接更多請求?拆解 vLLM 推理引擎
vLLM 是什麼?從 KV Cache、PagedAttention、前綴快取與連續批次,理解同一張 GPU 如何承載更多請求。本文整理 Prefill 與 Decode 的差別、記憶體用量推算、常見參數與量化取捨,並說明多 GPU、首個 token 等待及吞吐量測試,幫你找出瓶頸,避免把併發改善當成固定倍數加速。
vLLM 是什麼?從 KV Cache、PagedAttention、前綴快取與連續批次,理解同一張 GPU 如何承載更多請求。本文整理 Prefill 與 Decode 的差別、記憶體用量推算、常見參數與量化取捨,並說明多 GPU、首個 token 等待及吞吐量測試,幫你找出瓶頸,避免把併發改善當成固定倍數加速。
Security Guidance 是 Claude Code 的自動安全審查外掛,透過編輯提醒、回合差異檢查與提交審查,協助發現程式風險。本文整理安裝指令、三個實用範例、專案規則範本與確認啟用的方法,並釐清 Skill、Hook 和 Plugin 的差別,以及模型用量、程式碼傳送範圍與不會阻擋提交的使用限制。
Pi Agent 怎麼用?從官方安裝、模型登入與自訂端點開始,釐清 Extension、Skill、Package 的差別,整理 AGENTS.md 分層規則、專案信任與沙箱設定。再用賽車原型理解模型切換、Session Tree 和 Git 版本保存,建立 AI 寫程式流程,並判斷與 Hermes 的選擇差異。
Claude Opus 5.5 能做什麼?從蝴蝶生命週期、水墨動畫到原生 macOS 播放器、iOS 背單字 App、3D 房屋、射擊遊戲與齒輪模擬,本文逐項整理公開案例的能力與限制,核對官方 API 價格,釐清 Claude Code 與 Claude Design 的分工,並提供可落地的需求寫法與驗收流程。
AI 改壞程式怎麼救?這份 GitHub 入門指南從 Vibe Coding 出發,釐清 commit、push、PR、merge 與部署差異,說明 worktree 協作、restore 和 revert 的復原方式,補上金鑰外洩與差異比較的常見誤解,附交給 AI 的檢查提示詞,讓每次修改都有版本可查、成果可驗證。
Lovable 不只是 AI 寫程式工具,而是把想法變成可部署產品的 AI App Builder。從 Manus AI 類代理產品到 MLP 思維,整理它真正值得看的地方。