AI 數位人本地部署教學:Qwen3、Qwen3-TTS、LiveTalking 串接
完整整理 AI 數位人本地部署流程,從 WSL、llama.cpp、Whisper、Qwen3-TTS 到 LiveTalking,包含顯存規劃、安裝命令、角色素材、WebSocket 排錯與 3D 升級方向。
DeepSeek V4 Flash 0731 強化 Agent 與工具使用能力,但 284B MoE 仍需要大量記憶體。本文整理官方評測、GGUF 量化選擇與完整本機部署命令。
Qwen3.8-27B 是 27B 稠密多模態模型,支援 262K 上下文與 MTP。本文整理 GGUF 量化選擇、16GB 顯卡建議、llama.cpp 部署與 Hermes Agent 串接。
2026 本地大模型推理框架怎麼選?本文比較 vLLM、SGLang、llama.cpp、MLX、Ollama 的核心優勢、適合場景與混合部署策略,幫你少踩硬體與維運成本的坑。
Hugging Face speech-to-speech 把 VAD、STT、LLM、TTS 串成 OpenAI Realtime 相容的本地語音 Agent。這篇整理架構、Windows 部署、Whisper、Qwen3-TTS、llama.cpp 與留言裡的常見坑。