Select Page

LibreChat 是什麼？Docker 安裝、多模型整合與 Ollama 串接教學

by | 9 月 9, 2026 | AI, Chat | 0 comments

LibreChat 串接多家 AI 模型、本地伺服器、文件與工具的自架工作台示意圖

LibreChat 是把 OpenAI、Anthropic、Google、OpenAI 相容端點與本地模型，整理成一個可以自己部署、自己管理的 AI 工作台。早期把它叫做「套殼」還勉強能描述外觀，但到了現在，這個說法已經低估了它的定位。

它比較像模型與工具之間的控制層。使用者面對同一個聊天介面，管理者則能在後面決定模型來源、權限、Agents、MCP、搜尋、文件檢索與資料保存方式。對想把雲端 API 和內網 Ollama 放在一起的人，LibreChat 是很實用的開源入口。

LibreChat 是什麼

LibreChat 是可自行部署的開源 AI 平台，原始碼放在 LibreChat GitHub。它不包含自己的大型語言模型，而是把不同模型供應商、本地推理服務與工具能力接到同一個操作介面。

  • 在同一段對話裡切換不同模型
  • 保存 Prompt、Presets、對話分支與搜尋紀錄
  • 上傳文件並使用 RAG、OCR 與檔案檢索
  • 建立 Agents，串接 MCP、Skills、工具與子代理
  • 使用 Code Interpreter、Artifacts、圖片生成與網頁搜尋
  • 提供多使用者登入、角色、群組與存取控制

目前官方文件以 v0.8.x 為主，GitHub README 也會展示較新的候選版本功能。正式環境不要只看介面截圖判斷版本，部署前應先確認自己使用的映像標籤與官方升級說明。

它不是免費的 ChatGPT Plus 集合包

這是最容易誤會的地方。LibreChat 本身免費開源，不代表接進去的模型都免費

ChatGPT Plus、Claude Pro 與 Gemini 的消費者訂閱，通常也不能直接當成 API 額度使用。要呼叫官方模型，仍需準備對應的 API Key，費用由各供應商另外計算。

如果不想累積雲端 API 費用，可以改接 Ollama、llama.cpp、LM Studio、vLLM 或其他 OpenAI 相容服務，不同推理後端怎麼選，可以先看 本地大模型推理框架比較。LibreChat 負責操作與編排，模型成本、速度和能力仍由後端決定。

用 Docker 安裝 LibreChat

官方目前仍把 Docker Compose 列為最直接的本機安裝方式。先確認電腦已安裝 Git 與 Docker Desktop，再執行以下命令。

git clone https://github.com/danny-avila/LibreChat.git
cd LibreChat
cp .env.example .env
docker compose up -d

Windows PowerShell 或命令提示字元可把複製指令改成下面這一行。檔名之間要保留空格，不能把整段黏在一起。

copy .env.example .env

啟動完成後打開 http://localhost:3080。第一個完成註冊的帳號會成為管理員，系統沒有預設帳號與密碼，確認管理員可登入後，公開服務建議把 ALLOW_REGISTRATION 設為 false，避免陌生人自行註冊。

三層設定檔不要混在一起

檔案用途適合放什麼
.env密鑰與伺服器開關API Key、登入、註冊與服務環境變數
librechat.yamlLibreChat 功能設定自訂端點、模型清單、Agents、MCP 與介面選項
docker-compose.override.yml容器覆寫掛載設定檔、改連接埠、替換映像與新增服務
docker-compose.yml官方基礎配置原則上維持原樣，方便後續更新

API Key 建議放在 .env，再由 librechat.yaml 使用環境變數引用。不要把真正的 Key 直接寫進 YAML，也不要提交到 GitHub。修改設定後需要重新啟動容器才會生效。

個人環境可以由伺服器統一提供 Key。多人共用時，也可以在自訂端點把 apiKey 設為 user_provided，讓每位使用者在介面輸入自己的憑證，避免所有請求都共用同一把組織 Key。選哪一種方式，取決於費用要集中管理，還是由使用者各自負責。

docker compose down
docker compose up -d

串接內網 Ollama

LibreChat 可以把 Ollama 當成 OpenAI 相容端點。以下範例直接使用內網位置 192.168.0.240:11434。先在專案根目錄建立 librechat.yaml。

version: 1.3.13
cache: true
endpoints:
  custom:
    - name: Ollama
      apiKey: ollama
      baseURL: http://192.168.0.240:11434/v1/
      models:
        default:
          - qwen3:32b
        fetch: true
      titleConvo: true
      titleModel: current_model

接著在 docker-compose.override.yml 把 YAML 掛進 API 容器。

services:
  api:
    volumes:
      - type: bind
        source: ./librechat.yaml
        target: /app/librechat.yaml

如果 Ollama 和 LibreChat 在同一台電腦，Docker Desktop 環境可以依官方範例改用 http://host.docker.internal:11434/v1/。如果 Ollama 在另一台 AI Server，就使用可從 LibreChat 主機連到的區網 IP。遠端服務的監聽、防火牆與測試方式，可接著參考 Ollama 遠端連線教學。

不要直接把 11434 對整個網際網路開放。比較穩妥的做法是限制在內網、VPN 或反向代理後方，再用防火牆控制來源。

從聊天介面升級成 Agent 工作台

LibreChat 現在的價值，已經不只在多模型切換。Agents 可以組合系統指令、模型、工具、MCP、Skills、文件與子代理，並在需要時加入人工確認。這讓同一套介面能分別建立研究助理、文件問答、程式開發、客服與內部知識助手。

若主要需求是跨文件研究與來源整理，Open Notebook 私有 AI 研究工作流會更專門。若重點是跨模型聊天、工具與 Agent 的統一入口，LibreChat 的範圍更廣。兩者也不衝突，前者可以負責知識工作流，後者負責日常模型與代理入口。

常見安裝問題

出現 librechat.yaml 錯誤

先檢查縮排與 YAML 語法，再確認 override 已把檔案掛到 /app/librechat.yaml。容器內讀不到檔案時，主機上有 YAML 也不會生效。

3080 連接埠被占用

可在 override 把外部連接埠改成 3081:3080，之後用 http://localhost:3081 開啟。

Apple Silicon 啟動 MongoDB 失敗

官方文件指出部分 M1 到 M4 環境會遇到 MongoDB 映像的 AVX 相容問題，可在 override 將 MongoDB 映像指定為 mongo:4.4.18。這是相容性處理，不代表所有 Apple Silicon 都一定會遇到。

不知道錯在哪裡

docker compose logs api

先看 API 容器最後一段紀錄，通常會直接指出缺少的環境變數、無效 YAML、資料庫連線或供應商 API 問題。

公開部署前的安全清單

  • 第一個管理員建立後關閉公開註冊
  • 使用 HTTPS 與可信任的反向代理
  • 不要把 API Key 寫進公開 YAML 或 Git 儲存庫
  • 限制 Ollama、MongoDB 與 Redis 的網路來源
  • 定期備份資料庫與上傳檔案
  • 依團隊角色設定 Agents、MCP、檔案與對話權限
  • 升級前先查看 v0.8.x 的相容與遷移說明

LibreChat 現在已有預覽中的 Admin Panel，可管理使用者、群組、角色、系統授權與部分設定覆寫。不過預覽功能仍可能調整，正式環境不能只依賴介面上的開關，網路隔離、密鑰管理與備份仍要在基礎設施層處理。

LibreChat 適合誰

如果你只固定使用一個雲端聊天服務，官方介面通常最省事。當你開始同時使用多家模型、需要本地 Ollama、想建立不同 Agents，或要替團隊管理共用入口，LibreChat 的價值才會真正出現。

我的判斷是，LibreChat 已經從「像 ChatGPT 的開源介面」走到「自架 AI 控制台」。它不會替你省掉所有模型費用，也不會自動解決權限和維運問題，但它讓模型、工具、文件與代理不必被綁死在單一供應商。這對想建立私有 AI 工作環境的人，比單純模仿介面重要得多。

FAQ

LibreChat 可以免費使用 GPT 嗎

LibreChat 免費開源，但 GPT API 仍由 OpenAI 計費。ChatGPT Plus 訂閱通常不能直接抵用 API。想避免 API 成本，可以接本地 Ollama 或其他自架模型。

LibreChat 可以接 Ollama 嗎

可以。透過 librechat.yaml 建立 OpenAI 相容自訂端點，並把設定檔掛進容器即可。本機 Docker 可使用 host.docker.internal，內網 AI Server 則使用可連線的區網 IP。

LibreChat 適合公開給團隊使用嗎

可以，但需要 HTTPS、註冊控制、角色權限、密鑰管理、資料備份與內部服務隔離。第一個註冊帳號會成為管理員，建立後應立即檢查公開註冊設定。

Submit a Comment