Select Page

Windows設置LLM環境變數的幾種方法

by | 11 月 22, 2024 | AI, 程式, 程式開發

LLMs Server 還是需要放在 Linux 環境中比較好，但開發階段常常用 Windows 在開發，多數人使用的 Shell export 就沒法使用

export OPENAI_API_KEY="sk-...".

Windows中設置LLM環境變數的幾種方法解決方法

使用命令列 CMD

set OPENAI_API_KEY=sk-...

使用 PowerShell

[Environment]::SetEnvironmentVariable("OPENAI_API_KEY", "sk-...", "User")

放在 Python 程式中

import os

# 設置環境變數
os.environ['OPENAI_API_KEY'] = 'sk-你的API密鑰'

# 之後就可以使用這個環境變數了
# 例如，當使用OpenAI的API時，就可以從環境變數中獲取API密鑰
api_key = os.environ['OPENAI_API_KEY']
print("API Key:", api_key)

檢查是否有正確設置

echo %OPENAI_API_KEY%

相關資料

終於有省錢的 GraphRAG – LightRAG是GRAG的燈塔
Aider Chat-邊聊邊寫程式
Aider Chat-邊聊邊寫程式

Aider Chat-邊聊邊寫程式

by | 11 月 22, 2024 | AI, 程式開發

Aider 是一款突破性的 AI 程式設計助理，無論是終端操作還是透過瀏覽器，都可以享受與 Aider 的互動式編程體驗

多樣化運行模式

Aider 支援兩種運行模式：

  1. 本地模式：結合 Ollama 模型，支持用戶在本地執行各種大型語言模型（LLMs）。
  2. 瀏覽器模式：無需繁瑣的安裝配置，用戶只需透過瀏覽器即可啟動對話編程，輕鬆實現即時代碼編輯。

核心功能與亮點

Git 無縫整合

Aider 深度集成本地 Git 倉庫，讓程式碼管理變得簡單高效：

  • 代碼編輯：直接使用提示詞請求代碼修改、錯誤修復或改進功能，變更將即時應用至源代碼。
  • 自動提交：所有改動將自動生成具描述性的 Git 提交記錄，便於追蹤和審核。

直觀命令操作

用戶可通過多種命令與 Aider 互動，執行各類任務：

命令說明
/add將檔案新增到聊天中，讓 GPT 可以編輯或詳細檢查這些檔案。
/ask提出與程式碼庫相關的問題，無需編輯任何檔案。
/chat-mode切換到新的聊天模式。
/clear清除聊天記錄。
/clipboard將剪貼簿中的圖片或文字新增到聊天中（可選擇提供圖片名稱）。
/code請求對程式碼進行修改。
/commit提交在聊天外進行的編輯到程式庫（提交資訊為可選）。
/diff顯示自上次訊息以來的變更差異。
/drop從聊天會話中移除檔案以釋放上下文空間。
/exit離開應用程式。
/git執行一個 Git 命令。
/help提出與 Aider 相關的問題。
/lint對提供的檔案進行 Lint 檢查並修復；若未提供檔案，則修復聊天中的檔案。
/ls列出所有已知檔案，並指出哪些檔案包含在聊天會話中。
/map輸出當前程式庫的地圖。
/map-refresh強制刷新程式庫地圖。
/model切換到新的大型語言模型。
/models搜尋可用的模型列表。
/quit離開應用程式。
/read-only將檔案新增到聊天中，僅供參考，不能編輯。
/reset刪除所有檔案並清除聊天記錄。
/run執行一個 Shell 命令，並可選擇將輸出新增到聊天中（別名：!）。
/test執行一個 Shell 命令，若退出碼非零，則將輸出新增到聊天中。
/tokens報告當前聊天上下文使用的 Token 數量。
/undo如果上次 Git 提交是由 Aider 完成的，則撤銷該提交。
/voice記錄並轉錄語音輸入。
/web擷取網頁內容，轉換為 Markdown，並新增到聊天中。

完整命令列表涵蓋從文件管理到模型切換的全方位需求。

多模型支持

Aider 支援廣泛的 LLM，包括但不限於：

  • Ollama
  • OpenAI
  • Anthropic
  • DeepSeek
  • OpenRouter

安裝與使用

基礎安裝

透過 pip 安裝 Aider：

python3 -m pip install aider-chat

運行本地 Ollama 模型

export OLLAMA_API_BASE=http://127.0.0.1:11434
aider --model ollama/mistral

# Groq
export GROQ_API_KEY=sk-xx
aider --model groq/llama3-70b-8192

# OpenRouter
export OPENROUTER_API_KEY=sk-xx
# Or any other open router model
aider --model openrouter/<provider>/<model>
# List models available from OpenRouter
aider --models openrouter/

# Web
aider --browser

# GitHub 學習用
git clone https://github.com/mewmewdevart/SnakeGame
cd SnakeGame
aider

# 请解释这个项目的功能
# 这个项目是运用了哪些技术？
# 更改蛇的颜色为绿色，食物的颜色为红色

相關資料

Aider官網

Aider GitHub

利用 Claude Dev 幫你自動化開發程式