by rainchu | 11 月 28, 2024 | Agent, AI
Flowise 是一款開源的低代碼工具，一般人也可以輕易地使用，用於構建自定義的大語言模型（LLM）編排流程和 AI 代理。透過直觀的拖放介面，使用者可以輕鬆設計複雜的 AI 工作流程，無需深入的程式設計知識。
Flowise 的主要特點：
- 開源且免費：Flowise 完全開源，使用者可自由使用並進行二次開發，無需擔心授權問題。 GitHub
- 低代碼開發：透過簡單的拖放介面，使用者可以快速構建 LLM 應用，縮短開發週期。 Flowise AI Docs
- 多代理支援：Flowise 提供多代理系統，允許使用者設計可與外部工具和資料來源互動的代理，實現更高效的任務處理。 Flowise AI Docs
- 靈活的工作流程設計：使用者可以根據需求，自定義工作流程的邏輯和順序，滿足不同場景的應用需求。
Flowise 與其他 AI 代理工具的差異：
- 與 Langflow 的比較：Langflow 專注於自然語言處理，提供可視化介面來構建和調試語言處理流程。相比之下，Flowise 更強調 LLM 的編排和代理的靈活性，適用範圍更廣。
- 與 Dify 的比較：Dify 致力於簡化 AI 應用的部署，提供一站式解決方案。而 Flowise 更專注於工作流程的設計和代理的構建，提供更大的自定義空間。
- 與其他工具的比較：Flowise 的開源性和低代碼特性，使其在靈活性和可擴展性方面具有優勢，適合需要快速迭代和自定義需求的開發者。
參考資料
by rainchu | 11 月 22, 2024 | AI, 程式, 程式開發
LLMs Server 還是需要放在 Linux 環境中比較好，但開發階段常常用 Windows 在開發，多數人使用的 Shell export 就沒法使用
export OPENAI_API_KEY="sk-...".
Windows中設置LLM環境變數的幾種方法解決方法
使用命令列 CMD
set OPENAI_API_KEY=sk-...
使用 PowerShell
[Environment]::SetEnvironmentVariable("OPENAI_API_KEY", "sk-...", "User")放在 Python 程式中
import os
# 設置環境變數
os.environ['OPENAI_API_KEY'] = 'sk-你的API密鑰'
# 之後就可以使用這個環境變數了
# 例如，當使用OpenAI的API時，就可以從環境變數中獲取API密鑰
api_key = os.environ['OPENAI_API_KEY']
print("API Key:", api_key)檢查是否有正確設置
相關資料
by rainchu | 11 月 22, 2024 | AI, Chat
省錢增效又不失去太多的準確度，值得試試看的知識圖譜 RAG
LightRAG 框架
如何使用可以看這一篇
瀏覽器看這篇-browser-use
https://github.com/gregpr07/browser-use
相關資源
Paper
Code
by rainchu | 11 月 22, 2024 | AI, 程式開發
Aider 是一款突破性的 AI 程式設計助理，無論是終端操作還是透過瀏覽器，都可以享受與 Aider 的互動式編程體驗
多樣化運行模式
Aider 支援兩種運行模式：
- 本地模式：結合 Ollama 模型，支持用戶在本地執行各種大型語言模型（LLMs）。
- 瀏覽器模式：無需繁瑣的安裝配置，用戶只需透過瀏覽器即可啟動對話編程，輕鬆實現即時代碼編輯。
核心功能與亮點
Git 無縫整合
Aider 深度集成本地 Git 倉庫，讓程式碼管理變得簡單高效：
- 代碼編輯：直接使用提示詞請求代碼修改、錯誤修復或改進功能，變更將即時應用至源代碼。
- 自動提交：所有改動將自動生成具描述性的 Git 提交記錄，便於追蹤和審核。
直觀命令操作
用戶可通過多種命令與 Aider 互動，執行各類任務：
| 命令 | 說明 |
|---|
/add | 將檔案新增到聊天中，讓 GPT 可以編輯或詳細檢查這些檔案。 |
/ask | 提出與程式碼庫相關的問題，無需編輯任何檔案。 |
/chat-mode | 切換到新的聊天模式。 |
/clear | 清除聊天記錄。 |
/clipboard | 將剪貼簿中的圖片或文字新增到聊天中（可選擇提供圖片名稱）。 |
/code | 請求對程式碼進行修改。 |
/commit | 提交在聊天外進行的編輯到程式庫（提交資訊為可選）。 |
/diff | 顯示自上次訊息以來的變更差異。 |
/drop | 從聊天會話中移除檔案以釋放上下文空間。 |
/exit | 離開應用程式。 |
/git | 執行一個 Git 命令。 |
/help | 提出與 Aider 相關的問題。 |
/lint | 對提供的檔案進行 Lint 檢查並修復；若未提供檔案，則修復聊天中的檔案。 |
/ls | 列出所有已知檔案，並指出哪些檔案包含在聊天會話中。 |
/map | 輸出當前程式庫的地圖。 |
/map-refresh | 強制刷新程式庫地圖。 |
/model | 切換到新的大型語言模型。 |
/models | 搜尋可用的模型列表。 |
/quit | 離開應用程式。 |
/read-only | 將檔案新增到聊天中，僅供參考，不能編輯。 |
/reset | 刪除所有檔案並清除聊天記錄。 |
/run | 執行一個 Shell 命令，並可選擇將輸出新增到聊天中（別名：!）。 |
/test | 執行一個 Shell 命令，若退出碼非零，則將輸出新增到聊天中。 |
/tokens | 報告當前聊天上下文使用的 Token 數量。 |
/undo | 如果上次 Git 提交是由 Aider 完成的，則撤銷該提交。 |
/voice | 記錄並轉錄語音輸入。 |
/web | 擷取網頁內容，轉換為 Markdown，並新增到聊天中。 |
完整命令列表涵蓋從文件管理到模型切換的全方位需求。
多模型支持
Aider 支援廣泛的 LLM，包括但不限於：
- Ollama
- OpenAI
- Anthropic
- DeepSeek
- OpenRouter
安裝與使用
基礎安裝
透過 pip 安裝 Aider：
python3 -m pip install aider-chat
運行本地 Ollama 模型
export OLLAMA_API_BASE=http://127.0.0.1:11434
aider --model ollama/mistral
# Groq
export GROQ_API_KEY=sk-xx
aider --model groq/llama3-70b-8192
# OpenRouter
export OPENROUTER_API_KEY=sk-xx
# Or any other open router model
aider --model openrouter/<provider>/<model>
# List models available from OpenRouter
aider --models openrouter/
# Web
aider --browser
# GitHub 學習用
git clone https://github.com/mewmewdevart/SnakeGame
cd SnakeGame
aider
# 请解释这个项目的功能
# 这个项目是运用了哪些技术？
# 更改蛇的颜色为绿色，食物的颜色为红色
相關資料
Aider官網
Aider GitHub
by rainchu | 11 月 19, 2024 | AI
Hunyuan 是基於 MoE (混合專家)的模型，跟上 OpenAI 的腳步，擁有 3890 億個參數量，支持 256K 上下文長度主要能在寫 code 、 數學方面特別突出，模型有大量的中文和英文資料，對使用中文的人口友善，但比起 GPT4 的1.8萬億參數還是差了一個數量等級
MOE
在模型內導入專家功能，例如 GPT4 內就有 16 各專家在服務大家，每次推理會調用 2 位專家來處理，這樣也可以減少記憶體使用量，以及曾快速度，也能專注回答相關領域的問題
相關資源
官網
混元模型論文
GitHub
by rainchu | 11 月 19, 2024 | 圖型處理, 繪圖
img.ly 是一個專為設計、影像編輯和整合工具需求而打造的平台，有支援RD的各種SDK和API，能幫助用戶輕鬆創建高品質的影像內容，並支援各種應用場景的開發需求
什麼是 img.ly？
img.ly 是一家專注於設計與影像編輯解決方案的科技公司，他們提供 API 和 SDK 服務，協助 RD 們將影像編輯功能直接整合到自己的應用程式或網站中。無論是建立圖片編輯器、社群媒體應用、行動遊戲，甚至是專業設計軟體。
其主要產品包括：
- PhotoEditor SDK：功能強大的照片編輯工具，支援剪裁、濾鏡、文字覆蓋、筆刷、調整顏色等多種影像處理功能。
- VideoEditor SDK：讓開發者為用戶提供簡單易用的影片編輯功能，包括剪輯、特效、濾鏡、文字添加等。
- Design Editor：一個強大的設計平台，類似 Canva，幫助用戶快速製作出海報、名片、社群圖片等設計。
img.ly 的特色功能
- 高度可客製化
- 開發者可以根據需求調整編輯工具的外觀和功能，例如自訂顏色主題、添加專屬素材庫，甚至修改界面布局，讓用戶體驗更符合品牌形象。
- 跨平台支援
- img.ly 的 SDK 支援多種開發環境，包括 Web、iOS 和 Android，並與主流框架如 React、Angular、Vue.js 相容，實現無縫整合。
- AI 智能編輯
- img.ly 結合了人工智慧技術，能夠自動識別影像內容並提供智能建議，例如背景移除、自動調整濾鏡效果等，節省用戶的操作時間。
- 專業級性能
- SDK 以高效的設計為基礎，能快速處理大型影像文件且不損失品質，適合需要精細控制的專業級設計需求。
- 商業授權與支援
- img.ly 提供靈活的商業授權模式，適合各種規模的企業。客戶還可獲得專業的技術支援，確保產品整合順利進行。
適用的應用場景
img.ly 的工具應用於：
- 列印功能：支援進階的列印功能選項，像我最近的專案就需要控制進階列印選項，像是控制列印邊界，調整大小等
- 社交媒體平台：用戶可以在應用內編輯照片和影片，創造吸引人的內容。
- 電商平台：提供商品圖片快速修飾或廣告素材製作工具。
- 教育領域：幫助學生進行多媒體創作，激發創造力。
- 遊戲開發：嵌入角色設計或遊戲場景編輯功能。
相關資訊
近期留言