Monica AI-Chrome 的一站式外掛
Monica AI 最早是一個 Chrome 瀏覽器的外掛，只要安裝好後按下 Cmd+M 或 Ctrl+M，就可以開始與她聊天。或讓 Monica 幫助您組織和插入文本到任何網頁上。後台可以接上各家的AI模型，並且從超過 80 個模板中選擇一個模板，可以快速生成營銷文案。選擇網頁上的文本，讓 Monica 為您解釋、翻譯、改寫文章。
官網：
Lobe Chat UI-有plugin，多模態的AI CHAT UI
一個可以支援本地模型(ollama)，支援使用者拖拉圖片到對話框、文生圖、STT、TTS、插件設計(Plugin)、自建GPTs、資料庫的強大的 Web Chat UI
支持各種方法安裝
https://lobehub.com/zh-TW/docs/self-hosting/start
本地開發
git clone https://github.com/lobehub/lobe-chat.git cd lobe-chat pnpm install pnpm run dev
Docker 安裝
docker run -d -p 3210:3210 \ -e OPENAI_API_KEY=sk-xxxx \ -e ACCESS_CODE=lobe66 \ --name lobe-chat \ lobehub/lobe-chat
參考資料
利用 Claude Dev 幫你自動化開發程式
Claude Dev 提供了一個 AI 自動生成程式的開發工具，融合了 VS Code 的編輯器功能和強大的 Claude 3.5 Sonnet’s 模型。這套系統融合了代碼的自動生成過程，更在軟體開發的各個階段提供了全方面的支持。
特色介紹
代碼開發和文件管理的全新模式
利用 Claude 3.5 Sonnet’s 的主動式編碼能力，Claude Dev 能夠逐步處理複雜的軟件開發任務。它不僅允許創建和編輯文件，還能探索複雜項目，並在獲得使用者許可後，執行終端機命令。
以往要採用AI開發，必須在各種AI工具以及視窗中切換，有遇到錯誤也需要手動張貼錯誤訊息，提供給AI除錯，現在超越了傳統的代碼自動完成或技術支持，為開發者提供了更全面的幫助。
AI 監督並且和使用者互動
傳統的自主AI腳本通常在沙盒環境中運行，而 Claude Dev 提供了一個圖形使用者UI，可以用來監督每一個變更的文件和執行的命令。這種方式確保了操作的安全性，並使開發者能夠安全地探索主動式 AI 的潛力。你還可以將圖片貼入聊天中，利用 Claude 的視覺能力將模型轉換成功能完整的應用程序，或者用截圖修復錯誤。
深入瞭解每一步的變更
Claude Dev 允許你直接在編輯器中查看每次更改的差異，並在聊天中通過語法高亮預覽跟踪進度。終端命令也可以直接在聊天中運行，你無需自己打開終端機。此外，每次使用工具或發送信息到 API 前，都會出現許可按鈕（例如「批准終端命令」），讓你能夠控制操作。
代碼和項目管理的高效工具
Claude Dev 擁有全面性寫程式的能力：
- 執行系統上的終端命令
- 列出指定目錄的頂層文件路徑
- 遞迴列出指定目錄及其子目錄中的所有文件路徑
- 解析頂層源代碼文件以提取關鍵元素名稱，如 Class 和 Function 等。
透由這些工具的運用，結合自然語言處理的基礎，使 Claude Dev 能夠理解代碼庫的結構和意圖，從而有效地協助開發者去開發大型和複雜的項目。
高級代碼概覽和文件結構的智能分析
從項目文件結構到高級代碼概覽，Claude Dev 使用如 tree-sitter 的工具來解析源代碼，提取出 Class 、Function、 Method 等定義。這種深度分析使 Claude Dev 能夠迅速了解代碼的結構和用途，並根據任務需要閱讀最相關的文件。
實時監控AI的成本控制
Claude Dev 也能跟踪整個任務循環和個別請求的 API 使用成本，並設定在任務中允許的最大 API 請求數量。任務完成後，Claude 可以決定是否通過如
open -a "Google Chrome" index.html
的終端命令來向你展示結果，只需點擊一下即可運行。
這些高級功能證明了 Claude Dev 不僅是代碼自動生成的工具，更是一個全面的開發環境，讓開發者能夠更有效地控制和優化他們的開發流程。通过提供一個全方位的開發解決方案，Claude Dev 真正實現了零代碼開發的未來。
參考資料
https://github.com/saoudrizwan/claude-dev
GraphRAG與我踩過的坑
2024/07 相信 AI 界最火的是 Microsoft 推出的 GraphRAG 了，看起來很簡單，但坑也不少，網路上教學很多，我這邊專門做一集推坑以及救贖的文章
訓練價格過高
用便宜模型 gpt-4o-mini
llm:
api_key: ${GRAPHRAG_API_KEY}
type: openai_chat # or azure_openai_chat
model: gpt-4o-mini
model_supports_json: true # recommended if this is available for your model.用 local ollama, vllm, LM Studio
要用 ollama 的話，要先安裝 ollama 的庫
pip install ollama
並且用別人已經改好的程式碼
git clone https://github.com/TheAiSingularity/graphrag-local-ollama.git
執行細節可以看
視覺化模型
請下載 Gephi
打開 settings.yaml 並且找到 snapshots 將 graphml 打開，這樣子在 index 的時候就會幫你生成 .graphml 的檔案，之後就可以用 Gephi 去編輯他
snapshots: graphml: true raw_entities: true top_level_nodes: true
參考資料
AnythingLLM 採用 docker 安裝
AnythingLLm 官方最推薦的安裝方法是採用 docker，可以最快速的體驗 anything llm web ui 以及驗證想法，雖然說用docker安裝已經超簡單了，但還是有些小細節值得記錄一下，並且告訴大家避免採坑。
最低要求
最低需要 Docker v18.03+ 版本在 Win/Mac 上和 20.10+ 版本在 Linux/Ubuntu 上才能解析 host.docker.internal
Linux：在 docker run 命令中添加 –add-host=host.docker.internal參數以使其能夠解析。例如：在主機上 localhost:8000 上運行的 Chroma 主機 URL 在 AnythingLLM 中使用時需改為 http://host.docker.internal:8000。
安裝指令
docker pull mintplexlabs/anythingllm
Windows 的設定指令，定義好你要存放 llm 的位址
$env:STORAGE_LOCATION="$HOMEDocumentsanythingllm"; `
If(!(Test-Path $env:STORAGE_LOCATION)) {New-Item $env:STORAGE_LOCATION -ItemType Directory}; `
If(!(Test-Path "$env:STORAGE_LOCATION.env")) {New-Item "$env:STORAGE_LOCATION.env" -ItemType File}; `
docker run -d -p 3001:3001 `
--cap-add SYS_ADMIN `
-v "$env:STORAGE_LOCATION`:/app/server/storage" `
-v "$env:STORAGE_LOCATION.env:/app/server/.env" `
-e STORAGE_DIR="/app/server/storage" `
mintplexlabs/anythingllm;多個 Anything llm containers
如果你需要安裝多個anything llm，那記得要改兩個位置
- $env:STORAGE_LOCATION=”$HOMEDocumentsanythingllm-yourid”; `
- docker run -d -p 8001(改成你自己的port):3001 `
修改玩會像是下面的樣子
$env:STORAGE_LOCATION="$HOMEDocumentsanythingllm-yourid"; `
If(!(Test-Path $env:STORAGE_LOCATION)) {New-Item $env:STORAGE_LOCATION -ItemType Directory}; `
If(!(Test-Path "$env:STORAGE_LOCATION.env")) {New-Item "$env:STORAGE_LOCATION.env" -ItemType File}; `
docker run -d -p 8001:3001 `
--cap-add SYS_ADMIN `
-v "$env:STORAGE_LOCATION`:/app/server/storage" `
-v "$env:STORAGE_LOCATION.env:/app/server/.env" `
-e STORAGE_DIR="/app/server/storage" `
--name yourid `
mintplexlabs/anythingllm;之後可以執行 Docker run
docker run -d -p 8001:3001 --cap-add SYS_ADMIN --user root -v "$env:STORAGE_LOCATION:/app/server/storage" -v "$env:STORAGE_LOCATION.env:/app/server/.env" -e STORAGE_DIR="/app/server/storage" mintplexlabs/anythingllm
利用 Docker Compose 安裝
先寫一段 docker-compose.yml ，再用 docker-compose up -d 執行即可
version: '3.8'
services:
anythingllm:
image: mintplexlabs/anythingllm
container_name: anythingllm
ports:
- "3001:3001"
volumes:
- ./storage:/app/server/storage
- ./env.txt:/app/server/.env
environment:
- STORAGE_DIR=/app/server/storage
cap_add:
- SYS_ADMIN
extra_hosts:
- "host.docker.internal:host-gateway"
restart: unless-stopped利用介面安裝
在 docker desktop 的搜尋框內輸入 anythingllm ，找到 mintpolexlabs/anythingllm，並且按下 Run
下載完畢後記得要做第一次的初始化設定喔
TIPS
記得你現在運行的服務是在 docker 中，如果您在 localhost 上運行其他服務，如 Chroma、LocalAi 或 LMStudio，您將需要使用 http://host.docker.internal:xxxx 從 Docker 容器內訪問該服務，因為 localhost對主機系統來說無法解析。
參考資料
https://docs.useanything.com/installation/self-hosted/local-docker
錯誤解決
如果遇到Error : ‘Invalid file upload. EACCES: permission denied, open ‘/app/collector/hotdir/xxxx.txt’，可以用以下的方法解決
docker run -d -p 8001:3001 --cap-add SYS_ADMIN --user root -v "$env:STORAGE_LOCATION:/app/server/storage" -v "$env:STORAGE_LOCATION.env:/app/server/.env" -e STORAGE_DIR="/app/server/storage" mintplexlabs/anythingllm
ChatLaw 法律大模型：法律界的AI革命
在法律領域中，AI 的應用日益增加，而「ChatLaw 法律大模型」正是這一趨勢的最新產物，這個由尖端技術驅動的模型，同時面相專業人士和一般人，提供前所未有的支持，從基本的法律查詢到複雜的案件分析，ChatLaw 都能提供高效且精確的協助，一般人只需要用白話文就可以請 Chatlaw 幫你判斷案件。
核心技術
ChatLaw 的核心在於其先進的演算法。這使得它能夠精確理解和分析法律文本，從而提供具有操作性的建議。無論是判例研究、法律意見書撰寫，還是復雜的法律論證，ChatLaw 都能夠提供高效的解決方案。
ChatLaw-13B，此版本為學術demo版，基於姜子牙Ziya-LLaMA-13B-v1訓練而來，中文各項表現很好，但是邏輯複雜的法律問答效果不佳，需要用更大參數的模型來解決。
ChatLaw-33B，此版本為學術demo版，基於Anima-33B訓練而來，邏輯推理能力大幅提升，但是因為Anima的中文語料過少，導致問答時常會出現英文數據。
ChatLaw-Text2Vec，使用93萬條判決案例做成的數據集基於BERT訓練了一個相似度匹配模型，可將用戶提問信息和對應的法條相匹配。
功能應用
律師和法學研究者使用 ChatLaw 可以迅速獲得所需的法律信息，包括最新的法規變動和相關的判決案例。此外，ChatLaw 的使用者界面極其友好，即使是非專業人士也能輕鬆上手，進行基本的法律查詢。
例如：你可以問”一名女大學生在地鐵站被偷拍”，他就可以回應你判例以及相關條文給你參考，不過現在都是大陸那邊的法律條文。
支援 Python 庫
https://github.com/PKU-YuanGroup/ChatLaw
對法律實踐的影響
ChatLaw 的出現讓法律服務更加民主化，讓普通公眾也能輕鬆接觸到專業的法律建議。這不僅提升了法律服務的普及率，也幫助減少了因法律知識欠缺而產生的社會問題。
參考資料
挤爆服务器，北大法律大模型ChatLaw火了：直接告诉你张三怎么判
近期留言