這一次OpenAI的2024年春季更新，帶來了虛擬人的真正可行性，因為可以真正即時的交互對談，過程中也真的像極了真人，有語氣，不會笨笨的把句子唸到完畢，完全能理解使用者的指令，並且做出對應的動作，重點還 free
Introducing GPT-4o (youtube.com)
反應速度快、真的超快，再也沒有延遲，可以看看DEMO
懂說話者的語氣，你可以緊張、可以不舒服，他都可以感受到
chatgpt 可以用各種語氣回應，甚至連叫他用歌劇的方法也可以
可以用錄影的方法，了解上下文解題，數學題代公式的也難不倒
也可以用攝像頭看得出來使用者的情緒
https://openai.com/chatgpt/download
AnythingLLM是一款全功能的應用程序，支持使用商業或開源的大語言模型（LLM）和向量數據庫建構私有ChatGPT。用戶可以在本地或遠端運行該系統，並利用已有文檔進行智能對話。此應用將文檔分類至稱為工作區的容器中，確保不同工作區間的資料隔離，保持清晰的上下文管理。
特點：多用戶支持、權限管理、內置智能代理（可執行網頁瀏覽、代碼運行等功能）、可嵌入到網站的聊天窗口、多種文檔格式支持、向量數據庫的簡易管理界面、聊天和查詢兩種對話模式、引用文檔內容的展示，以及完善的API支持客戶端定制整合。此外，該系統支持100%雲端部署，Docker部署，且在處理超大文檔時效率高，成本低。
注意，以下要用 linux 平台安裝，windows 用戶可以用 WSL，推薦用 Ubuntu OS
在自己的 home 目錄下，到 GitHub 中下載原始碼
git clone https://github.com/Mintplex-Labs/anything-llm.git
利用 yarn 作設定資源
cd anything-llm yarn setup
把環境變數建立起來，後端主機是 NodeJS express
cp server/.env.example server/.env nano server/.env
密文需要最少12位的字元，檔案的存放路徑也記得改成自己的
JWT_SECRET="my-random-string-for-seeding" STORAGE_DIR="/your/absolute/path/to/server/storage"
前端的環境變數，先把/api打開即可
# VITE_API_BASE='http://localhost:3001/api' # Use this URL when developing locally # VITE_API_BASE="https://$CODESPACE_NAME-3001.$GITHUB_CODESPACES_PORT_FORWARDING_DOMAIN/api" # for Github Codespaces VITE_API_BASE='/api' # Use this URL deploying on non-localhost address OR in docker.
如果你在設定的時候，遇到更新請求，可以跟我著我下面的方法作
把 prisma 更新好
yarn add --dev prisma@latest yarn add @prisma/client@latest
先編譯前端程式碼，前端是由 viteJS + React
cd frontend && yarn build
將編譯好的資料放到 server 的目錄下
cp -R frontend/dist/* server/public/
選項，如果需要用到本地端的 LLM 模型，就把 llama-cpp 下載下來
cd server && npx --no node-llama-cpp download
把資料庫建立好
cd server && npx prisma generate --schema=./prisma/schema.prisma cd server && npx prisma migrate deploy --schema=./prisma/schema.prisma
Server端是用來處理 api 以及進行向量資料庫的管理以及跟 LLM 交互
Collector 是一個 NodeJS express server，用來作UI處理和解析文檔
cd server && NODE_ENV=production node index.js & cd collector && NODE_ENV=production node index.js &
現在 anything llm 更新速度超快，把這一段指令碼複製起來，方便未來作更新的動作
#!/bin/bash cd $HOME/anything-llm &&\ git checkout . &&\ git pull origin master &&\ echo "HEAD pulled to commit $(git log -1 --pretty=format:"%h" | tail -n 1)" echo "Freezing current ENVs" curl -I "http://localhost:3001/api/env-dump" | head -n 1|cut -d$' ' -f2 echo "Rebuilding Frontend" cd $HOME/anything-llm/frontend && yarn && yarn build && cd $HOME/anything-llm echo "Copying to Sever Public" rm -rf server/public cp -r frontend/dist server/public echo "Killing node processes" pkill node echo "Installing collector dependencies" cd $HOME/anything-llm/collector && yarn echo "Installing server dependencies & running migrations" cd $HOME/anything-llm/server && yarn cd $HOME/anything-llm/server && npx prisma migrate deploy --schema=./prisma/schema.prisma cd $HOME/anything-llm/server && npx prisma generate echo "Booting up services." truncate -s 0 /logs/server.log # Or any other log file location. truncate -s 0 /logs/collector.log cd $HOME/anything-llm/server (NODE_ENV=production node index.js) &> /logs/server.log & cd $HOME/anything-llm/collector (NODE_ENV=production node index.js) &> /logs/collector.log &
在當今快速發展的人工智慧領域中，Perplexity作為一家新興的對話式AI平台公司，於2022年8月成立，迅速吸引了眾多目光。這家新創公司不僅得到了科技界巨頭如黃仁勳和傑夫·貝佐斯等人的重金注資，更是以其創新的知識搜尋平台而聞名。Perplexity提供了一種全新的搜尋體驗，將傳統的網路搜尋與最先進的人工智慧技術結合起來，為使用者遇到的每個問題提供高品質的答案。
至於Perplexity的商業模式，它提供了專業版服務，專業版用戶支付每月20美元的費用，便可無限制使用其「Copilot」功能，享受客服支援，甚至可以上傳自己的資料請Perplexity分析。截至目前，Perplexity已擁有約10萬名付費用戶，顯示出其服務的受歡迎程度以及市場的廣大潛力。
想要做自己的 chatGPT ? 想要用自己的 DATA 訓練機器人? 不知道甚麼是 VectorDB，或是想要企業的聊天機器人應用? 還是想要結合EXCEL回答問題，還是想用機器人幫你完成各式各樣的任務。
第一步驟推薦看下面的文章
GitHub – xuhaoruins/Azure-OpenAI-App-Innovation-Workshop
Azure_App_Innovation_Inspiration_Demo · Streamlit (haxu.dev)
這位正妹超級會賺錢，也是反映了GPTs上線後，最受歡迎的Chat AI應用非女友AI為第一名。Caryn AI，這是一個由23歲的網紅Caryn Marjorie創建的聊天機器人，現在爆紅中。
保姆級的 ChatGPT 克服機器人教學，提供你最新最快最完整的自製客服機器人教學，GPTs前天才發布，經過了兩天測試後，已經找出如何製作自己家的客服機器人的完整方法，分享給大家(PS:GPT最近這幾天留亮超大，常常會有生成錯誤，目前也只能多試幾次)
首先要先到 ChatGPT 的 gpts 網頁上看看，現在有甚麼樣的機器人們應用，
https://chat.openai.com/gpts/discovery
上面就有很多官方的應用，例如:
當然最重要的是 Create a GPT ，客製化你自己的GPT機器人，他會是對話式的建立你自己的機器人，其中不需要真的去懂一種程式語言，只要給 ChatGPT 許願即可實現
先說說介面，左邊是建立以及設定的視窗，右半部則是目前的效果預覽視窗，隨時可以測試一下目前 GTPs 機器人的回應
我這次想要創建一個會幫忙銷售商品的電商用的客服機器人，首先先許願
願望：我要建立一個”可以回答國際上網卡問題的機器人”
ChatGPT 會要求你先為機器人命名，你可以引導他幫你想一個名字或是直接告知他你們公司的品牌名，例如我要用iesim這個名字來做為機器人的名稱，就打入「我想要用 “iesim” 作為機器人的名字」，他會命好機器人的名字並且也用 DALL-3 幫你畫好專屬你品牌機器人的LOGO
如果不滿意他畫的LOGO，或是早就有自己品牌的LOGO，可以直接上傳一個圖檔給他，所有的動作在預覽視窗都會即時的更新
現在你要把GPT Builder問你的問題回應他，回應她的當下，也就是在定義iesim機器人的類別、特性以及他的行為，像是我可以回應 ChatGPT，告訴她我的機器人主要用來回應使用技巧、技術支持、推薦商品以及價格比較
當 ChatGPT 重新定義好機器人後，你就可以嘗試在預覽視窗中，呼叫機器人的名字，例如輸入 iesim ，他就會回應她會的東西
接下來你要賦予這個專家機器人是有甚麼樣的個性，讓他更有人性，例如我這邊這個機器人，是專門做客戶服務的，就少點幽默(避免在傷口上面撒鹽)，多點專業，但要能平易近人，和用詞簡單明瞭，那我就在 Builder 視窗內要求 “請在回應的時候用繁體中文，用詞簡單明瞭”
這時候的預覽視窗就可以試試看目前設定上的效果，例如可以問問在台灣如何用esim卡上網?esim可以用在我的iphone上面嗎?
例如我問了我目前為了 iesim 創建的 GPTs 機器人，”esim可以用在我的iphone上面嗎?”，目前的回就已經很完整了
接下來iesim自家的機器人當然不能為其他人作嫁，當有使用者問到價格以及產品比較時候，一定要回應 iesim 自己的商品，或是有人來亂你家的客服，那要記得別讓他回應色色的問題等，所以在禁止的事項中，我輸入以下資訊
在輸出資料的時候，請遵守以下規定 1.不輸出色情以及暴力的言語 2.不輸出誘導犯罪的言語
完成以上基本設定後，可以進入 Configure 中，進行進階的設定，你切過去 Configure 中時候，會看到 GPTs 已經幫你設定好了大多數的資訊，你可以先從 Instructions 開始，其中 Role and Goal 可以當作正面表列的提示詞，Constraints 可以當作負面的提示詞，把要限制的條件都放在這後面做說明。
此處定義的是當一個使用者第一次接觸你的 GPTs 的時候，會提供他快速進入情況的建議問題，目前是她幫我自動產生的，我要修改成我們想要的，可以直接在 Conversation Starters 中做修改
從上面的預設的建議，改成下面的建議
1.我不知道如何把 esim 放在我的手機上?
2.我的iphone手機是否支援 esim?
3.有去 日本 的上網卡，要如何選擇?
4.要去韓國和日本5天，有推薦的嗎?
預覽視窗輸出會是下圖
我們的客服資料很龐大，也很專業，不是可以在三言兩語說明完畢的，你可以整理成文件，用TXT文字檔上傳給 GPTs，他會去學習且調用裡面的資料，再也不用訓練自己的向量或是LORA了，值得一提的還有文字檔中其實可以吃 JSON 格式的，用了 JSON 檔案，iesim GPTs 就可以在回答的時候帶入連結。
Actions 功能比較進階，但一定要讓你們家工程師學一下，這功能可以跟外部的 API 互動，也就是從你們家的 API 提取資訊，或是呼叫你們家的 API 做動作，例如下單，如果沒有工程師，也可以用支援 ChatGPT 的 Zapier 這種自動化流程的工具來去擴增你的 GPTs 與外部網站甚至是你的電腦主機的互動，其他的 RPA 機器人也都是可以的喔。
Actions 的 Sample 中有取得 Get Weather Data 天氣 API
調用 OpenAI 自家的其他服務
Untitled : 客製調用自家的 API 服務
這功能超級實用且驚艷，可以看官方的 YT 發佈會，他連結了自己的 Slack 以及行事曆，可以讓 chatGPT 去幫你設定你的 Google 行事曆。
可以在 Configure 中，點選你的 LOGO ，會出現 Upload Photo 和 Use DALL-E，可以在這邊上傳自己的LOGO或是重新用 DALL-E 在產生一個 LOGO
這邊要教大家如何使用你現有的網頁，把她製作成 ChatGPTs 的知識庫，有人問的時候，他會按造你網頁的資料標準回答，並且還附上連結，或是你要的呈現效果
{
"Title":"esim 操作說明",
"Context":"1） 下載QRCode / 設定eSIM首先，請先確認手機是否連接上4G/5G網路或Wi-Fi。 下載安裝eSIM需在有網路的狀態下才可進行。
eSIM可在台灣先進行下載安裝，須注意如在方案可使用的國家地區下載安裝，即可能安裝完成後觸網激活，如在方案國家但還未到預計使用方案的日期，請至使用當日再進行安裝。
付款完成後，您會收到一封內含QR Code的Email，掃描QR Code即可將eSIM下載至您的手機，在出國前做好準備。
1.下載eSIM方案：「設定」→「行動服務」→「加入行動方案 / 加入eSIM 」→「掃描QRCode」
2.設定eSIM數據漫遊：「設定」→「行動服務」→「eSIM (次要、旅遊、商務、作用數據等)」開啟號碼並開啟「數據漫遊」
3.切換行動數據：「設定」→「行動服務」→「行動數據」切換設置為eSIM(次要、旅遊、商務、作用數據等)
注意：
1. 請確認您掃描了完整的QR Code。一個eSIM QR Code只能用一台裝置掃描下載1次，下載完成綁定後請勿隨意更換或刪除，如造成無法使用eSIM，恕無法更換與退款。
2. 掃描QR Code動作是將eSIM下載至您的手機，您還需要做些設定來啟用它。
3. 本產品不包含語音通話、簡訊功能。詳見各產品介紹。
4. 本產品不支援鎖卡機、電信業者客製機、網路分享器、改裝過的行動裝置、3G手機、翻譯機以及iPhoneXR 以下的機型。
5. 電信商因應疫情間對網路流量控管嚴格，若因短時間在網路繁忙地區過量使用而導致流量爆增，電信商有權進行管制，會造成短時間降速或斷網，會在一段時間後恢復，此狀況本公司將無法干預。
6. 各國電信網路品質皆有所不同，網路訊號可能隨所在地點、移動中、地形、建築物遮蔽情形、使用人數及天候等因素影響上網品質，敬請知悉。
7. eSIM上網流量使用完畢即終止或方案到期終止，且到期尚未使用完畢的漫遊上網流量自動失效，不得要求退費或退回等值現金。
2）如何關閉Softesim eSIM？
進入設定 >> 行動服務 >> 關閉此號碼 >> 行動數據會恢復成原本的電信。
其他設定：修改Softesim 的方案名稱。
進入設定 >> 行動服務 >> 行動數據：[Softesim eSIM] >> 行動方案標籤 >> 自訂標籤
日本、日韓卡、東南亞卡個人熱點APN設定：確認 eSIM 的APN設定。
適用商品：日本5日無限卡、日本8日無限卡、日本5日1GB、日本7日3GB、日韓5日1GB、日韓7日3GB、東南亞5日2GB、東南亞8日4GB
進入設定 >> 行動服務 >> 選擇eSIM方案 >> 行動數據選項 >> APN設定 >> 個人熱點APN
查看APN頁面最下方"個人熱點"APN欄位是否與其他欄APN相同，如不同，請修正為其他同樣的APN即可。",
"Link":"https://softesim.com/setting/"
}複製網頁標題放到 Title，複製網頁內容放到 Context，複製連結放到 Link 中，例如 https://softesim.com/setting/ 中的網頁資訊，整理後會是上面的文件
4.記得按下 Update (更新)按鈕
輸入文章中的問題 “如何關閉 Softesim eSIM?”
可以進入 ChatGPT 頁面中，點選自己的圖示，在彈出視窗中可以選擇「設定 & Beta」，進去設定中，設定開發者的 profile
在 Builder profile 中，可以去驗證你的 Website(網站) 的 domain(網域)
在 Add a new domain 中，把你擁有的網域填進去，請注意，這個網域是你可以控制 DNS server 的，等等會需要去驗證你的網域所有權
提交網域後，會取得一個驗證碼，要把它複製起來，等等到你的 DNS 主機中，把值填進去
這裡以我的 DNS SERVER (CloudFlare) 做示範，新建一個 TXT 紀錄，名稱用 @ ，內容則是把剛剛取得的值填進去
回到原來的 ChatGPT 頁面上，按下檢查，即可通過驗證
到 Plugin store 中
搜尋 Zapier
點選 Allow 授權 OpenAI 存取你的 Zapier ，在這一步驟前，你要先有註冊過 Zapier 才行喔
下面要新建立一個 action 來讓 ChatGPT 按造你的需求做事情，我打算讓客戶說出自己的需要，例如要去那個國家，待上多少天，我們可以幫他建立訂單
我這邊示範，如果使用者有需求，我們就幫他按照需求建立一筆訂單
要在你的woocommerce網站建立一個帳號，授權給 Zapier 可以建立一筆訂單
請參考 Zapier 文件 ，將https://actions.zapier.com/gpt/api/v1/dynamic/openapi.json?tools=meta 填入到 ChatGPT 的 Actions 中
點擊 Import Url ，並且填入 https://actions.zapier.com/gpt/api/v1/dynamic/openapi.json?tools=meta
會取得 Zapier 的 API 取用範例
### Rules: – Before running any Actions tell the user that they need to reply after the Action completes to continue.
### Instructions for Zapier Custom Action:
Step 1. Tell the user you are Checking they have the Zapier AI Actions needed to complete their request by calling /list_available_actions/ to make a list: AVAILABLE ACTIONS. Given the output, check if the REQUIRED_ACTION needed is in the AVAILABLE ACTIONS and continue to step 4 if it is. If not, continue to step 2.
Step 2. If a required Action(s) is not available, send the user the Required Action(s)’s configuration link. Tell them to let you know when they’ve enabled the Zapier AI Action.
Step 3. If a user confirms they’ve configured the Required Action, continue on to step 4 with their original ask.
Step 4. Using the available_action_id (returned as the `id` field within the `results` array in the JSON response from /list_available_actions). Fill in the strings needed for the run_action operation. Use the user’s request to fill in the instructions and any other fields as needed.
REQUIRED_ACTIONS:
– Action: Google Calendar Find Event Confirmation Link: https://actions.zapier.com/gpt/start?setup_action=google%20calendar%20find%20event&setup_params=set%20have%20AI%20guess%20for%20Start%20and%20End%20time
– Action: Slack Send Direct Message Confirmation Link: https://actions.zapier.com/gpt/start?setup_action=Slack%20Send%20Direct%20Message
只要把上面的 Action: 後面的內容改成你要的文字就可以了，例如
– Action : 我要買
未來你只要觸發 「我要買」 這個關鍵字，就會呼叫你所定義的 Azpier Actions
來試試看做好的機器人吧!!
https://chat.openai.com/g/g-hplXbLoF4-iesim
近期留言