Select Page
手機離線跑 AI!Google Gemma 4 + AI Edge Gallery 完整解析(免網路也能用)

手機離線跑 AI!Google Gemma 4 + AI Edge Gallery 完整解析(免網路也能用)

近年 AI 發展幾乎都依賴雲端,但現在 Google 正在顛覆這一切,透過最新的 Google AI Edge Gallery App,你已經可以在手機上「離線」直接運行 Gemma 4 大模型,不只文字對話,還能做到圖片理解、語音應用,甚至 AI Agent。

👉 換句話說:
你的手機,正在變成一台隨身 AI 伺服器。

📱 什麼是 Google AI Edge Gallery?

Google AI Edge Gallery 是 Google 推出的開源應用,讓使用者可以:

  • 在手機上下載 AI 模型
  • 完全「離線」執行
  • 不需要連網、不上傳資料

👉 也就是「On-device AI(裝置端 AI)」

📌 重點特色:

  • 🔒 完全隱私(資料不離開手機)
  • 📡 完全離線(無網路也能用)
  • ⚡ 低延遲(不用等雲端回應)

這款 App 主打「直接在硬體上運行生成式 AI」,讓手機具備高效 AI 推理能力


🧠 Gemma 4 是什麼?為什麼這麼強?

Gemma 4 是 Google 最新開源大模型,基於 Gemini 技術打造。

👉 核心重點:

  • 支援多種尺寸(可跑在手機)
  • 強化推理能力與邏輯能力
  • 可本地執行(Edge AI)

目前部分版本(如 E2B / E4B)已經可以在手機透過 AI Edge Gallery 直接跑

👉 簡單講:

類型傳統 AIGemma 4
運算位置雲端本地(手機)
隱私
延遲
成本訂閱制免費

🖼️ 不只是聊天:圖片+語音也能搞定

這次最關鍵的不是「能聊天」,而是👇

🔍 多模態能力(Multimodal)

Gemma 4 + Edge AI 已經可以支援:

  • 📷 圖片理解(Image Recognition)
  • 🎤 語音相關應用(Speech)
  • 🧾 OCR / 文件理解
  • 🤖 Agent 自動任務

👉 代表未來:

手機 AI 可以直接「看圖、聽聲音、做決策」


⚙️ 實際運作方式

👉 關鍵技術:
  • 模型量化(Quantization)
  • 邊緣推論(Edge Inference)
  • NPU 加速

這也是為什麼現在手機能跑 AI 的核心原因。


🧪 實測重點

✔ 優點

  • 不用網路也能用 AI
  • 資料完全私密
  • 速度比雲端更即時
  • 免費使用

❌ 缺點

  • 模型體積大(2GB~5GB)
  • 手機會發熱
  • 功能還在成長中

🤖 AI Agent 能力(未來最可怕的地方)

AI Edge Gallery 還支援「Agent Skills」:

  • 可接工具(如地圖、知識庫)
  • 可自動完成任務
  • 可擴展插件

👉 官方甚至強調:

AI 可以從單純聊天變成「主動助理」


🌍 這代表什麼?(重點分析)

這不只是 App,而是產業轉折點👇

1️⃣ AI 從「雲端」走向「個人設備」

  • ChatGPT → 雲端 AI
  • Gemma 4 → 個人 AI

2️⃣ AI 成為手機標配(像相機一樣)

未來:

  • 每支手機都有 AI
  • AI 常駐本地運行
  • 即時處理所有需求

3️⃣ 新創機會爆炸(你可以做)

結合你現在在做的 AI Agent / LangChain:

👉 你可以做:

  • 本地 AI 房仲助理
  • 離線 AI CRM
  • 私有 AI 商業分析工具
  • Edge AI SaaS(超有機會)

🧭 實際使用流程(超簡單)

  1. 安裝 App(Play Store / iOS)
  2. 下載模型(Gemma 4)
  3. 開始使用(Chat / Image / Voice)

👉 約 5 分鐘內完成


🏁 結論:AI 正在「回到你手上」

Google 這一步很關鍵:

👉 AI 不再只是雲端服務
👉 而是變成「你手機的一部分」

未來 3 年:

每個人都會有一個「離線 AI 助理」

而你現在就可以先卡位。

官方網頁

https://play.google.com/store/apps/details?id=com.google.ai.edge.gallery&pli=1

https://github.com/google-ai-edge/gallery?tab=readme-ov-file

Google Gemini Ultra 1.0 發佈了

Google Gemini Ultra 1.0 發佈了

Google AI 真的是一點都不讓人省心,在農曆年時候發佈 Google 最強大的 AI 模型,Gemini Ultra 1.0,試玩下來,再程式語言的部分可以跟GPT4.0同樣的強大,並且可以互補,同為 RD 的基因,只能決定在今天再花錢買了,每個月650元台幣,有2T的空間,加上你的 Gmail 和 Google Docs 可以使用,同等於是 Microsoft 的 Copilot + OpenAI ChatGPT 4.0,當然,我兩個都要,出走的只是我的口袋裡的小朋友。

看看發佈的影片

升級去

官網

如何定時打開和關閉 GCP VM Nginx WEB 達到省錢目的

如何定時打開和關閉 GCP VM Nginx WEB 達到省錢目的

建立一個會自動開機和關閉虛擬機器的排程

值得注意的事項:

  • 主機時間都是 UTC 時間,設定的時候,要記得處理這邊,例如台灣時區是+8,所以設定時間的時候要-8

1.首先設定一個 Compute Engine 的 「執行個體排程」如圖所示

2.建立一個新的執行個體排程

設定在每天18:00到23:00最忙碌的時候多開一台主機

3.將要執行的 VM 個體加入到此排程中

記得建立好排程後,要把適用這個規則的 VM 個體都加入,GCP 的排程才會去處理 VM 的開關

4.執行排程的權限設定

如果你之前沒做過權限設定,那肯定會遇到權限不足的錯誤訊息,這時候要來到 IAM 與管理 -> 身分與存取權管理,並且先勾選「包含 Google 提供的角色授權」,然後選擇「授予存取權」

然後主體要選擇你自己的 compute-system.iam 指派角色則是選擇 Compute 執行個體管理員(v1),如圖所示

建立 Ubuntu or Debian 的 Shell Script 定時執行開關機

1.建立自動開關設定的 Script

#!/bin/bash

SOURCE_CONF="/path/to/a.conf"
TARGET_CONF="/path/to/nginx/nginx.conf"

# 使用 sudo 執行需要 root 權限的命令
sudo cp "$SOURCE_CONF" "$TARGET_CONF"
sudo nginx -s reload

2.可以使用 crontab 命令來檢查和管理定時任務(cron jobs)

sudo crontab -e

加入執行時間、程式碼等設定

# 分 鐘 小時 日期 月份 星期 命令
0 23 * * * /path/to/update_nginx_conf.sh

這樣就可以利用 root 權限運行 Script

其中:

  • 分鐘:分鐘(0-59)
  • 小時:小時(0-23,採24小時制)
  • 日期:一個月中的某天(1-31)
  • 月份:月份(1-12)
  • 星期:星期幾(0-7,其中0和7都代表星期日)
  • 命令:要執行的命令或腳本的絕對路徑

例如,如果您希望每天凌晨 3 點執行一個名為 script.sh 的腳本,您應該這樣寫:

檢查

檢查 crontab 列表:輸入 crontab -l 來確認您的任務已被添加到 crontab 列表中。

其他方法

at 指令

例如要讓指令碼在明天的 10:00執行,可以執行下面的指令

at 10:00 AM tomorrow /path/to/script.sh

systemd (System and Service Manager)

  1. 創建一個 systemd 定時任務檔案。
  2. 在定時任務檔案中指定要執行的命令或腳本以及執行時間。
  3. 啟用定時任務。

例如:每一分鐘都要執行一次 script.sh

[Unit]
Description=My Script

[Timer]
OnCalendar=*-*-* *:* *

[Service]
ExecStart=/path/to/script.sh

錯誤處理

如果有遇到無法執行權限的話,可以參考下面的文章解決權限問題

結語

這樣設定完成後,GCP自己就會在晚上11點關機、晚上6點開機,而我的腳本則是在晚上11:00 關閉 Nginx 的 upstream,在18:15開啟 upstream server