Jimmy Liao 2025-11-30
AI GDE
CTO & Co-Founder Stealth Mode AI Startup
https://linktr.ee/jimmyliao
Email: hi@jimmyliao.net
企業 AI 開發的挑戰
解決方案架構
核心技術介紹
實戰 Demo
企業應用場景
快速開始
Gemini API
Gemini CLI
Google ADK
Vertex AI (選用) 企業級部署 - SLA 保證、私有端點
• MCP Protocol • FastMCP
• 企業級 - 自建 AI 平台 (整合 Gemini API) • 學習/個人 - 開源方案參考 (如 AnythingLLM)
• FastMCP 台股查詢實作 • Document MCP 合規檢查 • Google ADK 投資分析 Agent
• Demo 範例
• 敏感資料不能上傳到外部 API • 需要本地部署方案
• Jira、GitLab、內部系統各自為政 • 缺乏統一的整合標準
• 多個 AI 工具,多套介面 • CLI、Web UI、API 混亂
Gemini CLI -> 快速驗證、免費額度
MCP 協定 -> 標準化工具整合
Google ADK -> Agent 自動化編排
Vertex AI / Cloud Run -> 企業級部署
企業場景 自建平台 + MCP + ADK
演示方案 AnythingLLM(開源、今日 Demo)
開發者 ↓ 自建 AI 平台 (整合 Gemini API) ↓ MCP 協定 + Google ADK ↓ MCP Server (部署到 Vertex AI) ↓ GitLab | JIRA | | Quip | 內部 API
• 客製化整合 - SSO、RBAC、審計 • 資料完全掌控 - 符合合規要求 • 彈性擴展 - 依需求調整架構 • 長期成本最低 - 一次投資長期使用
Gemini API - 核心 AI 能力 MCP Protocol - 標準化工具整合 Google ADK - Agent 自動化編排 Vertex AI (選用) - 企業級部署
• 理解 MCP 整合方式 • 快速驗證概念(30 分鐘體驗) • 參考架構設計
學習工具、技術驗證 小團隊快速啟動 非大型企業生產方案
• 展示 MCP + ADK 整合效果 • 開源、適合公開演示 • 與自建平台效果相同
• 標準化 LLM 與外部工具的連接 • 類似「USB 協定」for AI • 任何工具只需實作一次
• STDIO - 標準輸入輸出 • SSE - Server-Sent Events (HTTP) • Streamable HTTP - 串流 HTTP
AnythingLLM (MCP Client) ↓ MCP Protocol GitHub MCP Server • search_code() • create_issue() • create_pull_request() • get_workflow_runs() ↓ GitHub API GitHub
Google 官方 AI 命令列工具
• 支援最新 Gemini 模型 • Free tier:50 req/min, 1k req/day (2.5 Pro) • 快速開始:
npm i -g @google/gemini-cli
$ gemini > 你的問題...
• 統一 AI CLI 管理工具(開源專案) • 支援多 AI: Gemini, Claude, Codex
npm i -g @jimmyliao/leapcode
Browser Use(開源) • AI 驅動瀏覽器自動化、MCP 原生支援
台股查詢 MCP Server(FastMCP) • 50 行代碼快速建立、證交所 API
企業文檔管理 MCP • 合規檢查、敏感資料掃描
AnythingLLM 整合 • Web UI、RAG 文檔檢索
Google ADK Agent • 投資分析自動化、3秒完成分析
開源瀏覽器自動化 MCP Server • 開源專案 • AI Agent 瀏覽器控制 - 自然語言操作網頁 • MCP 原生支援 - 完整 MCP Server 實作
網頁自動導航與截圖 表單填寫與按鈕點擊 資料擷取與結構化輸出 多頁面工作流程自動化
GitHub: https://github.com/browser-use/browser-use
在 ~/.gemini/settings.json 加入:
~/.gemini/settings.json
{ "mcpServers": { "browser-use": { "command": "uvx", "args": ["browser-use", "--mcp"], "env": { "OPENAI_API_KEY": "your-openai-api-key-here" } } } }
AI Agent 自動操作瀏覽器
完整演示流程:
應用場景:自動化測試、資料爬取、工作流程自動化
50 lines of Python
• 整合任何 API • 自動 MCP protocol • Remote HTTP/SSE 支援
from fastmcp import FastMCP mcp = FastMCP("台股即時查詢") @mcp.tool() def get_tsmc_price() -> dict: """查詢台積電即時股價""" return get_stock_data("2330") @mcp.tool() def get_tech_stocks(): """科技股比較""" return compare_stocks([ "2330", "2454", "2317" ]) # 啟動 Remote Server mcp.run(transport="sse", port=8080)
• 傳統:手動查詢 5-10 分鐘/次 • AI:自動化 5 秒內完成 • 節省 95% 時間
• 開發時間:1 小時 • 維護成本:極低 • 每日節省:2-3 小時
> 台積電現在多少錢?
> 比較台積電、聯發科、鴻海
企業文檔管理 + 合規檢查
• 企業級文檔管理 (Port 8082) • 自動合規檢查 • 敏感資料偵測(GDPR/個資法)
• 傳統:3-5 天/文件 • AI:5 秒內完成 • 節省 99% 時間
• 自動偵測敏感資料 • 降低法律風險 80% • 年省合規成本:$50K+
1. search_documents() 搜尋企業文件
search_documents()
2. get_document_summary() 文件詳細資訊
get_document_summary()
3. check_compliance() 合規檢查
check_compliance()
4. list_document_categories() 文件分類
list_document_categories()
> 檢查 DOC-2025-005 的合規性
上傳文檔前自動檢查 定期批次掃描 API 整合到審批流程
企業價值:自動化 GDPR/個資法合規
文件:AI 投資決策流程文件
合規檢查結果:
發現 2 個合規問題:
建議:移除或加密敏感資料
docker run -d -p 3001:3001 \ mintplexlabs/anythingllm open http://localhost:3001
• Web UI 介面 - 圖形化操作 • RAG 文檔檢索 - 企業知識庫 • MCP 工具整合 • Docker 部署 - 一鍵啟動
• 傳統 LLM 平台:1-2 週 • AnythingLLM:5 分鐘 • 快 200 倍
圖形化介面 - 降低技術門檻 RAG 檢索 - 知識共享 多用戶協作 - 提升 50% 效率
• 本地部署:$0 API 成本 • 一次投資:長期使用
Taiwan Stock MCP Server
• get_stock_info() 查詢台股資訊
get_stock_info()
• get_market_summary() 市場摘要
get_market_summary()
AnythingLLM Agent Skills 整合
2 tools available: • analyze_investment() - 完整投資分析(ADK) • get_available_stocks() - 支援股票列表
analyze_investment()
get_available_stocks()
效率:原本需 3.5 小時人工分析,現在 3 秒完成
提示:此為 2x 加速版本,實際演示時可看到完整操作細節
AnythingLLM Chat: @agent YOUR_QUESTION
@agent YOUR_QUESTION
無需特殊指令 AI 自動選擇工具 多工具自動組合
查詢台股: "@agent 台積電現在多少錢?" → 自動呼叫 get_stock_info(2330)
get_stock_info(2330)
投資分析: "@agent 幫我分析台積電是否值得投資" → 自動呼叫 analyze_investment("2330", "台積電")
analyze_investment("2330", "台積電")
市場概況: "@agent 台灣股市今天怎麼樣?" → 自動呼叫 get_market_summary()
投資分析自動化
• Agent-first Architecture • Native-MCP Support
• 傳統分析:3.5 小時 • ADK Agent:3 秒 • 節省 99.98% 時間
AI 自動推理 多步驟工具編排 上下文記憶 (Gemini !!!)
from google.adk.agents import Agent from google.adk.tools import FunctionTool # 建立 Agent(整合多個 MCP 工具) agent = Agent( name="investment_analyst", model="gemini-2.0-flash-exp", tools=[ FunctionTool(get_stock_price), FunctionTool(search_documents), # ... 更多 MCP 工具 ] ) # AI 自動推理與工具編排 response = agent.run("分析台積電是否值得投資")
> 分析台積電是否值得投資
開始分析...
✓ [工具 1] get_stock_price("2330") → NT$ 1,025.00 (+1.49%)
✓ [工具 2] get_tech_stocks_summary() → AI 晶片需求強勁,半導體看漲
✓ [工具 3] search_documents("AI投資") → 找到 2 份相關策略文檔
台積電投資分析報告
股價表現:現價 NT$ 1,025.00 (+1.49%)
產業趨勢:AI 晶片需求強勁,半導體產業看漲
內部策略:符合公司 AI 投資策略
建議:買入 | 風險:中低 建議投資比例:5-10%
• 耗時:3 秒 • 人工:3.5 小時 • 節省:99.98% 時間
完整演示內容:
提示:Marp 預覽時可看到完整動畫,PDF 會顯示靜態畫面
Transport: SSE / HTTPStreamable 部署: Cloud Run / K8S
一次部署,多處使用 / 跨平台支援 團隊共享 / 集中管理和更新
• 企業級工具服務
Transport: STDIO 部署: 本地機器
速度快(無網路延遲) 安全性高(不經網路) 適合敏感資料
• 敏感資料處理
工具:Gemini CLI
• 配置 MCP Servers (Remote) • 測試 ADK Agent 整合 • 快速迭代驗證想法
時間:1-2 天即可開始 成本:免費(1000 req/天) 風險:極低,隨時可調整
驗證 MCP Tools 可行性 確認 ADK Agent 邏輯
• 快速驗證想法可行性 • 零成本試錯
適合:中大型企業、有開發資源
• 依需求設計架構 • 整合 Gemini API • 接入內部系統 (SSO, RBAC) • 完全自主控制
優勢: 完全客製化 資料完全掌控 長期成本最低
適合:小團隊、快速部署
• 5 分鐘 Docker 部署 • 開箱即用 • 支援相同的 MCP + ADK • 持續社群支援
優勢: 極低維護成本 快速上線 適合快速驗證
• 公司內部文件散落各處 • 新人 onboarding 耗時 • 重複回答相同問題
• AnythingLLM + RAG • 接入:Wiki、Confluence • MCP Tools: Confluence、Slack、HR
新人 onboarding -50% 知識查詢準確率 +80% IT 支援請求 -30%
"如何申請遠端工作?" → AI 查詢 HR Wiki + 審批系統 → 直接發起審批流程
• 手動部署容易出錯 • 多個系統來回切換 • 缺乏操作記錄
AnythingLLM Agent + MCP Tools
• GitHub MCP - CI/CD 觸發 • Kubernetes MCP - 狀態檢查 • ELK MCP - 日誌查詢 • Slack MCP - 團隊通知
部署時間 -60% 人為錯誤 -80% 操作記錄完整
• 手動:~15 分鐘 • AI:3 分鐘 • 節省:80% 時間
> 幫我部署 user-service v2.1.0 到 staging
✓ 檢查 GitLab - v2.1.0 存在 ✓ 觸發 CI/CD Pipeline ✓ 等待建置 (2m 35s) ✓ Kubernetes - Pod 健康檢查通過 ✓ Smoke Test 通過 ✓ 通知 Slack #engineering
部署完成!耗時 3 分鐘
進辦公室 • 彙整 Slack 未讀重要訊息 / 檢查 Jira 今日任務 • 產生每日工作建議
Standup • 自動產生團隊進度摘要 / 標註 Blocker • 建議協作機會
下班前 • Code Review 提醒 • 未完成任務彙整 / 明日重點預告
• Local Server
• 2-4 Weeks • 1 位工程師
• Gemini API:趨近免費 • 維護:極低 (Docker 自動化)
節省開發時間: 20 人 × 2 小時/天 = 800 小時/月
減少人為錯誤成本
提升團隊生產力:15-30%
• 可持續使用 • 價值隨著團隊擴展增長
https://aistudio.google.com/apikey
export GEMINI_API_KEY="your-key"
Core Tech Stack → Gemini CLI, ADK, MCP
開發路徑 → 漸進式整合策略
Pratical Demo
Gemini CLI - 快速驗證 & 迭代 MCP 協定 Google ADK
• Gemini CLI → First MCP server → ADK Agent :1 小時
1. Browser Use 開源瀏覽器自動化
2. FastMCP 台股查詢 50 行代碼快速建立
3. 企業文檔合規檢查 敏感資料自動掃描
4. AnythingLLM 整合 透過與 @agent 對話驗證 agent 可行性
5. ADK 投資分析 Agent 3 秒完成完整分析
完整程式碼 部署腳本 測試資料
第一階段: Gemini CLI 快速驗證
• 時間:1-2 天 • 成本:免費 • 產出:驗證 MCP 工具可行性
第二階段: Production 部署
• 時間:2-4 週 • 選項:自建平台 / AnythingLLM • 產出:可正式使用的 AI 平台
技術驗證優先 → Gemini CLI 驗證可行性
漸進式部署 → 從小規模開始,逐步擴展
持續優化 → 根據實際使用情況調整架構
• 小團隊: 2 週上線 • 中型企業: 2-4 週 PoC 完成
Jimmy Liao jimmyliao@jimmyliao.net github.com/jimmyliao linktr.ee/jimmyliao
第一行:左上角 DevFest Logo
第二行:中間主標題區域(原本格式)
第三行:右下角 GDG Logo
📸 Screenshot: AnythingLLM Web UI 實際操作畫面
# AnythingLLM Web UI 演示 🎬
**快速上手體驗**
# Demo 4 - 實際執行結果
📸 Screenshot: Google ADK Agent 執行過程的終端機畫面
# Demo 5 - ADK Agent 投資分析 Demo 🎬