短答：要先回答「給誰用、解什麼問題、出錯誰扛」。
從 2023 ChatGPT 上線開始，「我們網站要不要也加 AI」變成幾乎每家公司的問題。這篇給你一張決策地圖，讓你不是看別人接就跟著接，而是評估完再做決定。
ChatGPT 接到網站可以做哪些事？
1. 客服 / FAQ 自動回覆
場景：你的網站有重複問題（出貨時間、退換貨政策、產品比較）。
好處：自動回 24/7、降客服成本。
會踩雷：AI 不知道答的就會胡謅。沒有 guardrails 的版本可能告訴客戶你沒有的政策。
實際做法：用 RAG（下面會說）+ 限制答題範圍 + 不確定時轉真人。
2. 內部知識庫搜尋
場景：你公司有 SOP、產品手冊、內部 wiki，員工每次都找不到。
好處：員工問問題，AI 從文件中找答案，比 search bar 好用太多。
會踩雷：權限管理不能少。財務部文件不能讓所有人問到。
實際做法：私有部署或 vendor 帶 SSO + 權限切分。
3. 內容生成（部落格 / 商品描述 / Email）
場景：每週要產出 5 篇文章，人手不夠。
好處：產量上來。
會踩雷：純 AI 寫的內容 SEO 紅利已經消失，Google 開始辨識並降權。要有人類編輯。
實際做法：AI 生草稿、人類調整、再上線。生產線不是替代品。
4. 流程自動化（表單分類、訂單問答、收件分流）
場景：每天 100 封詢問信要分類，或表單填完要 AI 判斷哪種 lead 等級。
好處：人不必看每封信。
會踩雷：分錯的成本要算進去（重要客戶被分到低優先級就慘）。
實際做法：AI 分類後人類抽檢，accuracy 達到一定門檻再放手。
把 AI 接到網站有哪些風險？
1. Hallucination（亂答）
LLM 會以自信口吻說錯。對個人使用無傷大雅，對 B2C 可能釀成承諾糾紛。
怎麼降：用 RAG（限定答題來源）+ 加一句「不確定就回轉客服」prompt + 重要場景一定回真人。
2. 資料外洩
你把使用者輸入丟給 OpenAI / Anthropic / Google，這些對話會不會用來訓練？商業資料可不可以給？個資怎麼處理？這是上線前要問清楚的安全問題之一。
怎麼降：選擇 enterprise tier API（OpenAI Enterprise / Anthropic Claude for Work）保證不訓練；個資進去前 mask 掉；或用自架 / 台灣本地 LLM。
3. 成本失控
LLM 是 token 計費。一次對話 5,000 token、一天 1,000 次 = 每月可能 NT$10,000 – 30,000。流量大就更恐怖。
怎麼降：上 rate limit、cache 重複問題、輕量問題用便宜 model（GPT-4o-mini / Claude Haiku）、重要才上強的。
RAG 是什麼？一段話說清楚
RAG（Retrieval-Augmented Generation，檢索增強生成）是讓 AI「真的知道你的資料」的核心技術。做法是：使用者問問題時，系統先去你的資料庫（FAQ 文件、產品手冊、SOP）找相關段落，把這些段落連同問題一起送給 LLM 回答，LLM 的答案只能基於這些資料，不能憑空編造。相比之下，不用 RAG 的 AI 只能靠訓練時學到的資料回答，對你公司的產品細節、客服政策、最新價格一無所知，容易回答錯誤或不相關的內容。99% 的商業 AI 應用場景（客服機器人、內部知識庫、FAQ 自動化）都應該用 RAG，這不是可選項而是基本要求。一個沒有 RAG 的 AI 客服，等同於讓不熟悉公司的新人接電話，而且這個新人還會以自信語氣亂說。RAG 的實作通常包含三個元件：embedding 模型把文件轉成向量、vector database（pgvector / Pinecone / Qdrant）儲存與檢索、LLM 根據檢索結果生成答案。判斷 RAG 做對沒的標準：問一個 FAQ 沒寫過的問題，AI 應該回「文件中沒提到」而不是亂編 ── 如果它還會編，就是 prompt 沒鎖好、或檢索沒命中、或 context 沒正確注入給 LLM。
- 不用 RAG：AI 用自己的訓練資料回答（會編）
- 用 RAG：AI 只能用你給的資料回答（會引用）
接 ChatGPT 到網站每月要花多少錢？
| 規模 | 用量 | API 費 | 開發 / 維護 | 月總 |
|---|---|---|---|---|
| 小型（FAQ、不到 1k 對話） | 5 萬 token | NT$300 – 1,500 | 0（用 vendor） | NT$1k – 3k |
| 中型（客服、不到 10k 對話） | 50 萬 token | NT$3k – 15k | 1-2k vendor 月費 | NT$5k – 25k |
| 重度（內部知識庫 + 客服） | 5M token | NT$30k – 150k | 自架伺服器 + 維運 | NT$50k – 200k |
注意：vendor SaaS（如 Intercom Fin）月費 USD $0.99 / resolution，看起來便宜，但 1,000 resolution = USD $990 = 約 NT$30k。SaaS 看起來簡單但 scale 起來不一定便宜。
ChatGPT 串接有哪三種做法？
| 維度 | 路徑 A：Vendor SaaS | 路徑 B：API 直串 | 路徑 C：自架開源 |
|---|---|---|---|
| 代表工具 | Tidio / Crisp / Intercom | OpenAI / Claude API | Llama / Ollama |
| 上線時程 | 1 週 | 1 個月 | 3 個月 |
| 月費 | NT$1k – 25k | NT$5k – 50k | NT$50k+ |
| 需要工程師 | 否 | 是 | 是（+ DevOps） |
| 資料隱私 | Vendor 管理 | API 合約保障 | 完全自控 |
| 適合情境 | 快速 POC、小規模 | 中長期、中客製 | 高隱私或大量 |
路徑 A：用 vendor SaaS
代表：Tidio、Crisp、Intercom Fin、Botpress
適合：要快上線（一週內）、不想養工程師、規模還不大
踩雷：客製有限、長期 cost 高、知識庫綁在 vendor 上
路徑 B：直接串 API
OpenAI API / Anthropic API + 自家後端 + 自家 vector DB（Pinecone / Qdrant / pgvector）
適合：要中等客製、有工程師可以維護、預期長期經營
踩雷：要管 prompt、要管 RAG pipeline、要管 cost monitoring。不是把 API key 丟給 AI 寫一寫就會跑 production。
路徑 C：自架開源模型
Llama 3 / Mixtral / Qwen + 自家伺服器（GPU）+ Ollama / vLLM
適合：高隱私需求（個資 / 商業機密）、量大想壓 cost、有 GPU 預算
踩雷：開發 + 運維成本高、效果通常輸 GPT-4 / Claude 一截
怎麼決定？3 個問題
1. AI 答錯的成本是什麼？
- 沒差（FAQ 一般問題）：路徑 A
- 影響業務（客戶承諾、訂單）：路徑 B + 加人類審核
- 法規 / 個資（醫療 / 金融 / 法務）：路徑 C 自架，或先別做
2. 預期用幾年？
- 半年內 POC：路徑 A
- 1-3 年：路徑 B
- 3 年以上 + 量大：路徑 C 算下來最划算
3. 內部有沒有工程師可以接手？
- 沒有：路徑 A
- 有 1 個前端工程師：路徑 A 或 B（外包搭內部）
- 有後端 + DevOps：B 或 C
為什麼 AI 客服上線後沒人用？
最常見的失敗：「我們也接個 AI 客服」當成 quick win，沒想清楚要解什麼問題。三個月後上線，使用率 5%，因為：
- 答非所問（沒做 RAG）
- 沒接真實 FAQ 資料
- UI 藏在頁面某個角落
- 沒人 promote / 沒測試過
AI 不是功能，是流程升級。要評估的不只是「接 AI」，是「客服流程怎麼改 / 員工怎麼用 / 失敗怎麼接住」。
結論
ChatGPT 接到自家網站不是「要不要」的單選題，是一連串設計決策。
如果你的用例答得出這 5 個問題，那就接得起來：
- 給誰用？
- 解什麼問題？
- 答錯了誰扛？
- 預算多少？
- 誰維護？
答不出來，先別接 ── 接了會變成「AI 客服上線最後變成『請聯絡客服』導引頁」這種笑話。
如果想討論你的場景算哪一條路，我提供 30 分鐘免費 AI 可行性釐清通話 ── 直接私訊我，把問題講清楚比裝功能重要。
