GGoldDigger Textile
DEPLOY YOUR OWN BOT

把 AI 机器人部署到
你自己蒸馏后的网站

蒸馏给你两个东西:一套网站内容,一份结构化知识库。机器人怎么接、接在哪、数据归谁——这篇给三种做法,代码可以直接抄,30 分钟能跑起来。

数据路径 工厂自有 平台抽佣 0 最快上线 30 分钟 月成本 ¥30 起
01

先选路线:三种部署方式

区别只有一个——用户的问题最终发到谁的服务器。想清楚这点,其它都是工程量。

A · 平台托管0 代码

SI 网站右下角那个气泡就是。蒸馏完成自动挂上,问答走平台知识库,不需要你做任何事。

  • 上线时间:0 分钟
  • 数据路径:经过平台
  • 费用:含在托管内
适合:先上线收询盘,后面再换自有

B · 自有模型 + 平台知识库推荐

知识库导出到你自己的服务器,回答用你自己的 DeepSeek / Claude / Gemini Key。用户问题不经过平台。

  • 上线时间:半天
  • 数据路径:工厂 → 模型厂商
  • 费用:按 token 实付
适合:在意客户名单、要接 CRM 的工厂

C · 完全自托管最重

模型也自己部署(vLLM / Ollama),知识库、推理、日志全在厂内网。断网也能答。

  • 上线时间:1–2 天
  • 数据路径:不出厂
  • 费用:显卡 + 电
适合:涉密工艺、军工配套、大集团
怎么选:90% 的工厂选 B。A 的问题不是不安全,而是你拿不到对话数据、也没法接自己的报价单;C 的成本通常比省下的风险贵。
02

前置条件:先确认你手上有这四样

缺任何一项都会卡住,先对一遍再动手。
东西在哪拿用来干什么没有会怎样
知识库 JSON蒸馏结果页 → 知识库导出检索、回答依据机器人只能瞎编
网站内容 / 页面结构蒸馏产物 · SI 网站挂载气泡、跳转链接没有落地页
模型 API KeyDeepSeek / 阿里百炼 / Claude 控制台生成回答无法推理
一个域名或子域你现有的域名解析给后端 API 用只能本机测试
先验证知识库有没有内容:curl https://golddigger.gold/textile/api/chat/kb 返回 36 段以上才算合格。少于 10 段,回去补 BRIEF 里的主营产品和认证。
03

六步部署(以方式 B 为例)

每步都给可运行的最小实现,跑通再优化。
1

导出知识库到自己服务器

知识库是机器人的"事实边界",放在平台你每次都要跨网调用,延迟高也不可控。
bash
# 拉取段落索引,落到工厂自己的机器
curl -s https://golddigger.gold/textile/api/chat/kb > kb_index.json

# 段落正文(蒸馏产物里的原文,需登录后下载)
# 也可在 结果页 → 4 件产物 → 知识库 直接下载 kb.json
ls -lh kb.json   # 30–80 KB,正常

格式是 {id, title, tags, text} 的数组。text 里就是工厂产能、认证、工艺参数这些事实。

2

选模型:先看中文和工具调用,再看价格

外贸问答里中英混写、型号、认证编号多,便宜模型容易把 OEKO-TEX 100 说成 100 类。
模型适合参考价(输入/输出,每百万 token)注意
deepseek-chat中文问答、报价解释约 ¥1 / ¥2国内直连,最省事
qwen-plus长文档、表格约 ¥0.8 / ¥2阿里云实名
claude-sonnet英文邮件、合规措辞约 $3 / $15需海外支付
gemini-flash多语言、图片理解约 $0.3 / $2.5色卡识别好用
价格随官方调整,以控制台账单为准。一个日均 50 次对话的站,月成本通常在 ¥30–80。
3

写后端:检索 + 生成,40 行

不要一上来搞向量库。先关键词检索跑通,回答质量不够再换 embedding。
bot_server.py
import os, json, httpx
from fastapi import FastAPI
from fastapi.middleware.cors import CORSMiddleware
from pydantic import BaseModel

KB  = json.load(open("kb.json", encoding="utf-8"))   # 第 1 步导出的
KEY = os.environ["LLM_API_KEY"]                    # 你自己的 Key
BASE= os.environ.get("LLM_BASE", "https://api.deepseek.com/v1")
MODEL=os.environ.get("LLM_MODEL", "deepseek-chat")

app = FastAPI()
app.add_middleware(CORSMiddleware, allow_origins=["https://你的域名.com"],
                   allow_methods=["POST"])

def search(q, k=4):
    toks = [t for t in q.lower().split() if len(t) > 1]
    hit  = [(sum(t in s["text"].lower() for t in toks), s) for s in KB]
    return [s for n, s in sorted(hit, key=lambda x: -x[0]) if n > 0][:k]

class Ask(BaseModel):
    message: str

@app.post("/api/bot")
async def bot(q: Ask):
    hits = search(q.message)
    ctx  = "\n\n".join(f"[{h['id']}] {h['title']}\n{h['text']}" for h in hits)
    sys  = ("你是这家工厂的外贸客服。只依据资料回答;"
            "资料里没有就说不知道,并给出转人工方式。"
            "不承诺合规结论,价格以报价单为准。")
    async with httpx.AsyncClient(timeout=30) as c:
        r = await c.post(f"{BASE}/chat/completions",
            headers={"Authorization": f"Bearer {KEY}"},
            json={"model": MODEL, "temperature": 0.2,
                  "messages": [{"role": "system", "content": sys},
                               {"role": "user",
                                "content": f"资料:\n{ctx}\n\n问题:{q.message}"}]})
    return {"reply": r.json()["choices"][0]["message"]["content"],
            "sources": [h["id"] for h in hits]}

关键在 system prompt 的三条限制:只依据资料、不知道就说不知道、不承诺合规结论。少一条,机器就会替你把 GOTS 说成"全部通过"。

4

前端挂件:30 行,样式跟你的站走

别用 iframe,样式改不动、移动端键盘会顶飞。自己渲染 DOM,只调你的后端。
bot-widget.html(贴到网站 </body> 前)
<!-- 放在蒸馏后网站的 </body> 前 -->
<style>
#gdw{position:fixed;right:16px;bottom:16px;width:300px;max-width:92vw;background:#0B1220;
  border:1px solid rgba(255,255,255,.12);border-radius:12px;overflow:hidden;z-index:9999;
  font:13px/1.6 -apple-system,"PingFang SC",sans-serif}
#gdw-log{max-height:300px;overflow:auto;padding:10px;display:flex;flex-direction:column;gap:6px}
.gdw-m{padding:7px 9px;border-radius:8px;background:rgba(255,255,255,.06);color:#E6EDF6}
.gdw-m.me{background:#0E7490;color:#fff;align-self:flex-end}
#gdw-in{display:flex;border-top:1px solid rgba(255,255,255,.08)}
#gdw-q{flex:1;background:transparent;border:0;color:#fff;padding:9px;font-size:12px;outline:0}
#gdw-s{background:#0E7490;color:#fff;border:0;padding:0 12px;font-size:12px;cursor:pointer}
</style>
<script>
(function(){
  var API = "https://bot.你的域名.com/api/bot";
  var box = document.createElement("div");
  box.innerHTML = '<div id="gdw"><div id="gdw-log"></div>'
    + '<div id="gdw-in"><input id="gdw-q" placeholder="问产能 / 认证 / MOQ…">'
    + '<button id="gdw-s">发送</button></div></div>';
  document.body.appendChild(box);

  function add(t, me){
    var d = document.createElement("div");
    d.className = "gdw-m " + (me ? "me" : "ai");
    d.textContent = t;                       // 用 textContent,防 XSS
    document.getElementById("gdw-log").appendChild(d);
  }
  async function send(){
    var i = document.getElementById("gdw-q"), q = i.value.trim();
    if(!q) return;
    add(q, true); i.value = "";
    try{
      var r = await fetch(API, {method:"POST",
        headers:{"Content-Type":"application/json"},
        body: JSON.stringify({message:q})});
      var j = await r.json();
      add(j.reply || "暂时没有回复,请留下邮箱。");
    }catch(e){ add("网络异常,请稍后再试。"); }
  }
  document.getElementById("gdw-s").onclick = send;
  document.getElementById("gdw-q").onkeydown = function(e){ if(e.key==="Enter") send(); };
})();
</script>
Key 永远不进前端。上面这段只调用你自己的 /api/bot,模型 Key 存在服务器环境变量里。前端直连模型 = 第二天被刷爆。
5

上线:反向代理 + 开机自启

子域指向自己的机器,Caddy 自动签证书,systemd 挂了自拉起。
/etc/caddy/Caddyfile
bot.你的域名.com {
    reverse_proxy 127.0.0.1:8010
}
/etc/systemd/system/factory-bot.service
[Unit]
Description=Factory AI Bot
After=network.target

[Service]
WorkingDirectory=/opt/factory-bot
EnvironmentFile=/opt/factory-bot/.env
ExecStart=/opt/factory-bot/venv/bin/uvicorn \
  bot_server:app --host 127.0.0.1 --port 8010
Restart=always

[Install]
WantedBy=multi-user.target
bash
cd /opt/factory-bot
python3 -m venv venv && venv/bin/pip install fastapi uvicorn httpx

# .env 里只放服务端密钥,权限 600
printf 'LLM_API_KEY=sk-你的key\nLLM_MODEL=deepseek-chat\n' > .env
chmod 600 .env

systemctl daemon-reload && systemctl enable --now factory-bot
curl -s localhost:8010/api/bot -H 'content-type: application/json' \
  -d '{"message":"你们能做什么认证的面料"}'
6

验收:六条过不了就别放量

机器人答错的代价比不答高。下面六条是上线前最低门槛。
问「有没有 GOTS」→ 回答引用知识库段落,不是编造证书编号
问「价格多少」→ 给区间并引导到报价单,不直接报死价
问「能不能过 FDA」→ 明确说需送检,不给"可以"的承诺
问知识库里没有的(比如竞品)→ 回答不知道 + 转人工,不硬编
手机端打开 → 键盘弹起不遮挡输入框,气泡不超出屏幕
连续发 20 条 → 有速率限制,不会把 Key 刷爆
04

三条路线对比

维度A 平台托管B 自有模型C 完全自托管
上线时间0 分钟半天1–2 天
数据经过平台是否否
月成本含在托管¥30–80显卡 + 电
能接自家报价单否是是
能改人设 / 话术有限完全完全
断网可用否否是
平台抽佣000
可以混用:英文站挂 A 先收询盘,中文站挂 B 接 CRM;等对话量起来再把 A 换掉。两条路线共用同一份知识库,不用重做蒸馏。
05

客户最常问的 6 个问题

机器人会不会替我们承诺认证或交期?

取决于 system prompt。上面那段示例写了三条硬限制(只依据资料、不知道就说不知道、不承诺合规结论)。除此之外建议再加一句「交期以 PI 为准」。写死在提示词里,比事后改回答可靠。

知识库要不要定期更新?

要。产品、认证、价格三类变化后,重新导出 kb.json 并重启服务即可(30 秒)。如果不想手动,把导出接口挂个每日 0:00 的 cron,重启交给 systemd。

客户问的问题,我们能拿到记录吗?

方式 B/C 可以——对话日志在你自己的服务器上,落库后就是客户画像。方式 A 不提供原始对话导出,只能看到平台侧的统计。

能不能直接接 WhatsApp?

可以。后端 /api/bot 是标准 HTTP,WhatsApp Business API 的 webhook 收到消息后转一次请求即可。区别是 WhatsApp 要处理 24 小时会话窗口和模板消息审核。

用便宜模型会不会答得很差?

外贸问答的事实性比文采重要。只要检索命中、提示词约束住"不编",DeepSeek 这类模型已经够用。真正拉低质量的是知识库缺段落,不是模型。

以后想换模型,要重写吗?

不用。代码里 BASE / MODEL 是环境变量,OpenAI 兼容协议的厂商换一个值就行。Claude、Gemini 各有一个适配层,改动不超过 20 行。

下一步

先把知识库跑通,再决定要不要换模型。