一、先理清 3 种部署路线(按需选择)
二、路线 1:Hermes Agent 一键部署(最推荐新手)
1. 环境要求
Windows:安装 WSL2 Ubuntu;Mac/Linux 直接终端
内存≥4GB;本地大模型需 16GB+
2. 一键安装脚本(复制直接运行)
Linux / Mac / WSL2
bash
curl -fsSL https://raw.githubusercontent.com/NousResearch/hermes-agent/main/scripts/install.sh | bash
Windows PowerShell(管理员)
powershell
Set-ExecutionPolicy RemoteSigned -Scope CurrentUser
irm https://raw.githubusercontent.com/NousResearch/hermes-agent/main/scripts/install.ps1 | iex
3. 交互式快速配置(全程回车确认)
安装完成后自动执行配置向导:
bash
hermes setup
选择
1. Quick setup(快速配置)选择模型服务商:
有 API Key:OpenRouter/DeepSeek/ 通义千问
本地离线:Ollama(先装 Ollama 拉取 Llama3/Qwen2.5)
粘贴 API Key(输入无回显属于正常)
选择对话渠道:Web 网页、飞书、企业微信、Telegram 等
4. 启动 & 访问
bash
# 后台常驻启动
hermes start
# 打开Web控制台:http://localhost:8080
# 查看日志排错
hermes logs
# 停止服务
hermes stop
5. 本地离线模式(搭配 Ollama)
bash
# 1. 安装Ollama
curl -fsSL https://ollama.ai/install.sh | sh
# 2. 拉取轻量开源大模型
ollama pull qwen2.5:7b
# 3. Hermes配置里选择Ollama,模型填qwen2.5:7b
三、路线 2:Flowise 可视化智能体(零代码拖拽)
1. 前置:安装 Node.js(官网下载 LTS 版本)
2. 一键安装 + 启动(3 分钟完成)
bash
# 全局安装Flowise
npm install -g flowise
# 启动服务
npx flowise start
3. 访问控制台
浏览器打开 http://localhost:3000,拖拽组件搭建智能体:
大模型节点:对接 Ollama/OpenAI/DeepSeek
工具节点:联网搜索、代码解释器、文件读取、数据库查询
RAG 知识库节点:上传 PDF/Word/Markdown 私有文档
4. 搭配 Ollama 完全离线
bash
# 安装Ollama并拉取模型
curl -fsSL https://ollama.ai/install.sh | sh
ollama pull llama3.1:8b
# Flowise中选择Ollama模型节点,地址localhost:11434
四、路线 3:Dify Docker 一键部署(企业级 RAG 智能体)
1. 前置:安装 Docker Desktop(Windows/Mac/Linux)
2. 拉取代码 + 启动容器
bash
# 克隆Dify仓库
git clone https://github.com/langgenius/dify.git
cd dify/docker
# 复制环境配置
cp .env.example .env
# 一键启动全套服务(数据库、向量库、Web后台)
docker compose up -d
3. 访问后台
http://localhost:8000,注册管理员账号:
模型供应商添加 Ollama(本地模型)或第三方 API
创建知识库,上传私有文档构建 RAG 检索智能体
发布应用,生成网页对话、API 接口给业务系统调用
五、本地大模型 Ollama 通用部署(所有智能体框架通用)
1. 一键安装 Ollama
bash
# Linux/Mac/WSL
curl -fsSL https://ollama.ai/install.sh | sh
# Windows直接下载安装包
2. 拉取轻量化开源模型(按需选择)
bash
# 通义千问2.5 7B(中文最优,4.3G)
ollama pull qwen2.5:7b
# Llama3.1 8B(通用推理,4.7G)
ollama pull llama3.1:8b
# 向量化模型(RAG知识库必备)
ollama pull nomic-embed-text
3. 验证服务
bash
curl http://localhost:11434/api/tags
所有智能体框架(Hermes/Flowise/Dify)均可直接连接 http://localhost:11434 离线运行。
六、云端免服务器一键部署(无本地电脑)
腾讯云 / 阿里云轻量应用服务器,应用镜像直接选择 Hermes Agent
购买后自动完成全套环境部署,登录后执行
hermes setup配置模型 API 即可 24 小时在线
七、部署避坑要点
Docker 拉取镜像慢:配置国内 Docker 镜像加速器
Windows 部署 Hermes 必须用 WSL2,原生 CMD/PowerShell 无法完整运行
本地大模型内存不足:优先选择 7B 轻量化模型,关闭其他占用内存程序
智能体无法调用工具:配置向导中开启工具权限,检查模型是否支持 Function Call(Qwen2.5/Llama3 均支持)
公网访问本地智能体:使用 Cloudflare Tunnel 临时暴露端口,避免直接开放本地端口