易君召
易君召
发布于 2026-07-28 / 1 阅读
0
0

开源 AI 智能体极速部署全方案

#AI

一、先理清 3 种部署路线(按需选择)

方案

适用人群

耗时

核心优势

硬件门槛

路线 1:Hermes Agent(一键脚本)

新手、想做多平台机器人(飞书 / 企业微信 / 网页)

3-5 分钟

自带 40 + 工具、长期记忆、自进化、交互式配置向导

最低 4G 内存,无 GPU 也可跑 API 模型

路线 2:Flowise+Ollama(可视化零代码)

业务人员、低代码爱好者、本地私有化需求

3 分钟

拖拽式编排智能体、可视化 RAG 知识库、完全本地离线

本地模型建议 16G + 内存

路线 3:Dify Docker Compose(企业级生产)

开发者、团队协作、私有化知识库平台

5 分钟

完整 RAG、API 开放、多人协作、支持对接 Ollama 本地大模型

8G 内存起步

二、路线 1:Hermes Agent 一键部署(最推荐新手)

1. 环境要求

  • Windows:安装 WSL2 Ubuntu;Mac/Linux 直接终端

  • 内存≥4GB;本地大模型需 16GB+

2. 一键安装脚本(复制直接运行)

Linux / Mac / WSL2

bash

curl -fsSL https://raw.githubusercontent.com/NousResearch/hermes-agent/main/scripts/install.sh | bash

Windows PowerShell(管理员)

powershell

Set-ExecutionPolicy RemoteSigned -Scope CurrentUser
irm https://raw.githubusercontent.com/NousResearch/hermes-agent/main/scripts/install.ps1 | iex

3. 交互式快速配置(全程回车确认)

安装完成后自动执行配置向导:

bash

hermes setup
  1. 选择 1. Quick setup(快速配置)

  2. 选择模型服务商:

    • 有 API Key:OpenRouter/DeepSeek/ 通义千问

    • 本地离线:Ollama(先装 Ollama 拉取 Llama3/Qwen2.5)

  3. 粘贴 API Key(输入无回显属于正常)

  4. 选择对话渠道:Web 网页、飞书、企业微信、Telegram 等

4. 启动 & 访问

bash

# 后台常驻启动
hermes start
# 打开Web控制台:http://localhost:8080
# 查看日志排错
hermes logs
# 停止服务
hermes stop

5. 本地离线模式(搭配 Ollama)

bash

# 1. 安装Ollama
curl -fsSL https://ollama.ai/install.sh | sh
# 2. 拉取轻量开源大模型
ollama pull qwen2.5:7b
# 3. Hermes配置里选择Ollama,模型填qwen2.5:7b

三、路线 2:Flowise 可视化智能体(零代码拖拽)

1. 前置:安装 Node.js(官网下载 LTS 版本)

2. 一键安装 + 启动(3 分钟完成)

bash

# 全局安装Flowise
npm install -g flowise
# 启动服务
npx flowise start

3. 访问控制台

浏览器打开 http://localhost:3000,拖拽组件搭建智能体:

  • 大模型节点:对接 Ollama/OpenAI/DeepSeek

  • 工具节点:联网搜索、代码解释器、文件读取、数据库查询

  • RAG 知识库节点:上传 PDF/Word/Markdown 私有文档

4. 搭配 Ollama 完全离线

bash

# 安装Ollama并拉取模型
curl -fsSL https://ollama.ai/install.sh | sh
ollama pull llama3.1:8b
# Flowise中选择Ollama模型节点,地址localhost:11434

四、路线 3:Dify Docker 一键部署(企业级 RAG 智能体)

1. 前置:安装 Docker Desktop(Windows/Mac/Linux)

2. 拉取代码 + 启动容器

bash

# 克隆Dify仓库
git clone https://github.com/langgenius/dify.git
cd dify/docker
# 复制环境配置
cp .env.example .env
# 一键启动全套服务(数据库、向量库、Web后台)
docker compose up -d

3. 访问后台

http://localhost:8000,注册管理员账号:

  1. 模型供应商添加 Ollama(本地模型)或第三方 API

  2. 创建知识库,上传私有文档构建 RAG 检索智能体

  3. 发布应用,生成网页对话、API 接口给业务系统调用

五、本地大模型 Ollama 通用部署(所有智能体框架通用)

1. 一键安装 Ollama

bash

# Linux/Mac/WSL
curl -fsSL https://ollama.ai/install.sh | sh
# Windows直接下载安装包

2. 拉取轻量化开源模型(按需选择)

bash

# 通义千问2.5 7B(中文最优,4.3G)
ollama pull qwen2.5:7b
# Llama3.1 8B(通用推理,4.7G)
ollama pull llama3.1:8b
# 向量化模型(RAG知识库必备)
ollama pull nomic-embed-text

3. 验证服务

bash

curl http://localhost:11434/api/tags

所有智能体框架(Hermes/Flowise/Dify)均可直接连接 http://localhost:11434 离线运行。

六、云端免服务器一键部署(无本地电脑)

  1. 腾讯云 / 阿里云轻量应用服务器,应用镜像直接选择 Hermes Agent

  2. 购买后自动完成全套环境部署,登录后执行 hermes setup 配置模型 API 即可 24 小时在线

七、部署避坑要点

  1. Docker 拉取镜像慢:配置国内 Docker 镜像加速器

  2. Windows 部署 Hermes 必须用 WSL2,原生 CMD/PowerShell 无法完整运行

  3. 本地大模型内存不足:优先选择 7B 轻量化模型,关闭其他占用内存程序

  4. 智能体无法调用工具:配置向导中开启工具权限,检查模型是否支持 Function Call(Qwen2.5/Llama3 均支持)

  5. 公网访问本地智能体:使用 Cloudflare Tunnel 临时暴露端口,避免直接开放本地端口


评论