教程|把 hermes-agent 跑起来:5 分钟搭一个会「成长」的本地 AI 助理

这篇教程带你在 5 分钟内把 hermes-agentGitHub)跑起来,并接上 Ollama 本地模型。

第 1 步:环境准备

需要:

  • Python 3.11+
  • Ollama(ollama.com
  • macOS / Linux(Windows 需 WSL2)
  • 8GB+ 内存(推荐 16GB 跑 7B 模型,32GB 跑 14B+)

第 2 步:拉取 Hermes 模型

# 推荐 Hermes 3 系列
ollama pull nousresearch/hermes3:8b
# 或更小的(4GB 显存可跑)
ollama pull nousresearch/hermes3:3b

第 3 步:安装 hermes-agent

git clone https://github.com/NousResearch/hermes-agent
cd hermes-agent
pip install -e .
hermes init

init 过程会问你:

  • API 端点:填 http://localhost:11434/v1(Ollama)
  • 模型名:nousresearch/hermes3:8b
  • Memory 后端:默认 SQLite 即可

第 4 步:第一次对话

hermes chat
> 你好,记住:我叫 Vinc,我做 AI 媒体。
> 好的 Vinc,已记住。下次对话我还会记得。
# 退出后
hermes chat
> 我叫什么?
> 你叫 Vinc,做 AI 媒体。

第 5 步:加工具

hermes-agent 原生支持 MCP(Model Context Protocol)。在 ~/.hermes/mcp.json 加:

{
  「servers」: {
    「filesystem」: {
      「command」: 「npx」,
      「args」: [「-y」, 「@modelcontextprotocol/server-filesystem」, 「/Users/vinc/Documents」]
    }
  }
}

重启 hermes 就能用它读 / 写你的本地文件了。

第 6 步:让 Agent「成长」

hermes 的核心是轨迹-技能蒸馏。跑一周后:

hermes skill distill
# 会生成 ~/.hermes/skills/ 下的可复用技能
hermes skill list

这些技能会自动注入到下次的系统 prompt,Agent 越来越「懂你」。

常见坑

  • Mac M1/M2 用 Metal 加速 Ollama,不要用 Docker 跑(慢)
  • Hermes 3 8B 量化版对中文支持一般,要中文效果换 Qwen2.5
  • Memory 占用会随对话增长,hermes memory prune 定期清理

下一步:把 hermes 接到 Slack / 飞书,做「团队 AI 助理」。

Leave a Comment