教程|把 hermes-agent 跑起来:5 分钟搭一个会「成长」的本地 AI 助理
这篇教程带你在 5 分钟内把 hermes-agent(GitHub)跑起来,并接上 Ollama 本地模型。
第 1 步:环境准备
需要:
- Python 3.11+
- Ollama(ollama.com)
- macOS / Linux(Windows 需 WSL2)
- 8GB+ 内存(推荐 16GB 跑 7B 模型,32GB 跑 14B+)
第 2 步:拉取 Hermes 模型
# 推荐 Hermes 3 系列
ollama pull nousresearch/hermes3:8b
# 或更小的(4GB 显存可跑)
ollama pull nousresearch/hermes3:3b
第 3 步:安装 hermes-agent
git clone https://github.com/NousResearch/hermes-agent
cd hermes-agent
pip install -e .
hermes init
init 过程会问你:
- API 端点:填
http://localhost:11434/v1(Ollama) - 模型名:
nousresearch/hermes3:8b - Memory 后端:默认 SQLite 即可
第 4 步:第一次对话
hermes chat
> 你好,记住:我叫 Vinc,我做 AI 媒体。
> 好的 Vinc,已记住。下次对话我还会记得。
# 退出后
hermes chat
> 我叫什么?
> 你叫 Vinc,做 AI 媒体。
第 5 步:加工具
hermes-agent 原生支持 MCP(Model Context Protocol)。在 ~/.hermes/mcp.json 加:
{
「servers」: {
「filesystem」: {
「command」: 「npx」,
「args」: [「-y」, 「@modelcontextprotocol/server-filesystem」, 「/Users/vinc/Documents」]
}
}
}
重启 hermes 就能用它读 / 写你的本地文件了。
第 6 步:让 Agent「成长」
hermes 的核心是轨迹-技能蒸馏。跑一周后:
hermes skill distill
# 会生成 ~/.hermes/skills/ 下的可复用技能
hermes skill list
这些技能会自动注入到下次的系统 prompt,Agent 越来越「懂你」。
常见坑
- Mac M1/M2 用 Metal 加速 Ollama,不要用 Docker 跑(慢)
- Hermes 3 8B 量化版对中文支持一般,要中文效果换 Qwen2.5
- Memory 占用会随对话增长,
hermes memory prune定期清理
下一步:把 hermes 接到 Slack / 飞书,做「团队 AI 助理」。