Caveman:让 AI 代理说更少、省更多 Token 的开源神器

Caveman 评测:用「原始人语」给 AI 代理省 Token

一句话简介:Caveman 是一个开源的 AI Agent Token 优化层,通过让 AI 代理像原始人一样简短回复来减少 65% 的 Token 消耗,代码精确度不变,成本大幅降低。GitHub 星标已突破 11 万,被 Adobe Research 论文引用,JetBrains 官方验证无质量损失。

核心功能

1. Say Less(说更少)— 原始人语音模式

Caveman 的核心思想很简单:AI 代理的回复越短,Token 消耗越低,但核心信息保持不变。

模式回复风格Token 对比(同一问题)
默认完整解释63 tokens
/caveman简短20 tokens
/ultracave极简14 tokens
/megacave文言文风格13 tokens

回复基于 ASD-STE100(飞机维护手册控制英语)规则构建:每句最多20词、主动语态、每个概念一个术语。代码、命令、路径、错误信息逐字保留,只压缩自然语言部分。

2. Read Less(读更少)— 输入压缩

在 AI 代理读取日志、JSON、CSV、测试输出之前,Caveman 会先压缩这些内容:

文件类型压缩效果整个会话节省
CSV28,041 → 314(-98.9%)55.1%
日志22,810 → 348(-98.5%)50.2%
YAML20,447 → 178(-99.1%)46.2%
测试输出18,806 → 203(-98.9%)27.8%

综合效果:整个 Claude Code 会话输入 Token 减少 33.2%,答案准确率不变(18/18 正确)。

3. Auto(智能路由)— 自动选择模型和难度

Caveman 的 Auto 功能会根据每次请求的复杂程度自动选择合适的模型和 effort 级别。难题用大模型,简单题用小模型,实测比全用 Opus 5.5 xhigh 便宜 54%,解题准确率几乎相同(43.7% vs 44.3%),速度快近 2 倍。

4. Blocks(代码块复用)— 脚本写一次,反复用

AI 代理经常重复写相同的脚本来读取 JSON、运行测试等。Blocks 功能将这些常用操作沉淀为可复用的代码块,每次调用只需 1 行指令。实测: - 运行 326 个 Go 测试:397 tokens → 76 tokens - 读取 1.4MB JSON:251,893 → 227 tokens

5. Caveman Cloud(云端可观测性)

为自建 Agent 提供完整的 Token 消耗追踪、自动优化建议、质量评估,以及 Autopilot 功能——自动提议更便宜的模型配置并在验证质量不变后提交 PR。

适用人群

人群适用场景收益
重度 Claude Code / Codex 用户每天多轮 Agent 对话,Token 费用高输出减少 33-65%,成本显著下降
企业开发团队使用 Claude Code 团队版,需要控制成本会话级输入减少 33%,无质量损失
自建 AI Agent 的开发者Agent 每次运行都产生费用通过 Auto 路由和 Blocks 降低单次运行成本
对成本敏感的独立开发者使用付费 API,月费明显整体成本降低 1.4-2.4 倍(Adobe Research 数据)

与同类工具对比

工具类型核心思路优点局限
CavemanToken 优化层压缩输出 + 压缩输入 + 智能路由开源、30+ Agent 支持、有实测数据需要 Node.js 22.13+;Auto 需注册
直接调低温度/加”简洁”指令手动设置提示词约束零成本效果有限(Caveman 实测比”be concise”再省 35%)
换用更便宜的模型模型降级牺牲能力换成本简单直接会降低代码质量,无法按需切换
手动压缩日志再喂给 Agent工作流优化预处理无额外工具无法自动化,不可持续

Caveman 的独特之处在于它是一个完整的优化层,不是简单的提示词技巧,而是同时处理说(输出)、读(输入)、路由(模型选择)、复用(Blocks)四个维度,且有第三方机构(Adobe、JetBrains、Elastic)的独立验证数据。

如何使用

快速安装(30 秒)

# 一条命令,支持 Mac / Linux / Windows,需 Node.js 22.13+
npx @caveman-ai/cli@latest

安装后,Caveman 会自动检测你机器上已有的 AI Agent(Claude Code、Codex、Gemini CLI、OpenCode 等 30+ 个),并配置 Token 优化。之后直接运行 claude、codex 等命令即可,无需改变任何工作流。

只安装语音技能(最小化)

# 只要压缩输出,不需要代理
npx skills add JuliusBrussee/caveman -g

在 Agent 对话中输入 /caveman 开启,/caveman off 关闭。

各平台安装方式

# Claude Code 插件
claude plugin marketplace add JuliusBrussee/caveman
claude plugin install caveman@caveman

# Gemini CLI
gemini extensions install https://github.com/JuliusBrussee/caveman

# 所有 Agent 一键配置(Node.js 22.13+)
curl -fsSL https://raw.githubusercontent.com/JuliusBrussee/caveman/v4.0.1/install.sh | bash

# Windows PowerShell
irm https://raw.githubusercontent.com/JuliusBrussee/caveman/v4.0.1/install.ps1 | iex

常用命令

caveman status          # 查看当前开启的模块
caveman on browse       # 开启网页压缩
caveman off browse      # 关闭某个模块
caveman learn           # 分析你的 Token 都花在哪里
caveman shrink -- pnpm test   # 压缩命令输出
caveman stats           # 查看历史 Token 用量

总结与推荐指数

推荐指数:★★★★★(5/5)

Caveman 是目前 Token 优化领域最完整的开源方案,几个亮点令人印象深刻:

  1. 数据扎实:Adobe Research 在 arXiv 发表论文引用它,JetBrains 做了 86 个真实编码任务的 A/B 测试(p=0.82,无质量差异),Elastic 在其 Elasticsearch Labs 独立复现了 63.6% 响应 Token 减少
  2. 零侵入:安装后你的工作流完全不变,Agent 照常运行,只是输出更短、读取更精简
  3. 覆盖面广:30+ 个 Agent 支持,包括 Claude Code、Codex、Gemini CLI、OpenCode、Aider 等主流工具
  4. 成本可控:语音技能免费(本地运行),Auto 功能有免费账号,Caveman Cloud 为自建 Agent 提供商业化方案

适合谁:任何每天使用 AI 编码代理超过 1 小时、且对 Token 费用敏感的开发者和团队。特别是重度 Claude Code 用户,会话级节省 33% 输入 Token 在长期累计后相当可观。

注意事项: - 需要 Node.js 22.13+,旧版本需手动指定 - Auto 功能需注册 Caveman Cloud(免费),会上传部分请求元数据用于路由 - HTML 文件压缩尚未完成,暂时不适用 - 对按请求计费的平台(如 GitHub Copilot),输出更短省不了钱,但输入压缩仍有价值

一句话总结:Caveman 用”说更少、读更少”的朴素哲学,实现了一个看起来像笑话却经得起学术验证的 Token 优化方案。11 万星标不是白来的。


Caveman 开源地址:https://github.com/JuliusBrussee/caveman(Apache-2.0 许可) 相关论文:Adobe Research CAVEWOMAN(arXiv:2606.24083)

📌 想了解更多 AI 工具与 Token 优化实践?浏览本站 全部 86 款在线 AI 工具 →