Skill自进化调研
本文来自同时的调研文档。
Skill 自进化调研
本文不追公式，主要回答三个问题：
- 工业界现在把 “skill” 当成什么产品能力？
- Hermes 这类项目到底在用什么办法让 skill 变好？
- 学界常见路线和 2026 年最新强方法是什么？
0. 一句话结论
Skill 自进化不是“模型自己偷偷训练自己”，更像是“Agent 自动整理、测试、修改自己的操作手册”。
现在最靠谱的方向不是直接改大模型权重，而是维护一个外部 skill library：每个 skill 是一份 SKILL.md、配套脚本、依赖说明、失败处理和示例。Agent 做任务时先找合适的 skill，用完后根据执行日志、测试结果和人工/自动评审，把 skill 改得更清楚、更稳、更可复用。
对产品来说，这件事的价值是：把“用户每次都要教 Agent 一遍”的流程，沉淀成可复用资产；把“Agent 偶尔做对”的经验，变成下次还能稳定做对的 skill。
1. 先把概念说清楚：skill 自进化到底改什么？
一个 Agent 的能力大概分四层：
| 层 | 改的东西 | 例子 | 产品理解 |
|---|---|---|---|
| 模型层 | 模型权重 | SFT / RL / RFT | 成本高、周期长，通常不是产品团队第一选择 |
| Skill 层 | 操作手册 + 代码 | SKILL.md、脚本、依赖、示例 | 最适合产品化：可读、可改、可回滚 |
| Memory 层 | 经验记忆 | 失败原因、项目结构、用户偏好 | 类似团队知识库 |
| Workflow 层 | 编排规则 | 先检索、再执行、再评估、再修复 | 决定整个系统稳不稳 |
所以，“skill 自进化”更准确地说，是让 Agent 通过执行经验持续优化 Skill 层、Memory 层和 Workflow 层。大部分方法不需要训练大模型。
2. 工业界在做什么？
2.1 行业趋势：从 prompt 到 skill package
工业界已经不满足于“收藏一堆 prompt”。主流形态正在变成 skill package：
- 一个目录代表一个 skill。
- SKILL.md 写触发条件、步骤、失败处理。
- 支持配套 scripts/、模板、示例和参考资料。
- Agent 只在相关任务里加载完整内容，避免上下文太贵。
- skill 可以项目级、个人级、企业级分层管理。
Anthropic Claude Code 的技能文档明确把 skill 定义成可扩展 Claude 能力的 SKILL.md，并强调 skill 正文只在使用时加载，这降低了长参考文档的上下文成本。Claude Code 还支持项目级、个人级、企业级 skill，以及辅助文件和脚本。
这对产品的启发很直接：skill 不应该只是“提示词市场”，而应该像一个轻量插件系统。它既有文档，又有代码和依赖，还要能被检索、评测、升级、回滚。
2.2 Hermes：开源工程实践里比较清晰的一套
Hermes Agent 的 skill 系统很典型。它把 skill 存在本地目录里，支持 discovery、management、security scan、hub、AI-native creation 等能力。它的产品姿态不是“给你一个万能 Agent”，而是“让 Agent 越用越像你自己的工作台”。
Hermes 现在相关的自进化做法主要有两层：
第一层是 Hermes Agent 的日常 skill 机制：
- 用户或 Agent 可以创建 skill。
- skill 以 markdown + YAML frontmatter 管理。
- skill 可以包含工作流说明、脚本、依赖、示例。
- Agent 根据任务按需加载 skill。
- 安全扫描和 skill hub 负责治理生态风险。
第二层是 hermes-agent-self-evolution 这类实验项目：
- 输入一个已有 skill。
- 自动生成评测数据和任务。
- 用 DSPy + GEPA 做 prompt/skill 优化。
- 比较原 skill 和优化后 skill 的表现。
- 输出优化后的 skill，以及性能对比报告。
这里的关键词是 GEPA。GEPA 是一种“反思式 prompt 优化器”：它不训练模型权重，而是看执行轨迹和反馈，给 prompt/skill 生成文本层面的修改建议，然后用验证集挑更好的版本。Hermes 这套更像“给 skill 做自动 A/B 测试和文案/流程迭代”，不是“端到端训练一个新模型”。
3. 学界常见方法：五条主线
3.1 反思记忆：失败后写经验
代表作：Reflexion。
做法很直观：Agent 失败后，让 LLM 写一段“这次哪里错了、下次怎么避免”，把这段文字放进 episodic memory，下次再做类似任务时读出来。
优点是便宜、容易落地；缺点是记忆会漂移，写错的经验也可能被当成真理。产品上适合做“个人助手经验库”，不适合无审核地写进公共 skill。
3.2 自动 curriculum + skill library：做成就存技能
代表作：Voyager。
Voyager 在 Minecraft 里让 GPT-4 自己提出下一个任务，写代码执行，成功后把代码函数存进 skill library，之后遇到类似任务再检索复用。
这条路线的核心不是游戏，而是这个闭环：
任务生成 → 执行 → 环境反馈 → 修复 → 成功经验入库。
产品上，这很像“用户在复杂软件里完成一个自动化流程后，系统自动把它沉淀为可复用动作”。
3.3 Prompt / skill 优化：把 skill 当成可调参数
代表作：GEPA、Skills-Coach、Hermes self-evolution。
思路是：skill 本身就是一段可优化的程序说明。我们可以生成多个候选版本，让它们在同一批任务上跑，谁表现好就保留谁。
这条路线最容易产品化，因为它不要求训练模型，只要求有：
- 一组代表性任务。
- 一个可重复执行的测试环境。
- 一个评分器或验收标准。
- 一个回滚机制。
下面这张图来自 Skills-Coach，基本就是“自动出题、优化 skill、对比执行、追踪评分”的产品闭环。
图源：Skills-Coach: A Self-Evolving Skill Optimizer via Training-Free GRPO, arXiv:2604.27488。
3.4 Self-play：让 Agent 自己出题、自己解题、自己改 skill
代表作：Ctx2Skill。
这条路线会设置多个角色，例如 Challenger 出难题，Reasoner 解题，Judge 判分，Proposer 提出改进方向，Generator 写 skill。它适合处理长文档、手册、代码库这类 context-heavy 场景。
产品上可以理解为：不是 PM 手工写一堆测试用例，而是系统自己根据文档生成边界问题，逼 skill 暴露弱点，再修 skill。
缺点也明显：如果 judge 不可靠，或者 challenger 出的题偏了，整个系统会朝错误方向进化。所以它需要强 verifier 和回放机制。
3.5 生命周期治理：不只是“生成 skill”，还要管生态
代表作：SkillsVote。
当 skill 数量从几十个变成几千、几万个，问题就从“怎么写一个好 skill”变成“怎么治理一个 skill 库”：
- 哪些 skill 能进库？
- 做任务前该推荐哪些 skill？
- 一个成功/失败到底该归因给 skill、Agent 自己探索、环境，还是结果信号？
- 哪些执行经验可以用于修改 skill？
- 什么时候编辑旧 skill，什么时候新建 skill，什么时候跳过？
SkillsVote 的重点就是 skill 生命周期治理。它把推荐、执行证据、归因、保守更新串成闭环。下面这张图是重新从论文 PDF 页面渲染并裁剪的截图，保留了原图标题和 caption。
图源：SkillsVote: Lifecycle Governance of Agent Skills from Collection, Recommendation to Evolution, arXiv:2605.18401。
4. 最新 SOTA 怎么看？
这里要小心：skill 自进化还没有一个像 ImageNet 那样统一的榜单。不同论文测的任务、skill 类型、Agent 底座都不一样。所以“最新 SOTA”最好分场景看。
4.1 如果看完整生命周期治理：SkillsVote 是 2026-05 的最新强代表
SkillsVote 是 2026 年 5 月的预印本。它不是只优化单个 skill，而是治理整个 skill library：收集、画像、推荐、执行归因、再进化。
它报告的结果包括：
- Offline evolution 在 Terminal-Bench 2.0 上让 GPT-5.2 提升最多 7.9 个百分点。
- Online evolution 在 SWE-Bench Pro 上提升最多 2.6 个百分点。
- 它强调 attribution gate：只有能归因到 skill 的、可复用的成功经验，才允许进入 skill 更新。
产品判断：如果你做的是“企业级 skill 市场 / agent 插件生态 / 多用户共享 skill 库”，SkillsVote 的思路更接近最终形态。
4.2 如果看单个 skill 自动优化：Skills-Coach 很适合落地
Skills-Coach 是 2026 年 4 月的预印本。它针对单个 skill 做自动测试和优化，提出 Skill-X benchmark，覆盖 48 个技能。
论文报告：
- 平均分从 0.37 提到 0.84。
- pass rate 从 33.59% 提到 88.02%。
- 它同时优化 instruction 和 code，支持 virtual mode 和 real mode。
产品判断：如果你只想先做 MVP，不要一上来做生态治理。先做 Skills-Coach 式闭环：为 20 个高频 skill 生成测试集，跑原版/新版对比，人工确认后合并。
4.3 如果看持续个人助手：Memento-Skills 很像产品方向
Memento-Skills 强调一个持续学习的 shared skill library。Agent 完成用户任务后，会做 state reflection，更新 skill utility rate，必要时优化旧 skill 或生成新 skill。
图源：Memento-Skills project page / paper: Let Agents Design Agents。
产品判断：这条路线适合个人助手、企业内部助手、浏览器/桌面 agent。它关注“越用越懂你”，但必须有权限边界和审核机制，否则很容易把用户一次性的偏好错误写成长期规则。
4.4 如果看工程实践：Hermes + GEPA 是当前很务实的 baseline
Hermes self-evolution 的价值在于简单：
输入 skill → 生成 eval → GEPA 优化 → 对比报告 → 产出新 skill。
这不一定是学术最强，但对产品团队很重要，因为它说明 skill 自进化可以不依赖大规模训练，也不一定要 GPU。只要能执行任务、能收集日志、能评分，就能开始。
4.5 还有一类：自动发现新 skill
EvoSkill / EvoSkills 这类工作更强调“Agent 在任务中发现自己缺什么能力，然后生成或学习新 skill”。它们适合研究“从 0 到 1 长技能库”，但产品落地时要小心：自动生成的新 skill 越多，越需要推荐、归因、去重、安全扫描和版本治理。否则 skill 库很快会变成一堆名字相似、质量不一、没人敢用的脚本。
5. 产品落地建议
5.1 不要先做“自动改所有 skill”
更稳的 MVP 是：
- 选 20 个高频、低风险、可验证的 skill。
- 为每个 skill 生成 20-50 个测试任务。
- 每次修改 skill 前后都跑同一批测试。
- 只允许提升明显、无回归的 patch 进入候选。
- 默认人工批准后合并。
这比“让 Agent 自己随便改自己”更慢，但产品风险低很多。
5.2 核心指标不要只看成功率
建议至少看这些指标：
| 指标 | 为什么重要 |
|---|---|
| Pass rate | 用户任务是否完成 |
| Regression rate | 新 skill 是否破坏老场景 |
| Time-to-completion | 是否真的省时间 |
| Token / API cost | 进化是否成本可控 |
| Human edit rate | 用户是否还要频繁补救 |
| Attribution precision | 成功/失败是否能正确归因给 skill |
| Rollback frequency | 自动更新是否不稳定 |
5.3 安全边界必须先设计
skill 是可执行能力，不只是文本。一个坏 skill 可能安装依赖、访问文件、调用网络、泄露 token、修改仓库。
最低要求：
- skill 来源要分级：官方、团队、个人、外部。
- skill 权限要分级：只读、可写、可联网、可执行 shell。
- skill 更新要有 diff、评测结果和回滚。
- 公共 skill 不应该直接由单次用户任务自动改写。
- 失败经验可以先进入 memory，不能直接进入 shared skill。
参考资料
- Hermes Agent: https://github.com/NousResearch/hermes-agent
- Hermes Skills docs: https://hermes-agent.nousresearch.com/docs/user-guide/features/skills
- Hermes Agent Self-Evolution: https://github.com/NousResearch/hermes-agent-self-evolution
- Claude Code Skills docs: https://docs.anthropic.com/en/docs/claude-code/skills
- GEPA: Reflective Prompt Evolution Can Outperform Reinforcement Learning: https://arxiv.org/abs/2507.19457
- Meta-Harness: https://arxiv.org/abs/2603.28052
- Voyager: An Open-Ended Embodied Agent with Large Language Models: https://arxiv.org/abs/2305.16291
- Reflexion: Language Agents with Verbal Reinforcement Learning: https://arxiv.org/abs/2303.11366
- Skills-Coach: A Self-Evolving Skill Optimizer via Training-Free GRPO: https://arxiv.org/abs/2604.27488
- Ctx2Skill: Learning Context-Aware Skills via Self-Play: https://arxiv.org/abs/2604.27660
- Memento-Skills / Let Agents Design Agents: https://arxiv.org/abs/2603.18743 and https://skills.memento.run/
- SkillsVote: Lifecycle Governance of Agent Skills: https://arxiv.org/abs/2605.18401
- Native Evolution: https://arxiv.org/abs/2604.18131
- EvoSkill: Towards Automated Skill Discovery and Learning for AI Agents: https://arxiv.org/abs/2603.02766
- EvoSkills: An Open-Source Skill Learning Platform for Embodied Generalist Agents: https://arxiv.org/abs/2604.01687