做 LLM 应用,最难的不是选模型而是架构决策
做 LLM 应用,最难的不是选模型
是你决定”这个场景该用 RAG 还是微调”、”什么时候切多 Agent”、”评估指标到底怎么搭”——这些问题教科书不教,官方文档不写,你只能自己踩坑。但凡有人能把这些决策逻辑整理成一套可查的框架,那价值是巨大的。
最近在 Smithery 上发现了一个叫 ai-llm-engineering 的 Skill,来自独立开发者 Microck,GitHub 仓库 ordinary-claude-skills(107 ⭐)。它给自己的定位很清晰:一个面向 LLM 工程全生命周期的操作手册级 Skill,覆盖架构选型、Prompt 设计、RAG、Agent、微调、部署、监控、安全八大模块。
决策树先行,而不是参数表
这个 Skill 最值钱的地方,是它把 LLM 工程里最常见的决策做成了决策树。比如要不要上 RAG?它会引导你先判断:是需要最新知识,还是复杂检索,还是工具调用?根据回答推荐不同的技术路径,而不是丢给你一篇”十大 RAG 框架对比”。
类似的决策矩阵还包括:RAG 类型选择(Naive → Advanced → Modular)、模型选型(GPT-4 vs Claude vs Gemini vs 自托管)、部署策略等等。每个节点都有对应的工具推荐和关键参数说明。
模板直接可复制
光有框架不够,它还配了生产级模板:
- RAG Pipeline:基础版 + 高级版(含重排序与上下文嵌入)
- Chain-of-Thought / ReAct:拿来直接用
- Multi-Agent 编排:Manager-Worker 模式
- 评估套件:多指标测试(幻觉率、偏见、成本)
部署与监控也有料
除了应用层,它还覆盖LLMOps:vLLM 部署支持 FP8/FP4 量化,声称带来 24 倍吞吐量提升;自动化漂移检测响应时间 18 秒;CI/CD 对齐的评估门控。安全方面则包含多层防御体系(单层绕过率>90%,需要多层叠加)。
怎么用
在 Claude Code 里一行命令装上:
npx skills add Microck/ordinary-claude-skills --skill ai-llm-engineering
装完之后用 skills use ai-llm-engineering 调起,遇到架构决策或技术选型问题时它会自动介入,给出有框架的参考建议。
对于正在做 LLM 应用落地、但还在靠”感觉”做技术决策的团队,这个 Skill 是一个不错的系统性起点——至少下次跟同事讨论”要不要上微调”的时候,你可以先翻决策树,而不是翻 Slack 记录。
GitHub · Microck/ordinary-claude-skills
评论区
登录后可评论。