Web2MD MCP Server Skill 技能

## 技能简介 **Web2MD MCP Server** 是一个基于 Model Context Protocol(

技能简介

Web2MD MCP Server 是一个基于 Model Context Protocol(模型上下文协议)的轻量级工具,由 astra-intelligence 团队开源发布。它解决了一个在 AI Agent 工作流里普遍存在却容易被忽视的问题:当 Agent 需要从网页获取信息时,HTML 里夹杂的广告、导航栏、弹窗、Cookie 横幅和脚本代码,会让 LLM 既费 token 又容易跑偏。Web2MD 把任意公开 URL 一次性转换为干净、可读的 Markdown,让 RAG、研究、内容抽取等下游任务直接拿到 LLM 就绪的纯文本。

这个 MCP Server 已经在官方 MCP Registry 上以 io.github.astra-intelligence/web2md 的名字注册,可以被 Claude Desktop、Cursor、Continue.dev、Windsurf、Claude Code 以及任何兼容 MCP 协议的客户端零代码接入。最快的方式是直接添加官方托管的远程服务端,本地无需任何安装和依赖配置。

核心能力

  1. URL → Markdown 一键转换:调用唯一的 web2md_convert 工具,传入任意公开网页 URL,即可返回去除噪声后的纯 Markdown 正文。
  2. 结构化噪声剥离:自动剔除广告位、侧边导航、页眉页脚、Cookie 提示、弹窗与脚本代码块,只保留与正文相关的语义结构。
  3. LLM 友好输出:返回的 Markdown 紧致、语义清晰,可直接送入 RAG 索引、研究总结、内容改写等下游任务,显著降低 token 消耗。
  4. 多客户端即插即用:同一服务可在 Claude Desktop、Cursor、Continue.dev、Windsurf、Claude Code 等多种 MCP 客户端中复用,无需为每个客户端单独部署。
  5. 零门槛试用:免费版每天每个 IP 提供 10 次转换额度,无需注册、无需 API Key;重度用户可购买 Gumroad 授权 License Key 解锁不限量。
  6. 远程 + 本地双部署:默认提供 Cloudflare 隧道托管的远程端点(开箱即用),同时支持本地 pip / uvx 安装以满足数据合规和离线场景。
  7. 官方注册可发现性:已在 MCP 官方 Registry 注册,第三方市场、IDE 插件商店能自动识别并展示,不会因隧道 URL 变动而失效。

安装配置

方式 A:远程托管(最快,零安装)

Claude Desktop:在 claude_desktop_config.json 中添加:

{
  "mcpServers": {
    "web2md": {
      "type": "http",
      "url": "https://reasonable-except-include-wilderness.trycloudflare.com/mcp"
    }
  }
}

Cursor:Settings → MCP → Add new MCP server → type 选 http,填入上方 URL。 Claude Code:执行 claude mcp add web2md --transport http https://reasonable-except-include-wilderness.trycloudflare.com/mcp。

方式 B:本地源码安装(合规可控)

环境要求:Python 3.10+,可访问公网 API(167.233.135.161:9999)。

git clone https://github.com/astra-intelligence/web2md-mcp.git
cd web2md-mcp
pip install .
# 或者:uv sync

随后在客户端配置中改为本地 stdio 模式:

{
  "mcpServers": {
    "web2md": {
      "command": "uvx",
      "args": ["web2md-mcp"]
    }
  }
}

(注:截至文档发布时 PyPI 包尚未上线,本地安装需走源码路径。)

使用步骤

  1. 确认客户端版本:确保 Claude Desktop / Cursor / Continue.dev 等支持 MCP 协议的客户端已升级到最新稳定版,老版本可能缺少 mcpServers 配置项。
  2. 写入 MCP 配置:按上文"安装配置"中的方式 A 或方式 B,把 web2md 服务条目加入对应客户端的配置 JSON 或图形化界面。
  3. 重启客户端:保存配置后重启 IDE 或 CLI,让客户端加载新的 MCP Server 列表,确认 web2md 出现在可用工具列表里。
  4. 发起转换请求:在对话或 Agent 任务中直接调用 web2md_convert,参数 url 填入目标公开网页地址,例如 {"url": "https://example.com/article"}。
  5. 接收 Markdown 结果:工具会原样返回干净的 Markdown 文本,可以继续在 Agent 工作流里用于摘要、问答、引用、写入知识库等下游步骤。
  6. 超出免费额度时升级:免费版每日每 IP 10 次;如需更高频次,可在 Gumroad 购买 License Key,并在请求 URL 上追加 ?license_key=YOUR_KEY 参数解锁不限量。

适用场景

  1. RAG 知识库构建:把行业资讯、产品文档、技术博客批量转为 Markdown 后写入向量库,源数据噪声少,向量召回更准。
  2. AI Agent 网页研究:让 Agent 在阅读一篇论文、新闻或论坛帖时直接拿到正文,跳过渲染 HTML 和裁剪 DOM 的重复造轮子工作。
  3. 内容改写与摘要:先调用 web2md 抽取干净正文,再交给 LLM 做摘要、改写、翻译、二次创作,可显著降低输入成本。
  4. 代码助手集成:在 Cursor / Claude Code 里接入,让 AI 在回答"这篇文章讲了什么"时直接抓页面,避免把整个 HTML 塞进上下文。
  5. 离线抓取与归档:本地源码安装后可在内网或合规受限环境中长期使用,适合企业内部知识库建设。

适用人群

  • 正在搭建 RAG 系统的 AI 应用开发者,需要快速稳定的网页清洗管道。
  • 使用 Claude Desktop、Cursor、Continue.dev、Claude Code 等 MCP 兼容客户端的 AI 重度用户,希望减少手动复制粘贴网页内容的成本。
  • 研究员、分析师、记者、产品经理等需要从大量公开网页抽取信息并交给 LLM 二次加工的"阅读型"知识工作者。
  • 关注数据合规、需要在自有环境部署工具的团队(本地源码安装路径即可满足)。

工作原理

Web2MD 的后端是一个运行在公网的轻量 HTTP API(167.233.135.161:9999),负责实际的 URL 抓取、内容提取与 Markdown 化处理。web2md-mcp 这个开源仓库做的事情,是把上述 HTTP API 包装成符合 MCP 协议的 Server,向符合 MCP 规范的客户端暴露唯一工具 web2md_convert。当 Agent 调用该工具时,MCP Server 会透传 URL 到后端 API,把返回的 Markdown 文本原样回送给 Agent,整个链路对客户端是无状态的、按需调用的,源站抓取也由后端服务统一处理(带适度反爬与频率控制)。

授权方面,仓库采用 MIT 协议,对个人与商业使用都非常友好。商业化的部分集中在不限量 License(通过 Gumroad 销售),开源代码本身始终可用,免费层则保证每个 IP 每天有 10 次基础额度供试用与评估。

官方链接

团队信息

由 AI 猎手自动发现

评论与建议

0 条评论