Skillppx logo

Scrapling Web Fetch

利用 Scrapling 抓取现代网页正文，支持微信公众号文章清洗与 Markdown 输出。

已扫描
适合谁
内容创作者、信息研究人员
不适合谁
需要登录或复杂交互的场景用户、仅需获取 API 数据的开发者
国内可用性
需网络配置。可能需要网络配置或第三方服务可访问。
安装难度
新手友好（★☆☆）。基于终端操作、依赖、API Key 和本地环境要求的初步判断。

安装与下载

openclaw skills install @jllyzzd2023/scrapling-web-fetch
下载官方 ZIP

Skill 说明

命令、参数、文件名以原文为准

Scrapling Web Fetch

当用户要获取网页内容、正文提取、把网页转成 markdown/text、抓取文章主体时，优先使用此技能。

默认流程

  1. 使用 python3 scripts/scrapling_fetch.py <url> <max_chars>
  2. 默认正文选择器优先级：

- article

- main

- .post-content

- [class*="body"]

  1. 命中正文后，使用 html2text 转 Markdown
  2. 若都未命中，回退到 body
  3. 最终按 max_chars 截断输出

用法

python3 /Users/zzd/.openclaw/workspace/skills/scrapling-web-fetch/scripts/scrapling_fetch.py <url> 30000

依赖

优先检查：

  • scrapling
  • html2text

若缺失，可安装：

python3 -m pip install scrapling html2text

输出约定

脚本默认输出 Markdown 正文内容。

如需结构化输出，可追加 --json。

如需调试提取命中了哪个 selector，可查看 stderr 输出。

附加资源

  • 用法参考：/Users/zzd/.openclaw/workspace/skills/scrapling-web-fetch/references/usage.md
  • 选择器策略：/Users/zzd/.openclaw/workspace/skills/scrapling-web-fetch/references/selectors.md
  • 统一入口：/Users/zzd/.openclaw/workspace/skills/scrapling-web-fetch/scripts/fetch-web-content

何时用这个技能

  • 获取文章正文
  • 抓博客/新闻/公告正文
  • 将网页转成 Markdown 供后续总结
  • 常规 fetch 效果差，希望提升现代网页抓取稳定性

何时不用

  • 需要完整浏览器交互、点击、登录、翻页时：改用浏览器自动化
  • 只是简单获取 API JSON：直接请求 API 更合适
J
@jllyzzd2023

已收录 2 个 Skill

相关推荐