找软件用软件,到华军软件园!
您的位置:华军软件园>编程软件>源码下载>其他源码>

WebMagic (Java爬虫框架)

WebMagic (Java爬虫框架)

WebMagic (Java爬虫框架) PC版WebMagic (Java爬虫框架)手机版

  • 版  本:PC版
  • 软件授权:免费软件
  • 软件类型:国产软件
  • 软件语言:简体中文
  • 更新时间:2017/12/22 15:56:20
  • 应用平台:WinAll
  • 软件官网: www.188soft.com
  • 软件大小:6.89M
基本简介
WebMagic (Java爬虫框架)

webmagic采用完全模块化的设计,功能覆盖整个爬虫的生命周期(链接提取、页面下载、内容抽取、持久化),支持多线程抓取,分布式抓取,并支持自动重试、自定义UA/cookie等功能。
WebMagic(Java爬虫框架)更新日记
此次更新主要是一些依赖包的升级和bugfix。
#290 代理增加用户名密码认证 @hepan
#194 重构代理池部分代码,支持自定义代理池 @EdwardsBean
#314 修复低版本json-path依赖2.x的StringUtils导致报错的问题
#380 升级fastjson 到1.2.21
#301 修复JsonPath在注解模式不可用的问题 @Salon-sai
#377 修复监控模块在URL带有端口时会报错的问题
#400 修复FileCacheQueueScheduler的NullPointerException问题
#407 为PhantomJSDownloader添加新的构造函数,支持phantomjs自定义命令 @jsbd
#419 修复抓取https链接线程无法结束导致进程一直运行的问题 @cpaladin
#374 升级HttpClient到4.5.2,修复一些安全问题
#424 去掉Guava依赖
因为Guava不同版本兼容性不好,经常导致demo无法运行,所以我最后决定去掉了Guava的依赖。如果使用了BloomFilterDuplicateRemover的用户,需要手动依赖Guava包。

相似软件
版本说明
软件地址
软件截图
  • WebMagic (Java爬虫框架)
WebMagic (Java爬虫框架)下载地址
网友评论
网名:
(您的评论需要经过审核才能显示)
  • 置顶 华军网友 2017-05-25 19:29:12
    WebMagic (Java爬虫框架)挺好用的一款其他源码软件,挺!!!就是下载好慢啊,赶脚那网速走的好无力
  • 置顶 华军网友 2017-03-07 16:35:41
    已经下载安装成功了,这种国产软件大多都挺很好用的
  • 置顶 华军网友 2017-03-04 18:30:14
    WebMagic (Java爬虫框架)特别难用,操作不方便,大家千万别下。
  • 置顶 华军网友 2016-12-22 09:53:40
    WebMagic (Java爬虫框架)哪里不好了?不懂的别瞎哔哔,一点素质都没有
  • 置顶 华军网友 2016-12-10 13:58:37
    手机怎么下啊
  • 10楼 华军网友 2016-10-01 14:56:14
    WebMagic (Java爬虫框架)PC版顺利下载完成,很不错,WebMagic (Java爬虫框架)最新版本就是棒
  • 9楼 华军网友 2015-11-22 21:28:55
    WebMagic (Java爬虫框架)非常的好 谁用谁知道 建议下载
  • 8楼 华军网友 2015-10-26 14:54:42
    赞同
  • 7楼 华军网友 2015-03-17 22:11:42
    试下一下看好不好
  • 6楼 华军网友 2015-02-03 15:20:04
    其他源码里我极力推荐这个WebMagic (Java爬虫框架),本人真实使用感受告诉你不会错的
精彩推荐
软件介绍
相关文章
所属专题
相关下载
软件截图
下载地址
网友点评
返回顶部
前往
下载