1. 首页
  2. 编程语言
  3. 其他
  4. Pythonjdspider使用scrapyscrapyredisgraphite实现的京东分布式爬虫

Pythonjdspider使用scrapyscrapyredisgraphite实现的京东分布式爬虫

上传者: 2020-06-08 16:49:40上传 ZIP文件 1.56MB 热度 17次
使用scrapy,scrapy-redis,graphite实现的京东分布式爬虫,以mongodb实现底层存储。分布式实现,解决带宽和性能的瓶颈,提高爬取的效率。实现scrapy-redis对进行url的去重以及调度,利用redis的高效和易于扩展能够轻松实现高效率下载
用户评论