1. 首页
  2. 数据库
  3. DB2
  4. 详解向scrapy中的spider传递参数的几种方法(2种)

详解向scrapy中的spider传递参数的几种方法(2种)

上传者: 2020-12-17 06:37:08上传 PDF文件 35.8KB 热度 18次
有时需要根据项目的实际需求向spider传递参数以控制spider的行为,比如说,根据用户提交的url来控制spider爬取的网站。在这种情况下,可以使用两种方法向spider传递参数。 第一种方法,在命令行用crawl控制spider爬取的时候,加上-a选项,例如: scrapy crawl myspider -a category=electronics 然后在spider里这样写: import scrapy class MySpider(scrapy.Spider): name = 'myspider' def __init__(self, category=None,
下载地址
用户评论