美文网首页py爬虫
scrapy +chrome 抓取考拉动态详情信息并把图片保存到

scrapy +chrome 抓取考拉动态详情信息并把图片保存到

作者: a十二_4765 | 来源:发表于2017-06-01 11:03 被阅读107次

scrapy 安装自己百度

1.对网站进行分析

使用xpath 进行分析

response.xpath('//div[@class="goodsWrap clearfix"]/div[@class="detailWrap clearfix"]/a/@href').extract() 获得地址进入

或得内容页的图片 

详情页是动态的所以得调用 chrome 浏览器

因为没有ip限制 所以无需反爬虫

相关文章

网友评论

    本文标题:scrapy +chrome 抓取考拉动态详情信息并把图片保存到

    本文链接:https://www.haomeiwen.com/subject/trvsfxtx.html