爬取页面时会遇到网页重定向的情况,服务器端重定向可以在Request中将scrapy的参数进行更改来解决。网页中的标签声明了网页重定向的链接,这种重定向由浏览器完成,解决办法是通过得到跳转前的页面源码,从中提取出重定向url。
技术文章 / 下载软件趣味内容 / 专业带飞