文章详情页
javascript - superagent爬取网站出现重定向问题
问题描述
用superagent爬网页,遇到重定向,拿不到重定向后的响应体,该如何解决,如何获取重定向后的网页
我想获取501页面的res,但是他跳转到37018页面,导致我拿到501页面的空res。
测试了爬取不到的网页,发现有2种情况
一开始进入网页响应码是200,过一小会刷新变成304
一进入响应码从301重定向到200,过一小会刷新变成304
测试了能爬取到的网页,发现有2种情况
一进入响应码从301重定向到200,过一小会刷新变成304
一开始进入网页响应码是200,过一小会刷新变成304
啊,我擦,那就没什么区别啦,小白不知道这跟我爬不到内容有没有关系,orz
再再补充
问题不在重定向,而在于我的正则表达式匹配问题
问题解答
回答1:你都不看官方文档的吗?
Following redirects
By default up to 5 redirects will be followed, however you may specifythis with the res.redirects(n) method:
request .get(’/some.png’) .redirects(2) .end(callback);
标签:
JavaScript
上一条:javascript - Promise 封装ajax想顺序执行ajax,但是发现并没有按照顺序执行,高手指点下一条:javascript - node安装 webpack的Dev-server 失败怎么整
相关文章:
1. android-studio - android studio自带模拟器中的本地“图库”所对应的路径是什么?2. 【python小白】 问关于property的顺序问题3. angular.js - angular1如何使用跨域后的得到的数据4. angular.js - 如何在指令里使用ng-click5. angular.js input输入正确数据框变红色6. JS怎么给每相隔一行的TD添加filter滤镜?7. flexbox - css3[flex-shrink]属性在子项有 padding/box-sizing 属性时,是如何计算子项宽度的?8. android-studio - Android Studio 中有没有类似C#的#if DEBUG功能9. 9.png中在同一方向上设置多个拉伸位置,在android studio中怎么弄出来?10. angular.js - Angular 像这种重复判断的表达式 有什么好的解决办法吗?~
排行榜