[问题] 爬虫遇到statusCode=302相关问题

楼主: ggbast (GG)   2018-09-11 20:06:52
最近在爬一些网页蒐集资料
偶尔会遇到网页需要重新导向的问题
我用chrome浏览器看到的详细如下
前往网站A得到回应的status code = 302
并且会在response header里面的location
放入重新导向的目的地网站B的网址
但是实际用爬虫下去跑会发现
前往网站A取得的回应里面看不到
response header里面的location
却直接得到了最后导向的网站B内容
感觉上好像是程式自己做做了重新导向这件事
有没有办法正常让爬虫取得那个location呢?
我的环境是nodejs
使用模组是request跟request-promise
作者: dododavid006 (朔雪)   2018-09-11 20:34:00
options 加上 followRedirect: false

Links booklink

Contact Us: admin [ a t ] ucptt.com