Re: [问题] 爬虫RequestURL的取得

楼主: unhumanWu (阿文)   2017-10-09 09:51:42
※ 引述《unhumanWu (阿文)》之铭言:
: 大家好,初学爬虫
: 最近在蒐集以下网址店点相关资讯
: https://www.aptg.com.tw/store/
: 我是透过区域查询(县市及乡镇市区)的方式来搜寻店点
: 发现他每个乡镇市区都会回传不同的Request URL
: 各行政区的Request URL长相大概像下面这样:
: https://imgur.com/a/9qK7J
: 想请教有没有方法可以知道网站全部行政区的Request URL
: 感恩!
类似的状况也发生在下面的网址
就是不同行政区回传不同的Resquest URL
虽然可以手动查,但想知道也没有其他方法
感恩~
https://www.tstartel.com/CWS/storeLocation.php
作者: s860134 (s860134)   2017-10-09 10:06:00
F12 直接看他 js source code他把原始码都放在上面了,你 try 几个应该就有了
作者: uranusjr (←這人是超級笨蛋)   2017-10-09 14:46:00
%E4%B8%AD%E6%AD%A3%E5%8D%80 => 中正区 的 URL encodedformat, 以下都是一样, 可以直接用 urllib.parse 转换%E5%8F%B0%E5%8C%97%E5%B8%82 => 台北市
作者: neil987 (R5大小姐-EX人品崩坏)   2017-10-10 04:08:00
作者: s860134 (s860134)   2017-10-10 07:39:00
python3 只要 urlib, python2 散布在 urlpares 和 urlib

Links booklink

Contact Us: admin [ a t ] ucptt.com