Re: 你版懂爬虫的进来

楼主: Sumiremywife (平安名堇我的婆)   2026-04-18 12:16:14
※ 引述《Sumiremywife (平安名堇我的婆)》之铭言
: 现在linkedin.com 防爬机制是不是超强啊。 怎么做都会被挡 难道真的要购买代理池
吗(
: 像是proxycurl)
: 问一下
: 我朋友在爬国外的数据库
: 一直被挡
: 想问问看解法
→ surimodo : 领英查了一下不好爬应该是说 你朋友的数据量需求多大如果很大就是买代
理IP池 或者购买那种现成爬虫方案很小 就小数据慢慢爬
我朋友目前是台大经济系某教授助理
他老板好像要他抓大概2万笔资料要写论文还是啥
我原本也跟他说
要不要请他花钱找代理
然后经费跟老板报销
然后
我朋友他老板跟他说
要是你做不到这件事
那我也不用花钱请你了
点点点
原本我朋友入职以为只要写一些简单的爬虫
试用期过后没想到尽是干些吃力不讨好还违法的事情
我朋友在问说
有没有推荐代理池厂商
尤其是对linkdin profile 服务好的代理池
因为有些厂商爬出来的资料不完整
万一资料不完整一定被干死
作者: smart0eddie (smart0eddie)   2026-04-18 12:18:00
块陶
楼主: Sumiremywife (平安名堇我的婆)   2026-04-18 12:22:00
我们昨天还在想是不是IP或帐号问题 或是他主机机械码被人家记住了就用我这台电脑+挂VPN创了新帐号下去爬结果爬完第二笔资料就被封 牛逼
作者: surimodo (好吃棉花糖)   2026-04-18 12:24:00
浏览器没机械码啦有可能是cookie没换被封或者一些header没设定好如果方便直接看程式码比较快
楼主: Sumiremywife (平安名堇我的婆)   2026-04-18 12:25:00
程式码喔 我等等找地方上传 等我下
作者: surimodo (好吃棉花糖)   2026-04-18 12:25:00
2万笔感觉没到很多是不急 我还在公司当牛马 真的能帮忙看也是晚上 = =
楼主: Sumiremywife (平安名堇我的婆)   2026-04-18 12:28:00
行 慢慢来 感谢

Links booklink

Contact Us: admin [ a t ] ucptt.com