[问题]关于scrapy 和pandas 的问题

楼主: allen511081 (蓝)   2015-03-12 22:35:09
各位好,小弟最近有两个小问题,需要各位帮小弟解答一下
1.scrapy爬虫程式有没有办法在同一个程式码里批次输出网页资料?
EX:我有11万个网页,我想要分成3万3万输出成CSV
2.pandas的to_csv有没有办法将多个dataframe的CSV合并成一个?
作者: ccwang002 (亮)   2015-03-13 01:17:00
回 2:pandas.concat pandas.merge,看是什么方向
作者: ug945 (ug945)   2015-03-13 01:23:00
在Spider内记录笔数 到了就写到不同的档案去
楼主: allen511081 (蓝)   2015-03-14 10:21:00
谢谢,我照你们的方法处理完了

Links booklink

Contact Us: admin [ a t ] ucptt.com