阅读背景:

小项目-数据爬取篇:准备工作 代理ip爬取(分布式,多线程)

来源:互联网 

普通方式爬取

环境:win10 x64,python 3.61

代理网站比较多,有免费的有收费的,我们爬取的数据并不多,用免费的就好,免费代理有个致命缺点就是少数可用,所以我们爬取下来以后最好还要验证一下,验证的逻辑就是访问正常网站,返回状态200的保留,否者删除就好。 代理网站




你的当前访问异常,请进行认证后继续阅读剩余内容。

分享到: