python使用aiohttp通过设置代理爬取基金数据
说到python爬虫，我们就会想到它那强大的库，很多新手小白在选择框架的时候都会想到使用Scrapy，但是仅仅停留在会使用的阶段。在实际爬虫过程中遇到反爬机制是再常见不过的，今天为了增加对爬虫机制的理解，我们就通过手动实现多线程的爬虫过程，同时引入IP代理
Nginx 反向代理配置及403出现原因
//image.happy.com.confserver{ //监听80端口listen80; //状态on,首页展现索引 //状态off,首页403,不影响下层资源访问 autoindexoff; //image.happy.com serve
Selenium使用代理出现弹窗验证如何处理
部分商业网站对爬虫程序限制较多，在数据采集的过程中对爬虫请求进行了多种验证，导致爬虫程序需要深入分析目标网站的反爬策略，定期更新和维护爬虫程序，增加了研发的时间和投入成本。这种情况下，使用无头浏览器例如Selenium，模拟用户的请求进行数据采集是更加方便快捷的方式。同时为了避免目标网站出现IP限制，配合爬虫代理，实现每次请求自动切换IP，能够保证长期稳定