最近刚好在学习爬虫，了解到MongoDB非常适合JSON数据存储，受到广大爬虫程序员的青睐，故学习之。一、安装MongoDB官网：进入官网后选择你需要的版本，系统，已及你想要的安装包（可选msi或zip，这里我使用msi，双击安装，简单！）:::warning在MongoDB2.2版本后已经不再支持WindowsXP系统。最新版本也

1.XShell连接远程Linux服务器并运行程序后关闭XShell继续执行XShell是用来连接远程Linux很好的工具，在连接之后并运行好需要运行的程序后，往往需要关闭XShell，但是直接运行比如运行pythoncrawler.py运行一个Python爬虫程序后，并直接关闭XShell往往会同时杀掉正在运行的爬虫程序，因此需要使用sudo

!(https://oscimg.oschina.net/oscnet/upede1a7a938f161dbdaf6489a266e85e0347.JPEG)由于互联网的极速发展，所有现在的信息处于大量堆积的状态，我们既要向外界获取大量数据，又要在大量数据中过滤无用的数据。针对我们有益的数据需要我们进行指定抓取，从而出现了现在的爬虫技术，通过爬

title:Java爬虫之JSoup使用教程date:201812248:00:000800update:201812248:00:000800author:mecover:https://imgblog.csdnimg.cn/20181224144920712(https://www.oschin

1.概念：多台机器上可以执行同一个爬虫程序，实现网站数据的分布爬取2.原生的scrapy是不可以实现分布式式爬虫　　a）调度器无法共享　　b）管道无法共享3.scrapyredis组件：专门为scrapy开发的一套组件，该组件可以让scrapy实现分布式　　a）pipinstallscrapyredis4.分布式爬取的流程：

ScrapydScrapyd是部署和运行Scrapy.spider的应用程序。它使您能够使用JSONAPI部署（上传）您的项目并控制其spider。ScrapydclientScrapydclient是一个专门用来发布scrapy爬虫的工具，安装该程序之后会自动在python目录\\scripts安装一个名为scrapyd

 vip视频网站爬虫电影网站：http://www.08ge.com/play/?makedianying&idfqvlYhH5QHb3Sh.html(https://www.oschina.net/action/GoToLink?urlhttp%3A%2F%2Fwww.08ge.com%2Fplay%2F%3Fmake

1.豆瓣采集!(https://oscimg.oschina.net/oscnet/29e918bf2ebced4da903f8ab789cd37ca35.jpg)!(https://oscimg.oschina.net/oscnet/83a646b5655e70dc379744e8ebfe145238d.jpg)1codin

自从使用hexo在githubpage更新博客之后，我每次在cnblog上发布文章，需要手动再更新hexo。hexo使用markdown格式来写文章，手动更新需要对文章本身内容进行转化，做成md文件再进行上传，后来就想到，本身爬虫就可以对页面中的各种元素进行提取，同时markdown使用的是标记语法，那么使用爬虫分析文章元素，提取主要内容并且根据模板自动生

据国际知名金融广告服务平台提供商Dianomi的报告《2018Robottrafficreport》的数据，在互联网上人类流量仅仅占了48.2%，也就是说，一个页面的10000个点击里面，大约5100个来自机器人。在航旅票务等行业，热门数据接口中甚至有超过95%的流量是来自爬虫。如何有效管理爬虫流量，是当下业务安全面临的问题。