python爬虫实践之IP的使用
Python爬虫常常会面临自己ip地址被封的情况,也许刚入行的小白就只能等ip解封之后再进行接下来的操作了,但是这样的方式却是最不能借鉴的,万一数据需求量大,那要等到猴年马月呢?所以今天我们就来探讨下如何创建一个IP池并对其进行管理。对刚入行的小白很有帮助,希望大家耐心看下去,需要的朋友可以参考下。很多的网站都有反爬机制,其中就有这样一条,就是服务器会检查请
芝士年糕 芝士年糕
2年前
DNS域名详细解析过程
最近需要搭建一个网站,需要域名解析和备案了,租了一个很便宜的服务器,而且服务超级好,有兴趣私聊我。什么是DNS域名解析我们首先要了解域名和IP地址的区别。IP地址是互联网上计算机唯一的逻辑地址,通过IP地址实现不同计算机之间的相互通信,每台联网计算机都需要通过IP地址来互相联系和分别。但由于IP地址是由一串容易混淆的数字串构成,人们
不是海碗 不是海碗
1年前
验证码短信API的应用场景有哪些你知道嘛?
短信验证码已经影响到了我们生活方方面面,成为了不可或缺的一部分。同时,短信验证码也是用户体验中的一个重要指标,如果手机经常出现接收验证码很慢甚至是没有接收到验证码的情况,这就会严重影响到网站或者APP的用户体验,从而导致大量用户的流失。短信验证码如此重要,那个短信验证码API也是必不可少的,这篇文章我就来说说短信验证码API的应用场景
Karen110 Karen110
3年前
Python爬取所有人位置信息,制作任意区域人流量显示图
最近偶然看到了腾讯的大数据星云图,非常漂亮,如下图:这些数据代表使用腾讯定位服务的用户实际地理位置,例如微信、QQ、腾讯地图等,所以使用量还是表达的,此图可以间接显示人流量情况该网站还可以查看区域热力图:但是只有个别区域于是我萌生一个想法,用python任意区域人员流量图经过不懈努力,没想到还真给实现了,下面带大家一起学习一下这一过程:一、首先是数据获取
东方客主 东方客主
3年前
PHP实现文本快速查找 - 二分查找法
起因先说说事情的起因,最近在分析数据时经常遇到一种场景,代码需要频繁的读某一张数据库的表,比如根据地区ID获取地区名称、根据网站分类ID获取分类名称、根据关键词ID获取关键词等。虽然以上需求都可以在原始建表时,通过冗余数据来解决。但仍有部分业务存的只是关联表的ID,数据分析时需要频繁的查表。所读的表存在共同的特点数据几乎不会变更数据量适中,从一万
Aidan075 Aidan075
3年前
说实话,数据分析师真不用先学Python!
大家好,我是小五🚀经常有朋友问我一个问题,转行数据分析师应该先学什么呀?抛开统计学、业务方法论,单拿出技能工具来说的话,我更希望大家先学习SQL。为了证实我的看法,我爬取了招聘网站,并做了一张柱状图来展示互联网公司对数据分析师的技能要求。可以看到对于一名(准)数据分析师来说,SQL确实是最需要掌握的技能。当然,大家对于各种工具也不必追求全部掌握,它们的目的都
Stella981 Stella981
3年前
Hadoop、spark、SaaS、PaaS、IaaS、云计算概念区分?
背景一:世界需要更多的计算能力信息技术时代的基石是建立在“计算”之上的。以搜索引擎为例,早期的搜索引擎是人工分类索引的,类似黄页,但是随着网站数量的增多,人工索引的工作量变得巨大,而且更新时效低得难以忍受了。后来的一波搜索引擎都采用了由计算机算法自动索引,查找相关文档,并排序展示的方式。这种方式就导致了对计算能力的巨大需求,类似的趋势出现在多种技术领域,
Stella981 Stella981
3年前
Nginx 和Apache 中的虚拟主机的概念
 在部署环境的时候,有时候会引用到虚拟主机的概念,什么是虚拟主机呢,博主之前一直把虚拟主机的概念没搞清楚,导致在部署的时候,一直动不动就404,或者500,或者服务器不通所以,什么是虚拟主机呢?虚拟主机概念大致同虚拟机的概念。如果你有两个不同域名的网站,但是你只有一台服务器,这时候怎么办?其实利用nginx或者apache都可以帮你用一台机器来模
Stella981 Stella981
3年前
Hash算法系列
现在的网站用户量都很大,一台服务器包打天下的时代一去不复返了,多台服务器就存在一个问题,如何将访问用户转向不同的服务器,并且各个服务器接受的请求数大致相当呢?这就是一致性hash算法要解决的问题。一致性hash算法在负载服务器(ngnix、haproxy等)、K/V缓存系统memcache等就有相关的实现。这类的文章比较多,摘抄一篇供大家学习。jav
Stella981 Stella981
3年前
B2B2C开源系统众筹项目启动(以ShopsN开源核心为版权基础)
最近网上流传大量使用ShopXX的站长被其起诉,索赔几十万的消息连续不断。之前用盗版的时候不当一回事,等到对方发律师函了才开始紧张了,但这又有什么用那?对方是有公证处取证的,官司几乎不可能赢。网站开发公司,为了拉活大包大揽,不写明是二次开发,被客户列为第二被告,也陷入了困境。怎么办?开源中国电商榜首位的shopsn全网电商ShopsN官方,应大家强烈