一、前言大家好，我是崔艳飞。众所周知，百度上直接搜索关键字会出来一大堆东西，时常还会伴随有广告出现，不小心就点进去了，还得花时间退出来，有些费劲。最近群里有个小伙伴提出一个需求，需要获取百度上关于粮食的相关讲话文章标题和链接。正好小编最近在学习爬虫，就想着拿这个需求来练练手。我们都知道，对Python来说，有大量可用的库，实现起来并不难，动手吧。二、项目

一、主从同步/复制　　通过持久化功能，Redis保证了即使在服务器重启的情况下也不会丢失（或少量丢失）数据，因为持久化会把内存中数据保存到硬盘上，重启会从硬盘上加载数据。但是由于数据是存储在一台服务器上的，如果这台服务器出现硬盘故障等问题，也会导致数据丢失。　　为了避免单点故障，通常的做法是将数据库复制多个副本以部署在不同的服务器上，这样即使有一台服务器出

一、主从模式通过持久化功能，Redis保证了即使在服务器重启的情况下也不会损失（或少量损失）数据，因为持久化会把内存中数据保存到硬盘上，重启会从硬盘上加载数据。但是由于数据是存储在一台服务器上的，如果这台服务器出现硬盘故障等问题，也会导致数据丢失。为了避免单点故障，通常的做法是将数据库复制多个副本以部署在不同的服务器上，这样即使有一台服务器出现故障，其他

数据库的三大范式第一范式：每个列都不可以再拆分第二范式：在第一范式的基础上，非主键列完全依赖于主键第三范式：在第二范式上，非主键列只依赖主键，不依赖其他非主键事务的并发问题脏读：事务A读取了事务B更新的数据，然后数据B回滚，那么A读到的是脏数据不可重复读：事务A多次读取同一数据，事务B在事务A读取的过程中对数据进行了修改并提交，导致A多次读的数据

南方地形地籍成图软件CASS10.0发布了，这是广东南方数码科技股份有限公司基于CAD平台开发的一套集地形、地籍、空间数据建库、工程应用、土石方算量等功能为一体的绘测软件，此款软件广泛运用于地构成图、地藉成图、工程丈量运用三大领域，且全部面向GIS，完全打通数字化成图体系与GIS接口，运用骨架线实时修改、简码用户化、GIS无缝接口等先进技术。!CASS

相信很多人的项目都有这种需求，就是查询近7天的记录，但是这7天总有那么几天是没数据的，所以缺失的只能补0 下面的代码不知道能不能看懂，我简单的说一下思路1）先查询红色字体的近7天，再转换成日期2）我的字段使用的是时间戳的方式去保存，只能是先数据库字段先转日期2.1）先查询自己想要的数据，用每天分组，计算好总数后2.2）时间戳字段先转日期

1 背景用户本地有一份txt或者csv文件，无论是从业务数据库导出、还是其他途径获取，当需要使用蚂蚁的大数据分析工具进行数据加工、挖掘和共创应用的时候，首先要将本地文件上传至ODPS，普通的小文件通过浏览器上传至服务器，做一层中转便可以实现，但当这份文件非常大到了10GB级别，我们就需要思考另一种形式的技术方案了，也就是本文要阐述的方案。技术要求主要

Python是一种面向对象、直译式计算机编程语言，具有近二十年的发展历史，成熟且稳定。它包含了一组完善而且容易理解的标准库，能够轻松完成很多常见的任务。它的语法简捷和清晰，尽量使用无异义的英语单词，与其它大多数程序设计语言使用大括号不一样，它使用缩进来定义语句块。Python可以和C/C语言整合在一起，也能支持命令式程序设计、面向对象程序设计

1 背景用户本地有一份txt或者csv文件，无论是从业务数据库导出、还是其他途径获取，当需要使用蚂蚁的大数据分析工具进行数据加工、挖掘和共创应用的时候，首先要将本地文件上传至ODPS，普通的小文件通过浏览器上传至服务器，做一层中转便可以实现，但当这份文件非常大到了10GB级别，我们就需要思考另一种形式的技术方案了，也就是本文要阐述的方案。技术要求主要

  今天在昨天的基础上又做了一些对比测试，也算是对昨天的一个补充和升华。  而这部分内容其实内容量还不少，所以我准备成了ppt的形式，也在团队内部做了一些交流，感兴趣可以直接点击文末的原文来看。初始化数据的必要性  在开始之前还是简单说说初始化数据的必要性，我们做数据库问题定位，性能分析时，如果表里就几条，几十条数据，做性能比对得到的结