今天在将一个hive数仓表导出到mysql数据库时出现进度条一直维持在95%一段时间后提示失败的情况，搞了好久才解决。使用的环境是HUE中的Oozie的workflow任何调用sqoop命令，该死的oozie的日志和异常提示功能太辣鸡了，最后发现是重复数据导致数据进入mysql表时出现主键冲突进而导致数据同步失败。（1）众所周知hive表是没有主键与索引

一、前言大家好，我是崔艳飞。工作中有时需要把A表中的经纬度点，从B表中匹配一个最近的点出来，用Mapinfo也可以实现，但处理速度慢，特别是数据量大时根本处理不动，此时用Python就能轻松实现，还能显示处理进度，详细如下。二、项目目标用Python实现两张表间最近点的计算。三、项目准备软件：PyCharm需要的库：pandas，xlrd，os

在MySQL数据库怎么加快查询速度，优化查询效率，主要原则就是应尽量避免全表扫描，应该考虑在where及orderby涉及的列上建立索引。　　建立索引不是建的越多越好，原则是：　　第一：一个表的索引不是越多越好，也没有一个具体的数字，根据以往的经验，一个表的索引最多不能超过6个，因为索引越多，对update和insert操作也会有性能的影响，涉及

一、数据库设计规范1.使用innodb引擎2.数据库和表的字符集统一使用utf83.所有表和字段添加注释4.单表数据量控制<500w5.谨慎使用mysql分区，跨区查询影响性能6.冷热数据分离，缓存7.禁止在数据库中存储图片，文件等大的二进制数据8.禁止在线上做数据库压力测试9.禁止从开发和测试环境直接连

Netty创建Server服务端Netty创建全部都是实现自AbstractBootstrap。客户端的是Bootstrap，服务端的则是ServerBootstrap。创建一个HelloServerpackageorg.examp

hbase存储：HBase存储数据其底层使用的是HDFS来作为存储介质，HBase的每一张表对应的HDFS目录上的一个文件夹，文件夹名以HBase表进行命名（如果没有使用命名空间，则默认在default目录下），在表文件夹下存放在若干个Region命名的文件夹，Region文件夹中的每个列簇也是用文件夹进行存储的，每个列簇中存储就是实际的数据，以HF

银华的面试比较变态,不做笔试题,去了直接开聊,逮住一个题使劲往里问,直到问住你为止.....1.数据库中两张表结构相同，怎么把一张表中的数据复制到另一张表2.MyBatis中<where标签和where有什么区别3.什么是JSON，有什么用4.JSON除了在前后端传输数据外还有那些应用。5.JSON的｛｝是干什么用的6.JQue

面试的技术名词面试一般会遇到一些名词，其实可能自己都知道其中的道理，但是因为没了解过，当时心里就一句WC，然后弱弱答一句：不好意思这个我只是听过，具体还没了解过；回表覆盖索引最左前缀匹配索引下推1、回表所谓的回表就是因为普通索引的叶子节点中存储的不是行数据而是主键的值，然后通过主键值

1、复合索引创建语法    db.collection.createIndex({<field1:<type,<field2:<type2,...})    同创建单键(列)索引一样，索引创建时需要指定每一个键索引的顺序    多个键直接用逗号分隔    索引创建语法可以参考：h

创建对象的几种模式虽然Object构造函数或者字面量，都可以用来创建对象，但这些方式有明显的缺点：使用同一个接口创建很多对象，会产生大量的代码，于是，工厂模式诞生了1工厂模式工厂模式是广为人知的设计模式，抽象了创建具体对象的过程。在ES6的Class创建类之前，是无法创建类的，开发人员就发明了一种函数，用函数来封