Easter79 Easter79
3年前
sqoop从hive导入数据到mysql时出现主键冲突
今天在将一个hive数仓表导出到mysql数据库时出现进度条一直维持在95%一段时间后提示失败的情况,搞了好久才解决。使用的环境是HUE中的Oozie的workflow任何调用sqoop命令,该死的oozie的日志和异常提示功能太辣鸡了,最后发现是重复数据导致数据进入mysql表时出现主键冲突进而导致数据同步失败。(1)众所周知hive表是没有主键与索引
Wesley13 Wesley13
3年前
java同步机制(1)Volatile变量
Java语言包含两种内在的同步机制:同步块(或方法)和volatile变量(不稳定变量)。这两种机制的提出都是为了实现代码线程的安全性。其中Volatile变量的同步性较差(但有时它更简单并且开销更低),而且其使用也更容易出错。Java语言中的volatile变量可以被看作是一种“程度较轻的synchronized”;与synchr
徐小夕 徐小夕
4年前
从零开发一款自动提取网页html并一键转换为md文件的工具(vue源码版)
最近几年涌现出了很多技术博客和技术社区,也有很多技术同仁开始打造自己的博客,我们可以把自己的博客同步到不同的技术平台,但是随着技术平台的增多,我们文章同步所花费的
Wesley13 Wesley13
3年前
MySQL Binlog同步HDFS的方案
这个问题我想只要是在做数据开发的,有一定数据实时性要求、需要做数据的增量同步的公司都会遇到。19年的时候我曾经写过一点canal的文章。现在你只要看这个文章就可以了。这篇文章是一个读者推荐给我的,原地址:https://dwz.cn/XYdYpNiI,作者:混绅士我对其中的一些内容做了修改。关系型数据库和Hadoop生态的沟通越来
Wesley13 Wesley13
3年前
BIO、NIO、AIO、多路复用IO的区别(图解)
原文地址:blog.csdn.net/lzb348110175/article/details/98941378学习之前,我们先来了解一下IO模型:    ①同步阻塞IO(BlockingIO):即传统的IO模型。    ②同步非阻塞IO(NonblockingIO):默认创建的socket都是阻塞的,非阻塞
Wesley13 Wesley13
3年前
NIO高并发基础
NIO高并发是jdk1.4出现的新的流.NIONewIO同步式非阻塞式IOBIOBlockingIO同步式阻塞式IOUDP/TCPAIOAsynchronousIO异步式非阻塞IOjdk1.8BIO的缺点1.会产生阻塞行为receive/accept/connect/r
Stella981 Stella981
3年前
Apache HBase 入门教程
原文同步至http://waylau.com/abouthbase/(https://www.oschina.net/action/GoToLink?urlhttp%3A%2F%2Fwaylau.com%2Fabouthbase%2F)(若打不开,请翻墙,或者使用https访问)ApacheHBase是一个分布式的、面向列的开源数据库。正
Stella981 Stella981
3年前
Redis学习
主从复制官方文档:https://redis.io/topics/replicationRedis中的主从复制,也就是MasterSlave模型,有以下特点  Master可以拥有多个slave  多个slave不仅可以连接同一个master,还可以连接到其他的slave  主从复制不会阻塞master,在同步数据时,maste
Stella981 Stella981
3年前
RocketMQ主从同步若干问题答疑
1、初识主从同步主从同步基本实现过程如下图所示:!在这里插入图片描述(https://imgblog.csdnimg.cn/20190625233757881.png?xossprocessimage/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9