Easter79 Easter79
3年前
sqoop从hive导入数据到mysql时出现主键冲突
今天在将一个hive数仓表导出到mysql数据库时出现进度条一直维持在95%一段时间后提示失败的情况,搞了好久才解决。使用的环境是HUE中的Oozie的workflow任何调用sqoop命令,该死的oozie的日志和异常提示功能太辣鸡了,最后发现是重复数据导致数据进入mysql表时出现主键冲突进而导致数据同步失败。(1)众所周知hive表是没有主键与索引
Easter79 Easter79
3年前
vue element
工作中遇到后台给的表格数据里时间是一个13位的时间戳,需要转换成时间显示在表格里,可以用elementui表格自带的:formatter函数,来格式化表格内容:1//时间戳转换成时间2//使用elementtable组件中的formatter属性,传入一个函数3timestampToTime
Wesley13 Wesley13
3年前
Ubuntu16.04下安装Hive
 上一篇博客我们已经说过了要如何安装Hadoop,别忘记了我们的目的是安装Hive。所以这篇博客,我就来介绍一下如何安装Hive。一、环境准备(1)Vmware (2) Ubuntu16.04 (3) Hadoop二、安装Hive (1)mysqlserver和mysqlclient的下载  $suhadoop
Stella981 Stella981
3年前
Hive Transaction 事务性 小试
  提到Hive一般都会想到,Hive是数据仓库,支持类SQL查询,有很多语法支持,可以嵌套MR,写Transform、写UDF/UDAF等,但是,不支持更新操作。所以Hive的常见也一般都是一次写入,频繁读取。从Hive0.13开始,加入了ACID的新feature,但是0.13的时候还不支持insert、update和delete操作,我也
Stella981 Stella981
3年前
HiveQL与SQL区别
1、Hive不支持等值连接•SQL中对两表内联可以写成:•select\fromduala,dualbwherea.keyb.key;•Hive中应为•select\fromdualajoindualbona.keyb.key;而不是传统的格式:SELECTt1.a1as
Wesley13 Wesley13
3年前
mysql时间日期总结
下面对mysql时间和日期处理做下总结1.获取当前日期时间函数nowpythontime.strftime("%Y%y%d%H:%M:%S")selectnow();|2013112309:58:01|2.获取当前日期函数cur
Stella981 Stella981
3年前
Nebula Exchange 工具 Hive 数据导入的踩坑之旅
!NebulaExchange工具Hive数据导入的踩坑之旅(https://wwwcdn.nebulagraph.com.cn/nebulablog/nebulaexchangehiveimportbestpractice.png)摘要:本文由社区用户xrfinbj贡献,主要介绍Exchange工具从Hive数仓
Stella981 Stella981
3年前
Hive内部表和外部表的区别详解
内部表&外部表未被external修饰的是内部表(managedtable),被external修饰的为外部表(externaltable);区别:内部表数据由Hive自身管理,外部表数据由HDFS管理;内部表数据存储的位置是hive.metastore.warehouse.dir(默认:/user/hive/warehouse)
Stella981 Stella981
3年前
Hive基本使用——命令行
Hive用户接口主要有三个:命令行(CLI),客户端(Client)和Web界面(WUI)。其中最常用的是CLI,启动的时候,会同时启动一个Hive服务。Client是Hive的客户端,用户连接至HiveServer。在启动Client模式的时候,需要指出HiveServer所在节点,并且在该节点启动HiveServer。
Stella981 Stella981
3年前
Hive使用必知必会系列
一、Hive的几种数据模型内部表(Table将数据保存到Hive自己的数据仓库目录中:/usr/hive/warehouse)外部表(ExternalTable相对于内部表,数据不在自己的数据仓库中,只保存数据的元信息)分区表