hive
-
HIVE SQL COUNT(DISTINCT * 按条件去重
COUNT(DISTINCT CASE WHEN ******* THEN cid END), COUNT(DISTINCT CASE WHEN ******* THEN cid …
-
HDFS配置HA下spark-sql写入hive报错Wrong FS
背景: CDH集群的HDFS HA已配置完毕,Hive也相应进行了Update Hive Metastore NameNode,Hive的业务sql脚本都正常运行。 在使用…
-
spark sql整合hive-重要
spark sql整合hive 在spark sql中使用hive的元数据 spark sql是使用spark进行计算的,hive使用MR进行计算的 1、在hive的hive-si…
-
练习: 使用shell脚本结合sqoop命令,把Hive数据库的某张表的分区数据导出到oracle数据库的某张表
hive的表:bigdata.emp_dongtai oracle的表:EMP_FROM_H #!/bin/sh #使用shell脚本结合sqoop命令,进行一个Hive分区表…
-
一键同步mysql到数仓(airflow调度)
经常会接到产品的需求:同步***表到hive,做分析。(做多了感觉很烦,就写一个工具) 一:背景、功能、流程介绍 1.背景: 1.数仓使用hive存储,datax导数据、a…
-
linux 进入hive
#进入beeline[root@master ~]# beeline#进入beeline后,连接10000端口beeline> !connect jdbc:hive2://1…
-
Hive优化
一、join优化 1. 使用相同的连接键当对3个或者更多个表进行join连接时,如果每个on子句都使用相同的连接键的话,那么只会产生一个MapReduce job。 2. 尽量尽早…
-
hive sql 将array<float>转成arrray<string>
在网上找了很久,终于解决了,代码如下: with mydata as ( select ID, my_array from ( –some array<struct>…
-
超实用, Hive日常操作必会,学会事半功倍。
Hive 表基本操作 1.创建表 1 CREATE TABLE if NOT EXISTS table_name 2 ( 3 column_name1 string comme…
-
hive sql
How to transform data into a map using group by in Hive SQL? 用途: https://stackoverflow.com…