SQOOP安装部署详解大数据

1.环境准备

1.1软件版本

sqoop-1.4.5 下载地址

2.配置

sqoop的配置比较简单,下面给出需要配置的文件

2.1环境变量

sudo vi /etc/profile
SQOOP_HOME=/home/hadoop/source/sqoop-1.4.5 
PATH=$SQOOP_HOME/bin 
export SQOOP_HOME

2.2sqoop-env.sh

#Set path to where bin/hadoop is available 
export HADOOP_COMMON_HOME=/home/hadoop/source/hadoop-2.5.1 
 
#Set path to where hadoop-*-core.jar is available 
export HADOOP_MAPRED_HOME=/home/hadoop/source/hadoop-2.5.1 
 
#set the path to where bin/hbase is available 
#export HBASE_HOME= 
 
#Set the path to where bin/hive is available 
export HIVE_HOME=/home/hadoop/source/hive-0.14.0 
 
#Set the path for where zookeper config dir is 
#export ZOOCFGDIR=

注:目前我是木有配置HBase和Zookeeper的,若有需要的人可以将路径直接指定到HBase和Zookeeper的安装路径下。

2.3异常

Streaming result set com.mysql.jdbc.RowDataDynamic@12e9d40f is still active

执行sqoop脚本时,出现这个异常是因为mysql的驱动的原因,使用最新的mysql驱动包。

解决方案:

wget http://dev.mysql.com/get/Downloads/Connector-J/mysql-connector-java-5.1.32.tar.gz

然后解压到sqoop目录的lib目录下,重新执行脚本正常。

至此,sqoop的安装配置以及使用到此完成。

原创文章,作者:kepupublish,如若转载,请注明出处:https://blog.ytso.com/228105.html

(0)
上一篇 2022年1月11日
下一篇 2022年1月11日

相关推荐

发表回复

登录后才能评论