…)间进行数据的传递,可以将一个关系型数据库(如MySQL,甲骨文…)中的数据导进到Hadoop的HDFS中,也可以将HDFS的数据导进到关系型数据库中。
二、安装和配置
1,修改配置文件sqoop-env。承宪:
#组可用路径,本/hadoop是
export HADOOP_COMMON_HOME=/home/hadoop/app/hadoop-2.4.1
#路径设置为hadoop - *生水起的地方。jar is available
export HADOOP_MAPRED_HOME=/home/hadoop/app/hadoop-2.4.1
#set the path to where bin/hbase is available
export HBASE_HOME=/home/hadoop/app/hbase-0.96.2-hadoop2
#Set the path to where bin/hive is available
export HIVE_HOME=/home/hadoop/app/hive-0.12.0-bin
#Set the path for where zookeper config dir is
export ZOOCFGDIR=/home/hadoop/app/zookeeper-3.4.5/conf
2、将sqoop添加到环境变量。
3、将数据库连接驱动拷贝到$SQOOP_HOME/lib里。
三、导入导出：
1、数据库中的数据导入到HDFS上:
(1)、指定导入的字段：
sqoop import
--connect jdbc:mysql://192.168.1.10:3306/itcast
--username root --password 123
--table trade_detail
--columns 'id, account, income, expenses'
（2）、指定输出路径、指定数据分隔符：
sqoop import
--connect jdbc:mysql://192.168.1.10:3306/itcast
--username root --password 123
##要导入数据的表
--table trade_detail
##数据导入hdfs后所存放的目录
--target-dir '/sqoop/td'
##导入的数据字段之间的分隔符
--fields-terminated-by '\t'
（3）、指定Map数量 -m
sqoop import
--connect jdbc:mysql://192.168.1.10:3306/itcast
--username root --password 123
--table trade_detail
--target-dir '/sqoop/td1'
--fields-terminated-by '\t'
##指定做导入处理时的map 任务数
-m 2
（4）、增加where条件, 注意：条件必须用引号引起来
sqoop import
--connect jdbc:mysql://192.168.1.10:3306/itcast
--username root --password 123
--table trade_detail
--where 'id>3'
--target-dir '/sqoop/td2'
（5）、增加query语句(使用 \ 将语句换行)
sqoop import
--connect jdbc:mysql://192.168.1.10:3306/itcast
--username root --password 123
--query 'SELECT * FROM trade_detail where id> 2美元的条件”,
,分割了trade_detail.id
——target-dir/sqoop td3”
注意:如果使用,查询这个命令的时候,需要注意的是,后面的参数,和美元条件这个参数必须加上
而且存在单引号与双引号的区别,如果——查询后面使用的是双引号,那么需要在美元条件前加上\即\ $条件
如果设置地图数量为1个时即- m 1,不用加上——分割了${表名。列},否则需要加上
2,将HDFS上的文件数据导出到数据库的表里面去:
sqoop export
——jdbc连接:mysql://192.168.8.120:3306/itcast
——用户名根密码123,
# #你要导出的数据所在的目录
——export-dir '/td3 ',
# #你要导往的目标关系表
——表td_bak
- m 1,
# #你要导出的文件的字段分隔符
——fields-termianted-by \ t的
四,用python导入导出表:
import操作系统
from_table=皉pt_daily”
to_table=皉pt_daily”
sqoop1=皊qoop进口——jdbc连接:mysql://172.30.200.219 bi_warehouse——用户名根“\
,,,“——密码工匠,表”+ from_table +”,——fields-terminated-by“\ \ 001”——target-dir/db/as_main/修改/lzf/? from_table +”,——delete-target-dir num-mappers 1”
os.system (sqoop1)
sqoop2=皊qoop出口——连接\ " jdbc: mysql://192.168.1.4/bi_warehouse ? useUnicode=true& characterEncoding=utf - 8 \”——用户名根——密码根表”+ to_table +“,”\
,,,,”——export-dir/db/as_main/修改/lzf/? to_table +“/部分- m - 00000——input-fields-terminated-by \ \ 001”
os.system (sqoop2)
<强> 在linux行,执行python,进入python,然后将上面内容粘贴后回车即可
<强> 在linux行,执行python, test2.py,即python调用文件(test2。py为上述内容保存的文件名称)
