我的编程空间,编程开发者的网络收藏夹
学习永远不晚

使用sqoop从Hive导出数据到MySQL

短信预约 -IT技能 免费直播动态提醒
省份

北京

  • 北京
  • 上海
  • 天津
  • 重庆
  • 河北
  • 山东
  • 辽宁
  • 黑龙江
  • 吉林
  • 甘肃
  • 青海
  • 河南
  • 江苏
  • 湖北
  • 湖南
  • 江西
  • 浙江
  • 广东
  • 云南
  • 福建
  • 海南
  • 山西
  • 四川
  • 陕西
  • 贵州
  • 安徽
  • 广西
  • 内蒙
  • 西藏
  • 新疆
  • 宁夏
  • 兵团
手机号立即预约

请填写图片验证码后获取短信验证码

看不清楚,换张图片

免费获取短信验证码

使用sqoop从Hive导出数据到MySQL

启动hadoop:start-all.sh。

启动mysql:support-files/mysql.server start。

启动hive:hive。

在hive中创建表。

(学生信息:学号xh,姓名xm)xsxx:

create table bigdata03.xsxx

(

xh String,

xm String

)

row format delimited fields terminated by ','stored as textfile;

(课程信息:课程号kch,学号xh,课程名称kcmc,学分xf)kcxx

create table bigdata03.kcxx

(

kch String,

xh String,

kcmc String,

xf String

)

row format delimited fields terminated by ','stored as textfile location '/kc';

 

分别编辑xsxxdata和kcxxdata里面数据。

1》vim xsxxdata 编辑数据,数据如下:

201177010179,Tom

201177010180,Zou

201177010181,Lii

201177010182,Hezi

2》vim kcxxdata 编辑数据,数据如下:

C001,201177010179,ETL,2

C002,201177010180,Java,2

C003,201177010181,Hadoop,3

C004,201177010182,Spark,2

使用命令:

1》show create table bigdata03.xsxx;

2》show create table bigdata03.kcxx;

找到其路径备用:

1》LOCATION

'hdfs://192.168.10.130:9000/user/hive/warehouse/bigdata03.db/xsxx'

2》LOCATION

'hdfs://192.168.10.130:9000/kc'

上传数据xsxxdata到其找到的路径下:

1》hadoop fs -put xsxxdata hdfs://192.168.10.130:9000/user/hive/warehouse/bigdata03.db/xsxx

2》hadoop fs -put kcxxdata hdfs://192.168.10.130:9000/kc

上传成功,即可查看到其数据:

select * from bigdata03.xsxx;

 

select * from bigdata03.kcxx;

 

数据可视化(前端)需求:Tom选修了哪些课程,对应的每门课程有多少学分。

命令如下:

select

m.xm,n.kcmc,n.xf

from bigdata03.xsxx as m

join bigdata03.kcxx as n on m.xh=n.xh

where m.xm="Tom";

其结果如下:

 

将其结果放到jg01表中:

create table bigdata03.jg01

(

xm String,

kcmc String,

xf String

)

row format delimited fields terminated by ','stored as textfile location '/jgdata';

 

插入分析出的结果:

insert into bigdata03.jg01

select

m.xm,n.kcmc,n.xf

from bigdata03.xsxx as m

join bigdata03.kcxx as n on m.xh=n.xh

where m.xm="Tom";

这样表示插入成功:

 

查看保存的结果数据:

查看其路径:

hdfs://192.168.10.130:9000/jgdata

查看根路径下面的文件:

hdfs dfs -ls /jgdata

将hive分析好的结果数据导出到mysql数据库中:

首先:在mysql中创建一张表:

CREATE TABLE hive_to_mysql(

xm VARCHAR(50),

kcmc VARCHAR(50),

xf INT

);

其次:使用sqoop从hdfs上将分析好的数据导出到mysql中

命令:其中db03表示mysql的数据库,sqoop03表示mysql的用户名, hive_to_mysql表示在mysql中建的表,by ','表示以逗号作为分隔,jgdata表示所要导出的hive表。

sqoop export -connect jdbc:mysql://192.168.10.130:3306/db03 -username sqoop03 -password 123456 -table hive_to_mysql --fields-terminated-by ',' --export-dir /jgdata

运行结果:

在mysql中查询:hive分析好的结果数据导出到mysql数据库中的表:

来源地址:https://blog.csdn.net/qq_58476985/article/details/130763114

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

使用sqoop从Hive导出数据到MySQL

下载Word文档到电脑,方便收藏和打印~

下载Word文档

猜你喜欢

sqoop怎么导出hive数据到mysql中

要将Hive中的数据导出到MySQL中,可以使用Sqoop工具。以下是一个简单的步骤:首先,确保你已经安装了Sqoop和Hive,并且已经配置好了连接Hive和MySQL的参数。使用Sqoop的export命令来将Hive数据导出到MySQ
sqoop怎么导出hive数据到mysql中
2024-04-12

sqoop怎么从mysql导入数据到hive中

使用Sqoop将数据从MySQL导入到Hive可以通过以下步骤实现:首先,在Hive中创建一个目标表,用于存储从MySQL导入的数据。可以使用Hive命令行或Hue等工具创建表。确保在Hadoop集群中已经安装和配置了Sqoop。使用Sqo
sqoop怎么从mysql导入数据到hive中
2024-04-09

Sqoop怎么将MySQL数据导入到hive中

这篇文章主要讲解了“Sqoop怎么将MySQL数据导入到hive中”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“Sqoop怎么将MySQL数据导入到hive中”吧!MySQL表:mysql>
2023-06-02

sqoop怎么导出数据到mysql中

要将数据从Hadoop中的Hive表导出到MySQL中,您可以使用Apache Sqoop工具来执行此操作。以下是使用Sqoop从Hive表导出数据到MySQL的步骤:首先,确保您已经安装了Sqoop并配置了Hadoop和MySQL的连接参
sqoop怎么导出数据到mysql中
2024-04-09

python从mysql导出数据导exc

# coding:utf8import sys reload(sys)sys.setdefaultencoding('utf8')# author: 'zkx'# date: '2018/3/11'# Desc:从数据库中导出数据到exce
2023-01-31

sqoop1.4.7环境搭建及mysql数据导入导出到hive的方法

这篇文章主要介绍“sqoop1.4.7环境搭建及mysql数据导入导出到hive的方法”,在日常操作中,相信很多人在sqoop1.4.7环境搭建及mysql数据导入导出到hive的方法问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作
2023-06-02

怎么从mysql导出数据库数据

导出 mysql 数据库数据有两种方法:使用 mysqldump 命令行工具或 mysql workbench gui。mysqldump 命令语法为:mysqldump [选项] 数据库名 > 目标文件;mysql workbench 步
怎么从mysql导出数据库数据
2024-08-06

怎么从mysql导出数据库

是的,可以通过以下步骤导出 mysql 数据库:登录 mysql 客户端。选择要导出的数据库。执行 mysqldump 命令将数据库导出到一个 sql 文件。退出 mysql 客户端。如何从 MySQL 导出数据库导出数据库的步骤:1.
怎么从mysql导出数据库
2024-08-05

hive从mysql导入数据量变多的解决方案

原始导数命令:bin/sqoop import -connect jdbc:mysql://192.168.169.128:3306/yubei -username root -password 123456 -table yl_city_
2022-05-28

编程热搜

目录