hive使用文件方式批量导入数据

这篇具有很好参考价值的文章主要介绍了hive使用文件方式批量导入数据。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

hive使用文件方式批量导入数据

1. 创建表,确定分隔符,换行符:

CREATE TABLE test(
	id int,
	name STRING,
	tel STRING
)ROW FORMAT DELIMITED 
FIELDS TERMINATED BY ','
LINES TERMINATED BY '\n'
STORED AS TEXTFILE;

2. 编写数据文件:

hive 批量插入,hive,数据库,hadoop,大数据

3. 查看此表所在路径:describe extended 表名;

describe extended test;

hive 批量插入,hive,数据库,hadoop,大数据

4. 将本地生成好的数据上传至服务器

5. 将生成的txt文件put进HDFS集群

hadoop fs -put /home/hadoop/2023ge.txt /hive/warehouse/mdp_uat.db/test

  • /hive/warehouse/mdp_uat.db/test : 集群路径,第三部查询到的表路径(提前使用 hadoop fs -ls 查看下路径,确认路径正确);

  • /home/hadoop/2023ge.txt :本地路径;

6. 将数据文件导入到表里

注意单引号;文章来源地址https://www.toymoban.com/news/detail-647538.html

在hive执行:
load data inpath '集群中存放事先已经生成好的txt路径,不需要文件名,指定到目录层级即可' into table 目标表名称;

load data inpath '/hive/warehouse/mdp_uat.db/test' into table test;

7. 验证数据是否导入成功

如果数据量大的话,最好不要全部查出来,使用limit 查询部分数据;
select * from test limit 10;

到了这里,关于hive使用文件方式批量导入数据的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

原文地址:https://blog.csdn.net/liuyunaaaaaa/article/details/129390476

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包