hive支持mongodb具体的连接方法

发布时间:2020-06-30 11:50:20 作者:清晨
来源:亿速云 阅读:563

这篇文章将为大家详细讲解有关hive支持mongodb具体的连接方法,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。

hive支持mongodb,具体的连接方法如下:

创建基于MongoDB的Hive表是通过MongoStorageHandler来处理的。它同样处理从Hive表里查询与插入数据(通过select与insert)。

CREATE [EXTERNAL] TABLE <tablename>
(<schema>)
STORED BY 'com.mongodb.hadoop.hive.MongoStorageHandler'
[WITH SERDEPROPERTIES('mongo.columns.mapping'='<JSON mapping>')]
TBLPROPERTIES('mongo.uri'='<MongoURI>');

有两种方式来指定所需连接的Mongo Collection。

1. 在上述示例里面,通过mongo.uri这个表属性来指定,属性的值填入的是MongoDB connection string,通过它来指向具体的collection。这种方式会将这个URI存入表的metadata里面,如果需要填写连接的一些认证信息(如username:password等),该方式不太适合。

2. 第二种方式是把connection string填入一个properties文件,如:

# HiveTable.properties
mongo.input.uri=mongodb://...

然后提供这个文件的路径给mongo.properties.path这个表参数,如

CREATE TABLE ...
TBLPROPERTIES('mongo.properties.path'='HiveTable.properties')

备注:在创建相应Hive表时所引用的MongoDB collection不一定要空的。

在创建Hive表的时候,也可以选择性的指定MongoDB collection里的字段与Hive的列字段或struct字段的映射。指定的方式是在SERDEPROPERTIES里通过mongo.columns.mapping属性来指定。在创建基于BSON文件的Hive表时也可以用到。

如果创建的表是EXTERNAL的,那么在Hive里删除这张表时,不会影响MongoDB里面的数据,只会删除这张表的metadata。如果没有指定EXTERNAL,那么删除表的时候会连带MongoDB里的数据一并删除,因此最好是指定创建的表为EXTERNAL。

关于hive支持mongodb具体的连接方法就分享到这里了,希望以上内容可以对大家有一定的帮助,可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到。

推荐阅读:
  1. dbeaver连接hive的教程
  2. mongodb的连接

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

mongodb hive %d

上一篇:如何将程序快捷方式或脚本添加到启动项以实现自启动?

下一篇:关于python定义的类使用方法

相关阅读

您好,登录后才能下订单哦!

密码登录
登录注册
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》