mysql - 将数据从 HDFS 导出到 MySQL,但在进入 MySQL 之前应更新数据

标签 mysql hadoop sqoop

我需要将数据从 MySQL 导入到 HDFS,我正在使用 Apache Sqoop 来做这件事。但问题是我还需要将数据从 HDFS 导出到 MySQL,并且我需要在将这些数据移动到 MySQL 之前更新这些数据的一列(即在 HDFS 中),我该怎么做?

最佳答案

您可以直接从 hdfs 更新列,并可以使用 INSER OVERWRITE DIRECTORY“路径”将配置单元输出存储到 HDFS,然后使用以下 sqoop 命令

 sqoop export \
--connect jdbc:mysql://master/poc \
--username root \
--table employee \
--export-dir /user/hdfs/mysql/export.txt \
--update-key id \
--update-mode allowinsert \
--fields-terminated-by '\t' \
-m 1

希望这有帮助..

关于mysql - 将数据从 HDFS 导出到 MySQL,但在进入 MySQL 之前应更新数据,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/53932012/

相关文章:

c++ - QSql数据库 : QMYSQL driver not loadedQSqlDatabase: available drivers: QSQLITE QODBC QODBC3 QPSQL QPSQL7

hadoop - 如何将配置单元连接到基于 Hadoop 2 的集群?

java - 无法从Hadoop MapReduce程序搜索Elasticsearch

hadoop - yarn 在 1 小时后自动杀死所有作业,没有错误

sql - 使用连接显示空行

php - 将一个表中的第一个值插入另一个表 Mysql PHP

php - 尝试为管理员/用户 PHP 创建登录名

java - MapReduce 作业的Reducer 中的奇怪行为

hadoop - Sqoop增量导入新记录

hbase - Sqoop --hbase-row-key选项是否支持多列组合