sql - 如何通过在配置单元的分区表中选择另一列来覆盖列值

标签 sql hadoop hive hiveql hadoop-partitioning

嗨,如何通过在配置单元中选择相同的分区表来覆盖列值。

我通过执行以下查询创建了表

CREATE TABLE user (fname string,lname string) partitioned By (day int);

在将数据插入表后,我插入数据。 我执行了如下所示的选择查询:

AA  AA  20170201
BB  BB  20170201
CC  CC  20170201
DD  DD  20170202
EE  EE  20170203

根据我的要求,我想在我添加的以下查询的帮助下向我的表(用户)添加一列。

ALTER TABLE user ADD COLUMNS ( day2 int);

添加列后,我的表格如下所示

AA  AA  NULL    20170201
BB  BB  NULL    20170201
CC  CC  NULL    20170201
DD  DD  NULL    20170202
EE  EE  NULL    20170203

但我想要像这样的表格。

AA  AA  20170201    20170202
BB  BB  20170201    20170202
CC  CC  20170201    20170202
DD  DD  20170202    20170202
EE  EE  20170203    20170203

所以我执行了下面的查询

insert overwrite table user partition (day)
select
    fname,
    lname,
    day as day2,
    case 
        when day <= 20170202 then 20170202
        when day > 20170202 then day
    end as day
from user;

然后我执行了如下选择查询

select * from user;

结果是:

AA  AA  NULL    20170201
BB  BB  NULL    20170201
CC  CC  NULL    20170201
AA  AA  NULL    20170202
BB  BB  NULL    20170202
CC  CC  NULL    20170202
DD  DD  NULL    20170202
EE  EE  NULL    20170203

为什么我得到空值。请让我知道我错过了什么,让我知道如何实现这个。即

   AA   AA  20170201    20170202
    BB  BB  20170201    20170202
    CC  CC  20170201    20170202
    DD  DD  20170202    20170202
    EE  EE  20170203    20170203

最佳答案

Following the behaviour of partitioned Hive Table, HiVE's schema definitions are maintained at partition level.So older partition may not have received schema updates.

详细查询

hive> drop table test_insert;
OK
hive> CREATE TABLE test_insert (fname string,lname string) partitioned By (day int);
OK
hive> insert into test_insert partition (day=20170202) values('f','l');
OK
hive> insert into test_insert partition (day=20170203) values('f','l');
OK
hive> select * from test_insert;
OK
f   l   20170202
f   l   20170203
Time taken: 0.148 seconds, Fetched: 2 row(s)
hive> ALTER TABLE test_insert ADD COLUMNS ( day2 int);
OK
Time taken: 0.193 seconds
hive> select * from test_insert;
OK
   f    l   NULL    20170202
   f    l   NULL    20170203

此时,请注意分区表的架构在分区级别维护,它应该遵循分区架构而不是表架构。

请注意此处各列的不同之处。 ALTER 没有更改现有分区的列定义。

  hive> describe formatted test_insert;
    OK
    # col_name              data_type               comment             

    fname                   string                                      
    lname                   string                                      
    day2                    int                                         

    # Partition Information      
    # col_name              data_type               comment             

    day                     int    

    hive> describe formatted test_insert partition (day=20170202);
    OK
    # col_name              data_type               comment             

    fname                   string                                      
    lname                   string                                      

    # Partition Information      
    # col_name              data_type               comment             

    day                     int                           

调整了上面的查询,创建了新的分区,这样模式就会从表复制到新创建的分区。

 hive> insert overwrite table test_insert partition (day)
        > select
        >     fname,
        >     lname,
        >     day as day2,
        >     case 
        >         when day <= 20170202 then 19999999
        >         when day > 20170202 then day
        >     end as day
        > from test_insert;


    hive> select * from test_insert;
    OK
    f   l   20170202    19999999
    f   l   NULL    20170202
    f   l   NULL    20170203
    Time taken: 0.224 seconds, Fetched: 3 row(s)

希望这是清楚的。! 如果您想更改所有现有分区的架构,请尝试使用以下命令,然后尝试插入。

ALTER TABLE test_insert  partition(day) ADD COLUMNS ( day2 string);

关于sql - 如何通过在配置单元的分区表中选择另一列来覆盖列值,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/42133115/

相关文章:

sql - Django:ManyToManyField,带有附加列

hadoop - 如何从Mapreduce中的Excel文件读取?

hadoop - 是否有任何 API 可以在给定文件路径的情况下按顺序获取文件的 blockIds?

hadoop - Hive 表列日期格式

hadoop - hive :提取数据时出错

sql注入(inject)谁能给我解释一下这段代码

mysql - SQL查询确实很慢,如何改进?

sql - 在 SQL Server 中创建索引时收到警告消息

hadoop - Oozie 安装 - oozied.sh 启动时出错

hadoop - 在配置单元 "Unable to retrieve URL for Hadoop Task logs. Does not contain a valid host:port authority: local"上出现错误