python - 如何旋转数据框

标签 python pandas group-by pivot pandas-groupby

什么是pivot?
我该如何旋转?
这是支点吗?
长格式到宽格式?
我见过很多关于透视表的问题。即使他们不知道他们在询问透视表,他们通常是。几乎不可能写出一个包含旋转所有方面的标准问答。。。。
... 但我要试一试。
现有的问题和答案的问题是,问题往往集中在OP难以概括的细微差别,以便使用现有的许多好答案。然而,没有一个答案试图给出一个全面的解释(因为这是一项艰巨的任务)
看看我的google search中的几个例子
How to pivot a dataframe in Pandas?
好的问题和答案。但答案只回答了具体问题,几乎没有解释。
pandas pivot table to data frame
在这个问题中,OP与pivot的输出有关。也就是柱子的样子。OP希望它看起来像R。这对熊猫用户没有太大帮助。
pandas pivoting a dataframe, duplicate rows
另一个不错的问题,但答案集中在一种方法上,即pd.DataFrame.pivot
因此,每当有人搜索pivot时,他们都会得到零星的结果,这些结果很可能无法回答他们的特定问题。
安装程序
您可能会注意到,我显著地命名了我的列和相关的列值,以对应于下面的答案中我将如何旋转。请注意,这样您就可以熟悉哪些列名要到哪里才能得到您要查找的结果。

import numpy as np
import pandas as pd
from numpy.core.defchararray import add

np.random.seed([3,1415])
n = 20

cols = np.array(['key', 'row', 'item', 'col'])
arr1 = (np.random.randint(5, size=(n, 4)) // [2, 1, 2, 1]).astype(str)

df = pd.DataFrame(
    add(cols, arr1), columns=cols
).join(
    pd.DataFrame(np.random.rand(n, 2).round(2)).add_prefix('val')
)
print(df)

     key   row   item   col  val0  val1
0   key0  row3  item1  col3  0.81  0.04
1   key1  row2  item1  col2  0.44  0.07
2   key1  row0  item1  col0  0.77  0.01
3   key0  row4  item0  col2  0.15  0.59
4   key1  row0  item2  col1  0.81  0.64
5   key1  row2  item2  col4  0.13  0.88
6   key2  row4  item1  col3  0.88  0.39
7   key1  row4  item1  col1  0.10  0.07
8   key1  row0  item2  col4  0.65  0.02
9   key1  row2  item0  col2  0.35  0.61
10  key2  row0  item2  col1  0.40  0.85
11  key2  row4  item1  col2  0.64  0.25
12  key0  row2  item2  col3  0.50  0.44
13  key0  row4  item1  col4  0.24  0.46
14  key1  row3  item2  col3  0.28  0.11
15  key0  row3  item1  col1  0.31  0.23
16  key0  row0  item2  col3  0.86  0.01
17  key0  row4  item0  col3  0.64  0.21
18  key2  row2  item2  col0  0.13  0.45
19  key0  row2  item0  col4  0.37  0.70

问题
为什么我得到ValueError: Index contains duplicate entries, cannot reshape
如何旋转df使col值为列,row值为索引,val0的平均值为值?
col   col0   col1   col2   col3  col4
row                                  
row0  0.77  0.605    NaN  0.860  0.65
row2  0.13    NaN  0.395  0.500  0.25
row3   NaN  0.310    NaN  0.545   NaN
row4   NaN  0.100  0.395  0.760  0.24

如何旋转df使col值为列,row值为索引,val0的平均值为值,缺少的值为0
col   col0   col1   col2   col3  col4
row                                  
row0  0.77  0.605  0.000  0.860  0.65
row2  0.13  0.000  0.395  0.500  0.25
row3  0.00  0.310  0.000  0.545  0.00
row4  0.00  0.100  0.395  0.760  0.24

我能不能买点别的东西,比如说mean
col   col0  col1  col2  col3  col4
row                               
row0  0.77  1.21  0.00  0.86  0.65
row2  0.13  0.00  0.79  0.50  0.50
row3  0.00  0.31  0.00  1.09  0.00
row4  0.00  0.10  0.79  1.52  0.24

我可以一次多做一个聚合吗?
       sum                          mean                           
col   col0  col1  col2  col3  col4  col0   col1   col2   col3  col4
row                                                                
row0  0.77  1.21  0.00  0.86  0.65  0.77  0.605  0.000  0.860  0.65
row2  0.13  0.00  0.79  0.50  0.50  0.13  0.000  0.395  0.500  0.25
row3  0.00  0.31  0.00  1.09  0.00  0.00  0.310  0.000  0.545  0.00
row4  0.00  0.10  0.79  1.52  0.24  0.00  0.100  0.395  0.760  0.24

我可以聚合多个值列吗?
      val0                             val1                          
col   col0   col1   col2   col3  col4  col0   col1  col2   col3  col4
row                                                                  
row0  0.77  0.605  0.000  0.860  0.65  0.01  0.745  0.00  0.010  0.02
row2  0.13  0.000  0.395  0.500  0.25  0.45  0.000  0.34  0.440  0.79
row3  0.00  0.310  0.000  0.545  0.00  0.00  0.230  0.00  0.075  0.00
row4  0.00  0.100  0.395  0.760  0.24  0.00  0.070  0.42  0.300  0.46

可以按多个列细分吗?
item item0             item1                         item2                   
col   col2  col3  col4  col0  col1  col2  col3  col4  col0   col1  col3  col4
row                                                                          
row0  0.00  0.00  0.00  0.77  0.00  0.00  0.00  0.00  0.00  0.605  0.86  0.65
row2  0.35  0.00  0.37  0.00  0.00  0.44  0.00  0.00  0.13  0.000  0.50  0.13
row3  0.00  0.00  0.00  0.00  0.31  0.00  0.81  0.00  0.00  0.000  0.28  0.00
row4  0.15  0.64  0.00  0.00  0.10  0.64  0.88  0.24  0.00  0.000  0.00  0.00

或者
item      item0             item1                         item2                  
col        col2  col3  col4  col0  col1  col2  col3  col4  col0  col1  col3  col4
key  row                                                                         
key0 row0  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.86  0.00
     row2  0.00  0.00  0.37  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.50  0.00
     row3  0.00  0.00  0.00  0.00  0.31  0.00  0.81  0.00  0.00  0.00  0.00  0.00
     row4  0.15  0.64  0.00  0.00  0.00  0.00  0.00  0.24  0.00  0.00  0.00  0.00
key1 row0  0.00  0.00  0.00  0.77  0.00  0.00  0.00  0.00  0.00  0.81  0.00  0.65
     row2  0.35  0.00  0.00  0.00  0.00  0.44  0.00  0.00  0.00  0.00  0.00  0.13
     row3  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.28  0.00
     row4  0.00  0.00  0.00  0.00  0.10  0.00  0.00  0.00  0.00  0.00  0.00  0.00
key2 row0  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.40  0.00  0.00
     row2  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.13  0.00  0.00  0.00
     row4  0.00  0.00  0.00  0.00  0.00  0.64  0.88  0.00  0.00  0.00  0.00  0.00

我可以汇总列和行一起出现的频率,也就是“交叉表”吗?
col   col0  col1  col2  col3  col4
row                               
row0     1     2     0     1     1
row2     1     0     2     1     2
row3     0     1     0     2     0
row4     0     1     2     2     1

如何通过仅在两列上旋转将数据帧从长转换为宽?鉴于,
np.random.seed([3, 1415])
df2 = pd.DataFrame({'A': list('aaaabbbc'), 'B': np.random.choice(15, 8)})        
df2        
   A   B
0  a   0
1  a  11
2  a   2
3  a  11
4  b  10
5  b  10
6  b  14
7  c   7

预期的应该看起来像
      a     b    c
0   0.0  10.0  7.0
1  11.0  10.0  NaN
2   2.0  14.0  NaN
3  11.0   NaN  NaN

如何在sum

   1  2   
   1  1  2        
a  2  1  1
b  2  1  0
c  1  0  0


   1|1  2|1  2|2               
a    2    1    1
b    2    1    0
c    1    0    0

最佳答案

我们首先回答第一个问题:
问题1
为什么我得到ValueError: Index contains duplicate entries, cannot reshape
发生这种情况的原因是pandas试图用重复条目重新索引columnsindex对象。可以使用各种方法来执行轴心点。其中一些不太适合当有重复的键被要求在其中旋转时。例如。考虑pd.DataFrame.pivot。我知道有重复的条目共享rowcol值:

df.duplicated(['row', 'col']).any()

True

所以当我使用
df.pivot(index='row', columns='col', values='val0')

我知道上面提到的错误。事实上,当我尝试执行相同的任务时,会遇到相同的错误:
df.set_index(['row', 'col'])['val0'].unstack()

下面是一个我们可以用来转换的习惯用法列表
pivot+pd.DataFrame.groupby
对任何类型的枢轴都是很好的通用方法
指定将构成一个分组依据中的透视行级别和列级别的所有列。然后,选择要聚合的其余列和要执行聚合的函数。最后,您需要pd.DataFrame.unstack列索引中的级别。
unstack
一个美化版的pd.DataFrame.pivot_table具有更直观的API。对许多人来说,这是首选的方法。是开发人员的预期方法。
指定行级别、列级别、要聚合的值以及要执行聚合的函数。
groupby+pd.DataFrame.set_index
对某些人来说方便直观(包括我自己)。无法处理重复的分组键。
pd.DataFrame.unstack范例类似,我们指定最终将成为行或列级别的所有列,并将这些列设置为索引。然后我们将groupby列中所需的级别。如果剩余的索引级别或列级别不唯一,则此方法将失败。
unstack
pd.DataFrame.pivot非常相似,因为它共享重复密钥限制。API也非常有限。它只接受set_indexindexcolumns的标量值。
类似于values方法,我们选择要在其上进行透视的行、列和值。但是,我们不能聚合,如果行或列不是唯一的,则此方法将失败。
pivot_table
这是pd.crosstab的一个专门版本,以最纯粹的形式是执行多个任务的最直观的方式。
pivot_table+pd.factorize
这是一项非常先进的技术,虽然很模糊,但速度很快。它不能在任何情况下都使用,但当它可以使用并且您使用起来很舒服时,您将获得性能奖励。
np.bincount+pd.get_dummies
我用这个来巧妙地做交叉表。
实例
我接下来要做的是使用pd.DataFrame.dot来回答每个后续的答案和问题。然后我将提供执行相同任务的替代方案。
问题3
如何旋转pd.DataFrame.pivot_table使df值为列,col值为索引,row的平均值为值,缺少的值为val0
0
pd.DataFrame.pivot_table默认情况下未设置。我倾向于适当地设置它。在本例中,我将其设置为fill_value。注意,我跳过了问题2,因为它与此答案相同,没有0
fill_value是默认值,我不需要设置它。我把它写得很清楚。
df.pivot_table(
    values='val0', index='row', columns='col',
    fill_value=0, aggfunc='mean')

col   col0   col1   col2   col3  col4
row                                  
row0  0.77  0.605  0.000  0.860  0.65
row2  0.13  0.000  0.395  0.500  0.25
row3  0.00  0.310  0.000  0.545  0.00
row4  0.00  0.100  0.395  0.760  0.24

aggfunc='mean'
df.groupby(['row', 'col'])['val0'].mean().unstack(fill_value=0)

pd.DataFrame.groupby
pd.crosstab(
    index=df['row'], columns=df['col'],
    values=df['val0'], aggfunc='mean').fillna(0)

问题4
我能不能买点别的东西,比如说pd.crosstab
mean
df.pivot_table(
    values='val0', index='row', columns='col',
    fill_value=0, aggfunc='sum')

col   col0  col1  col2  col3  col4
row                               
row0  0.77  1.21  0.00  0.86  0.65
row2  0.13  0.00  0.79  0.50  0.50
row3  0.00  0.31  0.00  1.09  0.00
row4  0.00  0.10  0.79  1.52  0.24

sum
df.groupby(['row', 'col'])['val0'].sum().unstack(fill_value=0)

pd.DataFrame.pivot_table
pd.crosstab(
    index=df['row'], columns=df['col'],
    values=df['val0'], aggfunc='sum').fillna(0)

问题5
我可以一次多做一个聚合吗?
注意,对于pd.DataFrame.groupbypd.crosstab我需要传递可调用的列表。另一方面,pivot_table能够为有限数量的特殊函数获取字符串。cross_tab也可以使用我们传递给其他函数的相同的可调用函数,但是利用字符串函数名通常更有效,因为可以获得效率。
groupby.agg
df.pivot_table(
    values='val0', index='row', columns='col',
    fill_value=0, aggfunc=[np.size, np.mean])

     size                      mean                           
col  col0 col1 col2 col3 col4  col0   col1   col2   col3  col4
row                                                           
row0    1    2    0    1    1  0.77  0.605  0.000  0.860  0.65
row2    1    0    2    1    2  0.13  0.000  0.395  0.500  0.25
row3    0    1    0    2    0  0.00  0.310  0.000  0.545  0.00
row4    0    1    2    2    1  0.00  0.100  0.395  0.760  0.24

groupby.agg
df.groupby(['row', 'col'])['val0'].agg(['size', 'mean']).unstack(fill_value=0)

pd.DataFrame.pivot_table
pd.crosstab(
    index=df['row'], columns=df['col'],
    values=df['val0'], aggfunc=[np.size, np.mean]).fillna(0, downcast='infer')

问题6
我可以聚合多个值列吗?
pd.DataFrame.groupby我们通过了pd.crosstab但是我们可以完全不做
df.pivot_table(
    values=['val0', 'val1'], index='row', columns='col',
    fill_value=0, aggfunc='mean')

      val0                             val1                          
col   col0   col1   col2   col3  col4  col0   col1  col2   col3  col4
row                                                                  
row0  0.77  0.605  0.000  0.860  0.65  0.01  0.745  0.00  0.010  0.02
row2  0.13  0.000  0.395  0.500  0.25  0.45  0.000  0.34  0.440  0.79
row3  0.00  0.310  0.000  0.545  0.00  0.00  0.230  0.00  0.075  0.00
row4  0.00  0.100  0.395  0.760  0.24  0.00  0.070  0.42  0.300  0.46

pd.DataFrame.pivot_table
df.groupby(['row', 'col'])['val0', 'val1'].mean().unstack(fill_value=0)

问题7
可以按多个列细分吗?
values=['val0', 'val1']
df.pivot_table(
    values='val0', index='row', columns=['item', 'col'],
    fill_value=0, aggfunc='mean')

item item0             item1                         item2                   
col   col2  col3  col4  col0  col1  col2  col3  col4  col0   col1  col3  col4
row                                                                          
row0  0.00  0.00  0.00  0.77  0.00  0.00  0.00  0.00  0.00  0.605  0.86  0.65
row2  0.35  0.00  0.37  0.00  0.00  0.44  0.00  0.00  0.13  0.000  0.50  0.13
row3  0.00  0.00  0.00  0.00  0.31  0.00  0.81  0.00  0.00  0.000  0.28  0.00
row4  0.15  0.64  0.00  0.00  0.10  0.64  0.88  0.24  0.00  0.000  0.00  0.00

pd.DataFrame.groupby
df.groupby(
    ['row', 'item', 'col']
)['val0'].mean().unstack(['item', 'col']).fillna(0).sort_index(1)

问题8
可以按多个列细分吗?
pd.DataFrame.pivot_table
df.pivot_table(
    values='val0', index=['key', 'row'], columns=['item', 'col'],
    fill_value=0, aggfunc='mean')

item      item0             item1                         item2                  
col        col2  col3  col4  col0  col1  col2  col3  col4  col0  col1  col3  col4
key  row                                                                         
key0 row0  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.86  0.00
     row2  0.00  0.00  0.37  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.50  0.00
     row3  0.00  0.00  0.00  0.00  0.31  0.00  0.81  0.00  0.00  0.00  0.00  0.00
     row4  0.15  0.64  0.00  0.00  0.00  0.00  0.00  0.24  0.00  0.00  0.00  0.00
key1 row0  0.00  0.00  0.00  0.77  0.00  0.00  0.00  0.00  0.00  0.81  0.00  0.65
     row2  0.35  0.00  0.00  0.00  0.00  0.44  0.00  0.00  0.00  0.00  0.00  0.13
     row3  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.28  0.00
     row4  0.00  0.00  0.00  0.00  0.10  0.00  0.00  0.00  0.00  0.00  0.00  0.00
key2 row0  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.40  0.00  0.00
     row2  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.13  0.00  0.00  0.00
     row4  0.00  0.00  0.00  0.00  0.00  0.64  0.88  0.00  0.00  0.00  0.00  0.00

pd.DataFrame.groupby
df.groupby(
    ['key', 'row', 'item', 'col']
)['val0'].mean().unstack(['item', 'col']).fillna(0).sort_index(1)

pd.DataFrame.pivot_table因为这组键对于行和列都是唯一的
df.set_index(
    ['key', 'row', 'item', 'col']
)['val0'].unstack(['item', 'col']).fillna(0).sort_index(1)

问题9
我可以汇总列和行一起出现的频率,也就是“交叉表”吗?
pd.DataFrame.groupby
df.pivot_table(index='row', columns='col', fill_value=0, aggfunc='size')

    col   col0  col1  col2  col3  col4
row                               
row0     1     2     0     1     1
row2     1     0     2     1     2
row3     0     1     0     2     0
row4     0     1     2     2     1

pd.DataFrame.set_index
df.groupby(['row', 'col'])['val0'].size().unstack(fill_value=0)

pd.DataFrame.pivot_table
pd.crosstab(df['row'], df['col'])

pd.DataFrame.groupby+pd.cross_tab
# get integer factorization `i` and unique values `r`
# for column `'row'`
i, r = pd.factorize(df['row'].values)
# get integer factorization `j` and unique values `c`
# for column `'col'`
j, c = pd.factorize(df['col'].values)
# `n` will be the number of rows
# `m` will be the number of columns
n, m = r.size, c.size
# `i * m + j` is a clever way of counting the 
# factorization bins assuming a flat array of length
# `n * m`.  Which is why we subsequently reshape as `(n, m)`
b = np.bincount(i * m + j, minlength=n * m).reshape(n, m)
# BTW, whenever I read this, I think 'Bean, Rice, and Cheese'
pd.DataFrame(b, r, c)

      col3  col2  col0  col1  col4
row3     2     0     0     1     0
row2     1     2     1     0     2
row0     1     0     1     2     1
row4     2     2     0     1     1

pd.factorize
pd.get_dummies(df['row']).T.dot(pd.get_dummies(df['col']))

      col0  col1  col2  col3  col4
row0     1     2     0     1     1
row2     1     0     2     1     2
row3     0     1     0     2     0
row4     0     1     2     2     1

问题10
如何通过仅旋转两个数据帧将数据帧从长转换为宽
柱?
第一步是为每一行指定一个数字-这个数字将是数据透视结果中该值的行索引。这是使用np.bincount完成的:
df2.insert(0, 'count', df.groupby('A').cumcount())
df2

   count  A   B
0      0  a   0
1      1  a  11
2      2  a   2
3      3  a  11
4      0  b  10
5      1  b  10
6      2  b  14
7      0  c   7

问题11
如何在pd.get_dummies
如果GroupBy.cumcount键入带字符串的pivot
df.columns = df.columns.map('|'.join)

否则columns
df.columns = df.columns.map('{0[0]}|{0[1]}'.format) 

关于python - 如何旋转数据框,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/50468322/

相关文章:

python - 捕获远程 Linux 服务器的性能?

python - 在 Python "requests"模块中,如何检查服务器是否已关闭或 500?

python - 如何根据从一个数据帧到另一个数据帧的 2 个键找到最接近的匹配项?

MySQL PHP - 按日/月/年对结果进行分组?

Python:检查 Facebook 用户是否已授予访问我的应用程序的权限。 "HTTP Error 400: Bad Request"失败

Python:从命令行调用时如何启用 kwargs? (也许与 argparse)

python - 如何将字典中的列表表示为 Pandas 数据框中的一行?

pandas - 访问 Pandas 数据透视表中元素的正确方法

mysql - 按命名列分组

pandas - 按列表列中的元素对 Pandas Dataframe 进行分组