python - 在 Pandas 中将 rolling_apply 与需要 2 个参数的函数一起使用

标签 python numpy pandas scipy dataframe

我正在尝试将 rollapply 与需要 2 个参数的公式一起使用。据我所知,计算 kendall tau 相关性(包括标准关系校正)的唯一方法(除非您从头开始创建公式)是:

>>> import scipy
>>> x = [5.05, 6.75, 3.21, 2.66]
>>> y = [1.65, 26.5, -5.93, 7.96]
>>> z = [1.65, 2.64, 2.64, 6.95]
>>> print scipy.stats.stats.kendalltau(x, y)[0]
0.333333333333

我也知道 rollapply 和采用两个参数的问题,如此处记录:

尽管如此,我仍在努力寻找一种方法来在滚动的基础上对具有多列的数据框进行 kendalltau 计算。

我的数据框是这样的

A = pd.DataFrame([[1, 5, 1], [2, 4, 1], [3, 3, 1], [4, 2, 1], [5, 1, 1]], 
                 columns=['A', 'B', 'C'], index = [1, 2, 3, 4, 5])

尝试创建一个执行此操作的函数

In [1]:function(A, 3)  # A is df, 3 is the rolling window
Out[2]:
   A  B  C     AB     AC     BC  
1  1  5  2    NaN    NaN    NaN
2  2  4  4    NaN    NaN    NaN
3  3  3  1  -0.99  -0.33   0.33
4  4  2  2  -0.99  -0.33   0.33
5  5  1  4  -0.99   0.99  -0.99

在一个非常初步的方法中,我接受了这样定义函数的想法:

def tau1(x):
    y = np.array(A['A']) #  keep one column fix and run it in the other two
    tau, p_value = sp.stats.kendalltau(x, y)
    return tau

 A['AB'] = pd.rolling_apply(A['B'], 3, lambda x: tau1(x))

当然没用。我得到了:

ValueError: all keys need to be the same shape

我明白这不是一个小问题。我感谢任何意见。

最佳答案

As of Pandas 0.14 , rolling_apply 仅将 NumPy 数组传递给函数。一种可能的解决方法是将 np.arange(len(A)) 作为第一个参数传递给 rolling_apply,以便 tau 函数接收 < em>您希望使用的行的索引。然后在 tau 函数中,

B = A[[col1, col2]].iloc[idx]

返回一个包含所有所需行的 DataFrame。


import numpy as np
import pandas as pd
import scipy.stats as stats
import itertools as IT

A = pd.DataFrame([[1, 5, 2], [2, 4, 4], [3, 3, 1], [4, 2, 2], [5, 1, 4]], 
                 columns=['A', 'B', 'C'], index = [1, 2, 3, 4, 5])

for col1, col2 in IT.combinations(A.columns, 2):
    def tau(idx):
        B = A[[col1, col2]].iloc[idx]
        return stats.kendalltau(B[col1], B[col2])[0]
    A[col1+col2] = pd.rolling_apply(np.arange(len(A)), 3, tau)

print(A)    

产量

   A  B  C  AB        AC        BC
1  1  5  2 NaN       NaN       NaN
2  2  4  4 NaN       NaN       NaN
3  3  3  1  -1 -0.333333  0.333333
4  4  2  2  -1 -0.333333  0.333333
5  5  1  4  -1  1.000000 -1.000000

关于python - 在 Pandas 中将 rolling_apply 与需要 2 个参数的函数一起使用,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/25675301/

相关文章:

python - 查找每行中最后一列匹配模式

python - 使用堆叠 conda 环境

python - 行的 Pandas 最大值,前 n 最大值

python - 如何从 pandas 框架中的特定列中提取 numpy 数组并将它们堆叠为单个 numpy 数组

python - Python中内存高效的大量numpy数组

python - 将矩阵转换为对角矩阵

mysql - SQL:当一列中的值与不同列中的另一个值出现在同一行中时进行计数

python - OBD II 不断发送 "7F 01 12"

python - 如何使用 Python Mock 断言方法调用顺序?

python - 比较数据框中的行