python - 使用 python 从基于 DataFrame 的 2 个向量的函数创建一个新字段

Question

我有一个 DataFrame，希望使用一个函数基于计算创建一个新字段，该函数采用从 DataFrame 的一行中获取的 2 个向量。

例如，我的数据如下所示；

df = pd.DataFrame({
    "A": [1,2,3,4,5],
    "B": [6,7,8,9,10],
    "C": [7,8,1,9,10],
    "D": [2,3,4,5,6],
 })

我想逐行计算[A,B].[C,D]的cosine_similarity，然后将结果输出为新的列E

我的功能如下；

import sklearn as sk
from sklearn.metrics import pairwise as pw

def similarity(Vec1, Vec2):
    return pw.cosine_similarity(Vec1,Vec2)

我正在考虑使用 map 和 lambda 函数，目前有以下功能。这里的问题是，这是计算沿列的余弦相似度，而不是跨列的余弦相似度。我真的希望能够使用索引来做到这一点，这样我就可以选择我需要的字段，以防字段数量变得非常大!

df['E'] = map(lambda x,y : similarity(x,y), df.iloc[:,2:], df.iloc[:,:2])

Answer 1

这是一种方法:

import numpy as np
import sklearn as sk
from sklearn.metrics import pairwise as pw

df = pd.DataFrame({
    "A": [1,2,3,4,5],
    "B": [6,7,8,9,10],
    "C": [7,8,1,9,10],
    "D": [2,3,4,5,6],
 })

df['E'] = df.apply(lambda row: pw.cosine_similarity(np.array([row['A'], row['B']]),
                   np.array([row['C'], row['D']]))[0][0], axis=1)

#    A   B   C  D         E
# 0  1   6   7  2  0.429057
# 1  2   7   8  3  0.594843
# 2  3   8   1  4  0.993533
# 3  4   9   9  5  0.798815
# 4  5  10  10  6  0.843661

更容易扩展的解决方案:

df['E'] = [pw.cosine_similarity(i, j)[0][0] for i, j in \
           zip(df[df.columns[:2]].values, df[df.columns[2:]].values)]

功能替代:

df['E'] = list(map(lambda i, j: pw.cosine_similarity(i, j)[0][0],
                   df[df.columns[:2]].values,
                   df[df.columns[2:]].values))