我想通过替换子字符串对 Spark Dataframe 列执行一些基本的词干提取。最快的方法是什么?
在我当前的用例中,我有一个要规范化的地址列表。例如这个数据框:
id address
1 2 foo lane
2 10 bar lane
3 24 pants ln
会变成
id address
1 2 foo ln
2 10 bar ln
3 24 pants ln
最佳答案
对于 Spark 1.5 或更高版本,您可以使用 functions包装:
from pyspark.sql.functions import *
newDf = df.withColumn('address', regexp_replace('address', 'lane', 'ln'))
快速解释:
- 调用函数
withColumn
以向数据框中添加(或替换,如果名称存在)一列。 - 函数
regexp_replace
将通过替换所有匹配模式的子字符串来生成一个新列。
关于python - Pyspark 替换 Spark 数据框列中的字符串,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/37038014/