java - Spark flatMapToPair 创建不同类型的键

标签 java apache-spark flatmap

对于使用 spark java API 的以下代码:

JavaPairRDD<TypeOne,Long> pairs = originalRows.flatMapToPair(new PairFlatMapFunction<OriginalType,TypeOne,Long>()

它采用名为 OriginalTypeRDD 并将其映射为键类型为 TypeOne 的对。

我想知道是否可以采用 OriginalType 并在映射步骤中将其映射为两种类型的键?就像 TypeOneTypeTwo 一样。或者我必须使用两个映射步骤来实现这一点...

最佳答案

您可以创建两个类型都将实现/继承的接口(interface)或通用类,并使用它而不是特定类型。

public interface IType { }

public class TypeOne implements IType { }

public class TypeTwo implements IType { }

JavaPairRDD<IType,Long> pairs = originalRows.flatMapToPair(new PairFlatMapFunction<OriginalType,IType,Long>()

关于java - Spark flatMapToPair 创建不同类型的键,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/29260756/

相关文章:

java - 不重复的除数/除数之和

java - Spring Data REST 在哪里构建异常 JSON 回复?

postgresql - 斯卡拉java.lang.NoClassDefFoundError : org/postgresql/Driver

angular - 组合两个可观察量然后转换结果

java - 拆分字符串、对其进行平面映射并使用 Java 流创建对象?

java - eclipse 错误地将包解释为 "resources"或源文件夹

java - 如何使用netty打开连接,并立即将数据发送到我连接的主机?

scala - 如何并行化 RDD?

apache-spark - PySpark 截断小数

scala - 如何 flatMap cats Applicatives