serialization - Spark kryo 序列化寄存器 Datatype[]

标签 serialization apache-spark kryo

要强制 Spark 使用 kryo 序列化,可以设置以下选项 spark.kryo.registrationRequired

如何注册org.apache.spark.sql.types.DataType[]

Class is not registered: org.apache.spark.sql.types.DataType[]

抛出异常。但尝试像 classOf[org.apache.spark.sql.types.DataType[]] 那样注册将无法编译

最佳答案

我对 java 和 scala 数组表示法感到困惑。

classOf[Array[org.apache.spark.sql.types.DataType]] 

是正确的注册。

尽管如此,这是一个 Spark 内部类,应该已经被 Spark 注册了。

关于serialization - Spark kryo 序列化寄存器 Datatype[],我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/41171015/

相关文章:

scala - 如何在 spark-shell 中注册 kryo 类

java - 如何为 Kryo Serializer 注册多个类? (例如包中的所有类)

c# - TextWriter 序列化为 UTF-8 字符串

c# - 如何获取 Web API IHttpActionResult 响应并序列化 c#

python - 如何使用 Django REST 序列化程序对保留键进行验证?

hadoop - 如何在 Apache Spark 中重新分区压缩文件?

c# - 在反序列化过程中有选择地转义字符串中的 HTML

scala - EC2 上的 Spark Streaming : Exception in thread "main" java. lang.ExceptionInInitializerError

apache-spark - UDF 将单词映射到 Spark 中的术语索引

java - 在 kryonet 中发送和接收数组