python - 计算 H2o 中的 MAPE : Error: Provided column type POSIXct is unknown

Question

按照我回答的问题:R or Python - loop the test data - Prediction validation next 24 hours (96 values each day)

我想使用 H2o 包预测第二天。 您可以在上面的相同链接中找到我的数据集的详细说明。

H2o 中的数据维度不同。

所以，做出预测后，我要计算MAPE

我必须将训练和测试数据更改为 H2o 格式

train_h2o <- as.h2o(train_data)

test_h2o <- as.h2o(test_data)

mape_calc <- function(sub_df) {
  pred <- predict.glm(glm_model, sub_df)
  actual <- sub_df$Ptot
  mape <- 100 * mean(abs((actual - pred)/actual))

  new_df <- data.frame(date = sub_df$date[[1]], mape = mape)

  return(new_df)
}

# LIST OF ONE-ROW DATAFRAMES
df_list <- by(test_data, test_data$date, map_calc)

# FINAL DATAFRAME
final_df <- do.call(rbind, df_list)

上面的代码适用于日前的“Non-H2o”预测验证，它计算每一天的 MAPE。

我尝试将 H2o 预测模型转换为正常格式，但根据:https://stackoverflow.com/a/39221269/9341589 , 这是不可能的。

对 H2O 进行预测:

例如，假设我们要创建一个随机森林模型

y <- "RealPtot" #target
x <- names(train_h2o) %>% setdiff(y) #features


rforest.model <- h2o.randomForest(y=y, x=x, training_frame = train_h2o, ntrees = 2000, mtries = 3, max_depth = 4, seed = 1122)

然后我们可以获得完整数据集的预测，如下所示。

predict.rforest <- as.data.frame(h2o.predict(rforest.model, test_h2o)

但就我而言，我正在尝试使用 mape_calc 进行一日预测

---

注意:任何关于 R 或 Python 的想法都将不胜感激。

UPDATE2(可重现示例):**按照@Darren Cook 的步骤:

我提供了一个更简单的示例 - 波士顿住房数据集。

library(tidyverse)
library(h2o)
h2o.init(ip="localhost",port=54322,max_mem_size = "128g")


data(Boston, package = "MASS")

names(Boston)
[1] "crim"    "zn"      "indus"   "chas"    "nox"     "rm"      "age"     "dis"     "rad"     "tax"     "ptratio"
[12] "black"   "lstat"   "medv"   


set.seed(4984)
#Added 15 minute Time and date interval 
Boston$date<- seq(as.POSIXct("01-09-2017 03:00", format = "%d-%m-%Y %H:%M",tz=""), by = "15 min", length = 506)

#select first 333 values to be trained and the rest to be test data
train = Boston[1:333,]
test = Boston[334:506,]

#Dropped the date and time
train_data_finialized  <- subset(train, select=-c(date))

test_data_finialized <- test

#Converted the dataset to h2o object.
train_h2o<- as.h2o(train_data_finialized)
#test_h2o<- as.h2o(test)

#Select the target and feature variables for h2o model
y <- "medv" #target
x <- names(train_data_finialized) %>% setdiff(y) #feature variables

# Number of CV folds (to generate level-one data for stacking)
nfolds <- 5

#Replaced RF model by GBM because GBM run faster
# Train & Cross-validate a GBM
my_gbm <- h2o.gbm(x = x,
                  y = y,
                          training_frame = train_h2o,
                          nfolds = nfolds,
                          fold_assignment = "Modulo",
                          keep_cross_validation_predictions = TRUE,
                          seed = 1)

mape_calc <- function(sub_df) {
  p <- h2o.predict(my_gbm, as.h2o(sub_df))
  pred <- as.vector(p)
  actual <- sub_df$medv
  mape <- 100 * mean(abs((actual - pred)/actual))
  new_df <- data.frame(date = sub_df$date[[1]], mape = mape)
  return(new_df)
}


# LIST OF ONE-ROW DATAFRAMES
df_list <- by(test_data_finialized, test_data_finialized$date, mape_calc)

final_df <- do.call(rbind, df_list)

这是我现在遇到的错误:

Error in .h2o.doSafeREST(h2oRestApiVersion = h2oRestApiVersion, urlSuffix = page, :

ERROR MESSAGE:

Provided column type POSIXct is unknown. Cannot proceed with parse due to invalid argument.

Answer 1

H2O 在与 R 不同的进程中运行(无论 H2O 在本地服务器上还是在远程数据中心)。 H2O 数据和 H2O 模型保存在 H2O 进程中，R 看不到。

什么 dH <- as.h2o(dR)做的是复制一个 R 数据框，dR , 进入 H2O 的内存空间。 dH然后是描述 H2O 数据帧的 R 变量。 IE。它是一个指针，或者一个句柄；它不是数据本身。

什么 dR <- as.data.frame(dH)所做的是将数据从 H2O 进程的内存复制到 R 进程的内存中。 (当 dH 描述单个列时 as.vector(dH) 做同样的事情)

因此，修改 mape_calc() 的最简单方法，假设 sub_df是一个R数据框，就是把前两行改成如下:

mape_calc <- function(sub_df) {
  p <- h2o.predict(rforest.model, as.h2o(sub_df))
  pred <- as.vector(p)

  actual <- sub_df$Ptot
  mape <- 100 * mean(abs((actual - pred)/actual))

  new_df <- data.frame(date = sub_df$date[[1]], mape = mape)

  return(new_df)
}

即上传sub_df给 H2O，然后给 h2o.predict() .然后使用 as.vector()下载所做的预测。

这与您的原始代码有关。所以保留这个的原始版本:

# LIST OF ONE-ROW DATAFRAMES
df_list <- by(test_data, test_data$date, map_calc)

即不要使用 by()直接在 test_h2o .

---

更新基于已编辑的问题:

我对您的示例代码做了两处更改。首先，我从 sub_df 中删除了日期列.这就是导致错误消息的原因。

第二个改变只是为了简化返回类型；不重要，但您最终以重复的日期列结束。

mape_calc <- function(sub_df) {
  sub_df_minus_date <- subset(sub_df, select=-c(date))
  p <- h2o.predict(my_gbm, as.h2o(sub_df_minus_date))
  pred <- as.vector(p)
  actual <- sub_df$medv
  mape <- 100 * mean(abs((actual - pred)/actual))
  data.frame(mape = mape)
}

---

旁白: h2o.predict()在处理一批数据进行预测时效率最高。放h2o.predict()循环内部是一种代码味道。你最好调用h2o.predict(rforest.model, test_h2o)一次，在循环外，然后将预测下载到 R 中，然后 cbind他们到 test_data，然后使用 by在该组合数据上。

更新这是您的示例更改为以这种方式工作:(我已将预测作为额外的列添加到测试数据中；当然还有其他方法可以做到这一点)

 test_h2o <- as.h2o(subset(test_data_finialized, select=-c(date)))
 p <- h2o.predict(my_gbm, test_h2o)
 test_data_finialized$pred = as.vector(p)

 mape_calc2 <- function(sub_df) {
   actual <- sub_df$medv
   mape <- 100 * mean(abs((actual - sub_df$pred)/actual))
   data.frame(mape = mape)
 }

 df_list <- by(test_data_finialized, test_data_finialized$date, mape_calc2)

您应该注意到它运行得更快。

其他更新:by()通过将第二个参数的相同值分组并将它们一起处理来工作。由于您的所有时间戳都不同，因此您一次处理一行。

查看 xts图书馆，例如apply.daily()对时间戳进行分组。但是对于想要按日期处理的简单情况，有一个简单的 hack。更改您的 by()线到:

df_list <- by(test_data_finialized, as.Date(test_data_finialized$date), mape_calc2)

使用 as.Date()将剥离时代。因此，同一天的所有行现在看起来都一样，并一起处理。

旁白 2: 如果您制作臭名昭著的 minimal example，您会得到更好的回应.然后人们可以运行你的代码，他们可以测试他们的答案。使用每个人都有的简单数据集通常也更好，例如虹膜，而不是您自己的数据。 (您可以对前 4 个字段中的任何一个进行回归；使用鸢尾花并不一定总是与预测物种有关。)

旁白 3:您可以完全在 H2O 内进行 MAPE，因为 abs()和 mean()函数将直接在 H2O 数据帧上工作(就像许多其他事情一样 - 请参阅 H2O 手册):https://stackoverflow.com/a/43103229/841830 (我没有将其标记为重复，因为您的问题是如何调整 by() 以用于 H2O 数据帧，而不是如何有效地计算 MAPE!)