Python SKLearn拟合值错误输入

Question

我正在尝试将一些数据适合并转换为稍后在模型中使用的分类器，但它总是给我一个错误，我不明白为什么。 请问有人可以帮我吗？

##stores the function Pipeline with parameters decided above    
inputPipe = getPreProcPipe(normIn=normIn, pca=pca, pcaN=pcaN, whiten=whiten)
print inputPipe
print

#print devData[classTrainFeatures].values.astype('float32')

print devData[classTrainFeatures].shape
print type(devData[classTrainFeatures].values)

##fit pipeline to inputs features and types
inputPipe.fit(devData[classTrainFeatures].values.astype('float32'))

##transform inputs X
X_class = inputPipe.transform(devData[classTrainFeatures].values.astype(double))
## Output Y, i.e, 0 or 1 as it is the target
Y_class = devData['gen_target'].values.astype('int')
#print Y_class

输出:

Pipeline(memory=None,
 steps=[('pca', PCA(copy=True, iterated_power='auto', n_components=None, random_state=None,
svd_solver='auto', tol=0.0, whiten=False)), ('normPCA', StandardScaler(copy=True, with_mean=True, with_std=True))])

(32583, 2)
<type 'numpy.ndarray'>

代码末尾错误:

ValueError: Input contains NaN, infinity or a value too large for dtype('float32').

Code

Error part 1

Error part 2

Answer 1

您必须检查您使用的数据(而不是代码)是否包含 NaN (不是数字值)，在 numpy 中，有函数 .isnan() ( https://docs.scipy.org/doc/numpy/reference/generated/numpy.isnan.html )这个How to get the indices list of all NaN value in numpy array?

还可以使用 .isinf() 检查无限值

在此 Kaggle 内核中是用于在数据集中填充 NaN 和 Infs 的示例代码，然后将其用于分类器 https://www.kaggle.com/mknorps/titanic-with-decision-trees ，另请参阅 https://datascience.stackexchange.com/questions/25924/difference-between-interpolate-and-fillna-in-pandas?rq=1对于插值()

删除包含 NaN 和 Infs 的行的方法是

indx = devData[classTrainFeatures].index[devData[classTrainFeatures].apply(np.isnan)]
devData=devData.drop(devData.index[indx]).copy()
devData=devData.reset_index(drop=True)

(获取 NaN 的索引，使用该索引删除包含 NaN 的所有行，重置数据帧的索引)