python - tensorflow 。如何张量板

Question

所以我有这段代码一直有效，直到我想让它为我绘制张量板:

import numpy as np
import tensorflow as tf
import tqdm
from sklearn.model_selection import train_test_split
from tensorflow.python.framework import ops

ops.reset_default_graph()

x = np.linspace(0, 10, 1000, dtype='float32')
y = np.sin(x) + np.random.normal(size=len(x))

X_train, X_test, y_train, y_test = train_test_split(x, y, test_size=.3)

x_ = tf.placeholder(name="input", shape=None, dtype=np.float32)
y_ = tf.placeholder(name="output", shape=None, dtype=np.float32)
w = tf.Variable(tf.random_normal([]), name='w')
b = tf.Variable(tf.random_normal([]), name='bias')

model_output = tf.add(tf.multiply(x_, w), b)

loss = tf.reduce_mean(tf.pow(y_ - model_output, 2), name='loss')
train_step = tf.train.GradientDescentOptimizer(0.0025).minimize(loss)

summary_writer = tf.summary.FileWriter('linreg')
for value in [x_, model_output, w, loss]:
    tf.summary.scalar(value.op.name, value)
summaries = tf.summary.merge_all()

n_epochs = 100
train_errors = []
test_errors = []

with tf.Session() as sess:
    sess.run(tf.global_variables_initializer())
    for i in tqdm.tqdm(range(n_epochs)):  # 100
        _, train_err = sess.run([train_step, loss],
                                feed_dict={x_: X_train, y_: y_train})
        train_errors.append(train_err)
        test_errors.append(
            sess.run(loss, feed_dict={x_: X_test, y_: y_test}))

        summary_writer.add_summary(sess.run(summaries), i)

有了这个我得到:

InvalidArgumentError (see above for traceback): You must feed a value for placeholder tensor 'input' with dtype float
     [[Node: input = Placeholder[dtype=DT_FLOAT, shape=[], _device="/job:localhost/replica:0/task:0/cpu:0"]()]]

所以如果我理解正确的话，它要求我输入 feed_dict，好吧，让我们修改最后一行:

summary_writer.add_summary(sess.run(summaries, feed_dict={x_: X_train, y_: y_train}), i)

现在我们有:

InvalidArgumentError (see above for traceback): tags and values not the same shape: [] != [700] (tag 'input_1')
     [[Node: input_1 = ScalarSummary[T=DT_FLOAT, _device="/job:localhost/replica:0/task:0/cpu:0"](input_1/tags, _recv_input_0)]]

所以，weight 想要和 x 一样的形状，我可以做到:

w = tf.Variable(tf.random_normal([700]), name='w')

但是 X_test 呢？它只有 300 行:

InvalidArgumentError (see above for traceback): Incompatible shapes: [300] vs. [700]
     [[Node: Mul = Mul[T=DT_FLOAT, _device="/job:localhost/replica:0/task:0/cpu:0"](_recv_input_0, w/read)]]

那么我应该动态改变 w 形状吗？或获取 w1 和 w2 进行训练和测试？如何张量板？

============================================= =========================

塑造时间。 在变量和占位符的形状规范之后:

x_ = tf.placeholder(name="input", shape=[None, 1], dtype=np.float32)
y_ = tf.placeholder(name="output", shape=[None, 1], dtype=np.float32)
w = tf.Variable(tf.random_normal([1, 1]), name='w')
b = tf.Variable(tf.random_normal([1]), name='bias')

我们可以看到输出数据也应该是正确的:

ValueError: Cannot feed value of shape (700,) for Tensor 'input:0', which has shape '(?, 1)'

所以最后一段代码看起来像这样(在数据上添加了 reshape ):

with tf.Session() as sess:
    sess.run(tf.global_variables_initializer())
    for i in tqdm.tqdm(range(n_epochs)):

        _, train_err, summ = sess.run([train_step, loss, summaries],
                                feed_dict={x_: X_train.reshape(len(X_train), 1), y_: y_train.reshape(len(y_train), 1)})
        summary_writer.add_summary(summ, i)

        train_errors.append(train_err)
        test_errors.append(
            sess.run(loss, feed_dict={x_: X_test.reshape(len(X_test), 1), y_: y_test.reshape(len(y_test), 1)}))

当前错误:

InvalidArgumentError (see above for traceback): tags and values not the same shape: [] != [1,1] (tag 'w_1')
         [[Node: w_1 = ScalarSummary[T=DT_FLOAT, _device="/job:localhost/replica:0/task:0/cpu:0"](w_1/tags, w/read)]]

现在，我什至不知道什么张量具有 [] 的形状。

============================================= ===============

结束时间。

tf.summary.scalar([value.op.name], value)

不行，因为 tf.summary.scalar 的 first/name 参数需要字符串或字节，否则会报错。

所以 name 无论如何都是 [] 的形状，让我们接受它并稍微更改代码:

w = tf.Variable(tf.random_normal([]), name='w')
b = tf.Variable(tf.random_normal([]), name='bias')
...
for value in [w, b, loss]:
    tf.summary.scalar(value.op.name, value)

终于成功了

Answer 1

x_ 是一个占位符，它将包含您的输入值。它在图表中没有任何固定值，它唯一的值是您提供的值。所以你只需要使用:

    summary_writer.add_summary(sess.run(summaries, feed_dict={x_: X_train, y_: y_train}), i)

但这样做会使您对所有内容进行两次计算。您应该使用的是:

_, train_err, summ = sess.run([train_step, loss, summaries],
                            feed_dict={x_: X_train, y_: y_train})
summary_writer.add_summary(summ, i)

这样您的训练步骤和汇总计算就会同时发生。

编辑:

看起来你只是有整形问题，只有 tensorboard 才能揭示这些问题......

• 您的占位符 x_ 应声明为 [None, n_features] 形状(此处为 n_features = 1，因此您也可以只使用 [None]。我真的不知道 None 是做什么的，也许你的问题来自于那也许不是......)

• y 的形状应该是 [None, n_outputs]，所以这里是 [None, 1]。可能 None 或 [None] 也有效。

• w 的形状应为 [n_features, n_outputs]，在您的情况下为 [1, 1]。您不能根据批量大小调整它的形状，这在机器学习方面是无稽之谈(至少如果您尝试从 x 学习 sin(x) > 单独而不是来自批处理的其余部分，这没有多大意义)

• b 的形状应该是 [n_outputs]，所以这里是 [1]。

如果指定所有这些形状是否有效？

编辑 2

这是一个整形问题。答案是 here ，看来你只需要更换

tf.summary.scalar(value.op.name, value)

与

tf.summary.scalar([value.op.name], value)