neural-network - 人工神经网络 : Choosing initial neurons

标签 neural-network

初始结构(神经元及其之间的连接)是如何选择的?我的书中仅指出,在训练网络之前,我们在一开始就赋予连接随机权重。

我认为我们会在训练过程中添加神经元,如下所示:

  1. 从完全空的网络开始
  2. 我在训练过程中生成的第一个值将不存在
  3. 添加一个神经元以对应于该值,并具有随机权重

最佳答案

你追求的是一个自组织的人工神经网络。通常,连接的组织方式是人为构建的模型,开发人员认为该模型具有足够的能力来执行必要的计算。您当然可以从随机选择具有随机连接的节点开始,但是这样的网络的演化可能会比标准的两层或三层网络花费更长的时间。

所以,是的,您是对的,在构建自组织网络时您会使用类似的方法。跟踪两组遗传算法,一组用于结构,一组用于权重(或以某种不正当的方式将两者结合起来)并根据您的喜好进行演变。

关于neural-network - 人工神经网络 : Choosing initial neurons,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/10204933/

相关文章:

python - theano中卷积神经网络的无监督预训练

python - 如何使用数组中文件名的前两个字母来标记图像?

machine-learning - 从Autoencoder中提取数据后是否需要再次对数据进行归一化?

python - 解释深度神经网络的训练轨迹 : very low training loss and even lower validation loss

python - TensorFlow MLP 不训练 XOR

optimization - SVM和神经网络中的成本函数优化有何不同

tensorflow - 如何在保存在Node.js上的浏览器中使用tensorflow.js加载模型和权重?

javascript - brain.js 神经网络的正确训练

neural-network - 如何在tensorflow.js中创建自己的层

machine-learning - 训练过程中出现Nans的常见原因