初始结构(神经元及其之间的连接)是如何选择的?我的书中仅指出,在训练网络之前,我们在一开始就赋予连接随机权重。
我认为我们会在训练过程中添加神经元,如下所示:
- 从完全空的网络开始
- 我在训练过程中生成的第一个值将不存在
- 添加一个神经元以对应于该值,并具有随机权重
最佳答案
你追求的是一个自组织的人工神经网络。通常,连接的组织方式是人为构建的模型,开发人员认为该模型具有足够的能力来执行必要的计算。您当然可以从随机选择具有随机连接的节点开始,但是这样的网络的演化可能会比标准的两层或三层网络花费更长的时间。
所以,是的,您是对的,在构建自组织网络时您会使用类似的方法。跟踪两组遗传算法,一组用于结构,一组用于权重(或以某种不正当的方式将两者结合起来)并根据您的喜好进行演变。
关于neural-network - 人工神经网络 : Choosing initial neurons,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/10204933/