optimization - SVM和神经网络中的成本函数优化有何不同

标签 optimization machine-learning neural-network svm convex-optimization

SVM 和神经网络是非常流行的机器学习技术。但我读到,一个的优化函数是凸的,另一个是非凸的。

神经网络如何涉及优化非凸函数,而 SVM 如何涉及凸优化?

最佳答案

不确定我完全理解你的问题,但是关于 SVM 及其作为凸优化问题的观点 - 你可以阅读这篇简短的论文: http://www.cs.cmu.edu/~epxing/Class/10701-08s/recitation/svm.pdf

为什么人工神经网络的成本函数是非凸的,答案在这里(罗兰先生的回答特别好): https://stats.stackexchange.com/questions/106334/cost-function-of-neural-network-is-non-convex

关于optimization - SVM和神经网络中的成本函数优化有何不同,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/35338255/

相关文章:

neural-network - 训练深度神经网络时准确率突然下降

c++ - 我如何在 C 中要求 "at least"一个 int 的大小

math - 近似值 e^x

image - PNG 压缩

python - 涉及序列的任务需要多少个 RNN 单元?

tensorflow - 类似 MNIST 的问题。卷积神经网络

python - 为什么 AdamOptimizer 似乎没有应用正确的梯度?

python - Pytorch模型的超参数优化

neural-network - 神经网络不收敛 - 使用多层感知器

c++ - opencv C++ 神经网络 predict() 函数抛出 "Bad argument"错误