SVM（支持向量机）属于神经网络范畴吗？
Corina Cortes和Vapnik那篇引用了一万七千多次的文章标题很好地回答了这个问题： 不过其实没必要纠结名字的。。。 具体地说，线性SVM的计算部分和一个单层神经网络一样，就是一个矩阵乘积。SVM的关键在于它的Hinge Loss以及maximum margin的想法。其实这个loss也是可以用在神经网络里的（参见object detection的R-CNN方法）。 对于处理非线性数据，SVM和神经网络走了两条不同的道路：神经网络通过多个隐层的方法来实现非线性的函数，有一些理论支持（比如说带隐层的神经网络可以模拟任何函数），但是目前而言还不是非常完备；SVM则采用了kernel trick的方法，这个在理论上面比较完备（RKHS，简单地说就是一个泛函的线性空间）。两者各有好坏，神经网络最近的好处是网络设计可以很灵活，但是老被人说跳大神；SVM的理论的确漂亮，但是kernel设计不是那么容易，所以最近没有那么热了。 另外八卦一下，神经网络的大佬Yann LeCun和SVM大佬Vapnik很久以前就关系不错，Yann的主页上还可以找到他们一起搞怪的图片（搜“all your bayes”）： 最近Vapnik又去Facebook Research了，大家都好有research的基情啊。哦不，激情啊。