资源经验分享机器学习笔记:支持向量机(svm)

机器学习笔记:支持向量机(svm)

2019-11-28 | |  56 |   0

原标题:机器学习笔记:支持向量机(svm)

原文来自:博客园      原文链接:https://www.cnblogs.com/igofreely/p/11181934.html


支持向量机(svm)英文为Support Vector Machines

第一次接触支持向量机是2017年在一个在线解密游戏“哈密顿行动”中的一个关卡的二分类问题,用到了台湾教授写的svm库libsvm ‘C#’版。支持向量机在深度学习之前统治了机器学习近10年,机器学习有个没有免费的午餐定理,意思是说没有一个算法在任何情况下都是最好的。

支持向量机的优势

  • 泛化性能比较好, 不容易过拟合

  • 可以在较少的数据下取得好的性能

  • 存在全局最优解

  • 存在高效实现的训练算法

  • 可以使用kernel trick处理非线性的问题

  • 理论非常完美

缺点

  • 当数据量特别大时,训练比较慢

SVM: 好的分割线具有最大间隔

01.png

svm是一个线性分类器,wx+b=0 wx+b=-1 wx+b=1,线性不可分的情况下使用松弛变量

02.png

k类扩展SVM到支持多个类别的方法:

  • 1对其他分类 :需要k个支持向量机,

  • 1对1分类:需要1+2+3+...+k=k*(k-1)/2个svm

Hinge Loss(合页损失函数)

03.png

将特征映射到更高的维度

04.png

免责声明:本文来自互联网新闻客户端自媒体,不代表本网的观点和立场。

合作及投稿邮箱:E-mail:editor@tusaishared.com

上一篇:kmeans均值聚类算法实现

下一篇:人工智能09 计划、动作和学习

用户评价
全部评价

热门资源

  • Python 爬虫(二)...

    所谓爬虫就是模拟客户端发送网络请求,获取网络响...

  • TensorFlow从1到2...

    原文第四篇中,我们介绍了官方的入门案例MNIST,功...

  • TensorFlow从1到2...

    “回归”这个词,既是Regression算法的名称,也代表...

  • 机器学习中的熵、...

    熵 (entropy) 这一词最初来源于热力学。1948年,克...

  • TensorFlow2.0(10...

    前面的博客中我们说过,在加载数据和预处理数据时...