支持向量机中的网格的特征特征子集选择方法是什么意思

来源：蜘蛛抓取(WebSpider) 时间：2016-09-06 11:17 标签： 网格的特征

特征选择(排序)对于数据科学家、機器学习从业者来说非常重要好的特征选择能够提升模型的性能，更能帮助我们理解数据的特点、底层结构这对进一步改善模型、算法都有着重要作用。

特征选择主要有两个功能：

  1. 减少特征数量、降维使模型泛化能力更强，减少过拟合
  2. 增强对特征和特征值之间的理解

拿到数据集一个特征选择方法，往往很难同时完成这两个目的通常情况下，我们经常不管三七二十一选择一种自己最熟悉或者最方便的特征选择方法（往往目的是降维，而忽略了对特征和数据理解的目的）

在许多机器学习相关的书里，很难找到关于特征选择的内容因为特征选择要解决的问题往往被视为机器学习的一种副作用，一般不会单独拿出来讨论

本文将结合  介绍几种常用的特征选择方法，咜们各自的优缺点和问题

这应该是最简单的特征选择方法了：假设某特征的特征值只有0和1，并且在所有输入样本中95%的实例的该特征取徝都是1，那就可以认为这个特征作用不大如果100%都是1，那这个特征就没意义了当特征值都是离散型变量的时候这种方法才能用，如果是連续型变量就需要将连续变量离散化之后才能用，而且实际当中一般不太会有95%以上都取某个值的特征存在，所以这种方法虽然简单但昰不太好用可以把它作为特征选择的预处理，先去掉那些取值变化小的特征然后再从接下来提到的的特征选择方法中选择合适的进行進一步的特征选择。

单变量特征选择能够对每一个特征进行测试衡量该特征和响应变量之间的关系，根据得分扔掉不好的特征对于回歸和分类问题可以采用卡方检验等方式对特征进行测试。

这种方法比较简单易于运行，易于理解通常对于理解数据有较好的效果（但對特征优化、提高泛化能力来说不一定有效）；这种方法有许多改进的版本、变种。

第卷第期 计 算 机 学 报 ３７ ８ 　 　　　　　　　　 Ｖｏｌ．３７Ｎｏ．８ 年月 ２０１４８ Ａｕ．２０１４ ＣＨＩＮＥＳＥＪＯＵＲＮＡＬＯＦＣＯＭＰＵＴＥＲＳ ｇ 　 基于特征子集区分度与支持向量机的特征选择算法 ） ） １ ２ 谢娟英 谢维信 ） １（陕西师范大学计算机科学学院西安 ） ７１００６２ 　 　 ） ２（罙圳大学信息工程学院 国家重点实验室广东深圳 ） ＡＴＲ ５１８０６０ 　 　 摘要考虑特征之间的相关性对于其类间区分能力的影响提出叻一种新的特征子集区分度衡量准则———ＤＦＳ 　　 （ ） ， 准则该准则考虑特征之间的相关性通过计算特征子集中全部特征对于分类的 ＤｉｓｃｅｒｎｉｂｉｌｉｔｏｆＦｅａｔｕｒｅＳｕｂｓｅｔｓ ． ｙ 联合贡献来判断特征子集的类间辨别能力大小不再只考虑单个特征对于分类的贡献结合顺序前向、顺序后向、 ． ， （ ） ， 顺序前向浮动和顺序后向浮动种特征搜索策略以支持向量机 为分类工具引 ４ ＳｕｏｒｔＶｅｃｔｏｒＭａｃｈｉｎｅｓＳＶＭ ｐｐ ／ ， 导特征选择过程得到种基于 与 的特征选择算法其中在顺序前后向浮动搜索策略Φ首先根据 ４ ＤＦＳＳＶＭ ． ／ ／ 准则加入去掉特征到特征子集中然后在浮动阶段根据所得临时 分类器的分类性能决定刚加入去掉 ＤＦＳ ＳＶＭ ， 特征的去留 机器学习数据库数据集的对比实验测试表明提出的 准则是一种很好的特征子集类间区分 ．ＵＣＩ

我要回帖

更多关于 网格的特征 的文章

 

随机推荐