持向量机以统计学习理论作为坚实的理论依据，有很多优点，如基于结构风险最小化，克服了传统方法的过学习和陷入局部最小的问题，具有很强的泛化能力;采用核函数方法，向高维空间映射时并不增加计算的复杂性，又有效地克服了维数灾难问题。目前，支持向量机在模式识别、函数逼近、数据挖掘和文本自动分类中均有很好的应用，而数据分类只是SVM的一个简单应用而已。
在这几个月里，为了做好设计查阅了很多资料，遇到不懂或者不清楚的问题而向老师和很多同学请教，得到了他们的帮助。设计虽然能够完成二维数据集里面数据的分类，但是更多类别的数据分类不是很完善，这是一个非常大的遗憾。
在设计中，某种做法和思路从理论上分析是很正确的，但是在实际做的过程中会出现很多没有考虑到的小问题，从这些方面来说，通过做毕业设计，锻炼了自己分析和考察的能力，也锻炼了自己动手的能力。设计虽然没有做得很完善，但是对SVM原理和软件LIBSVM我都有了进一步得认识和了解。在这次设计中我们所涉及到的这一部分，在实际的运用中还算是皮毛，还有很多我们没有接触到算法和运用才是真正的关键，相信以后在实践中会遇到新的问题而针对这些问题进行更多的学习，能取得更大的进步，以及对SVM运用的进一步的深入。
基于数据的机器学习是人工智能的重要研究领域，主要研究如何从样本出发得出有价值的规律，利用这些规律去分析客观对象，对未来数据或无法观测的数据进行预测。现有机器学习方法共同的重要理论基础之一是统计学。传统统计学所研究的主要是渐进理论。与传统统计学相比，统计学习理论(Statistical Learning Theory, STL)是一种专门研究小样本情况下机器学习规律的理论体系，能较好地解决小样本学习问题。
Vapnik等人致力于统计学习理论方面研究，到九十年代中期，随着其理论的不断发展，Vapnik的《The Nature of Statistical Learning Theory》一书的出版标志着统计学习理论体系走向成熟，开始受到越来越广泛的重视。
统计学习理论的一个核心概念就是VC维（Dimension)概念，它是描述函数集或学习机器的复杂性或者说是学习能力(capacity of the machine)的一个
重要指标，在此概念基础上发展出了一系列关于统计学习的一致性(Consistency)、收敛速度、推广性能(Generalization Performance)等的重要结论。
统计学习理论为机器学习问题建立了一个较好的理论框架，奠定了支持向量机的理论基础。支持向量机是Vapnik等人提出的一类新型机器学习方法，它以统计学习理论为基础，基于结构风险最小化原则，由于其有效地避免传统分类方法中存在的过学习、维数灾难、产生局部极小点等问题，而且在小样本条件下仍然具有良好的推广能力，因而成为智能技术研究的新的热点.目前国际上对SVM训练中优化算法的研究非常重视，以期加深和扩大SVM应用领域的研究。SVM在模式识别、回归估计和概率密度估计等机器学习方面获得了非常好的结果，并己经应用于文本识别、人脸检测、三维图象识别、手写体字符识别、非线性回归建模等实际问题中。
本章中主要对统计学习理论的重点内容和支持向量机方法的主要思想进行了介绍，包括对统计学习理论核心内容的阐述，对支持向量机算法由线性可分情况到一般的非线性情况的推导，对支持向量机的主要思想的分析。本论文即在以上理论基础上对支持向量机方法进行理论上的研究，并提出新的见解。
Tags：
