支持向量机（Support Vector Machine, SVM）是一种基于统计学习理论的模式识别方法，属于有监督学习模型，主要用于解决数据分类问题。SVM通过将每个样本数据表示为空间中的点，并寻找最优区分两类数据的超平面，使各分类到超平面的距离最大化。SVM通常用于二元分类问题，但也可以通过一对多（one-vs-all）的方式应用于多元分类问题。

核心概念

超平面：

超平面是一个决策边界，可以在高维空间中将数据点分隔成不同类别。对于二维空间中的数据，超平面是一条直线；对于三维空间中的数据，超平面是一个平面；对于更高维度的数据，超平面是一个超平面。

间隔（Margin）：

间隔是指两类样本到超平面的最近距离之和。SVM的目标是找到一个超平面，使得这个距离最大化。

支持向量：

支持向量是指离超平面最近的那些样本点，它们对确定最优超平面起着关键作用。

映射方法

SVM通过核函数（Kernel Function）将样本向量映射到高维空间，以便在高维空间中找到一个线性可分的超平面。常见的核函数包括：

线性核函数：适用于线性可分的数据。

多项式核函数：适用于非线性但具有一定复杂度的数据。

高斯径向基核函数（RBF）：适用于大多数非线性数据，是一种常用的核函数。

算法类型

硬间隔支持向量机（Hard Margin SVM）：

在数据线性可分的条件下，通过最大化几何间隔来学习最优分类器。

软间隔支持向量机（Soft Margin SVM）：

在数据非线性可分的条件下，允许少量样本违背间隔条件，通过引入松弛变量来平衡间隔最大化和误分类代价。

应用领域

SVM广泛应用于各种领域，包括：

图像分类：如人脸识别、物体检测等。

文本分类：如垃圾邮件检测、情感分析等。

生物信息学：如基因表达数据分类、蛋白质结构预测等。

金融：如信用评分、股价预测等。

优化方法

SVM的优化问题通常通过拉格朗日对偶法求解，将原始优化问题转化为对偶问题，从而简化计算过程。对偶问题的求解可以通过多种方法实现，如内点法、序列最小优化（SMO）算法等。

总结

支持向量机是一种强大的分类算法，通过在高维空间中寻找最优超平面来实现数据分类。其核心思想是最大化样本点之间的间隔，从而提高分类的稳健性和泛化能力。SVM通过核函数将数据映射到高维空间，能够处理线性不可分的数据。通过硬间隔和软间隔两种方式，SVM可以适应不同的数据分布和噪声水平。由于其强大的泛化能力和广泛的应用领域，SVM在模式识别、分类和回归分析中发挥着重要作用。