文章插图
adaboost【adaboost】Adaboost是一种叠代算法，其核心思想是针对同一个训练集训练不同的分类器(弱分类器)，然后把这些弱分类器集合起来，构成一个更强的最终分类器（强分类器） 。
基本介绍中文名：adaboost
针对：同一个训练集训练不同的分类器
性质：叠代算法
意义：最终分类器
简介算法简介Adaboost是一种叠代算法，其核心思想是针对同一个训练集训练不同的分类器(弱分类器)，然后把这些弱分类器集合起来，构成一个更强的最终分类器(强分类器) 。其算法本身是通过改变数据分布来实现的，它根据每次训练集之中每个样本的分类是否正确，以及上次的总体分类的準确率，来确定每个样本的权值 。将修改过权值的新数据集送给下层分类器进行训练，最后将每次训练得到的分类器融合起来，作为最后的决策分类器 。使用adaboost分类器可以排除一些不必要的训练数据特徵，并放在关键的训练数据上面 。
文章插图
Adaboost算法套用对adaBoost算法的研究以及套用大多集中于分类问题，同时也出现了一些在回归问题上的套用 。就其套用adaBoost系列主要解决了: 两类问题、多类单标籤问题、多类多标籤问题、大类单标籤问题、回归问题 。它用全部的训练样本进行学习 。算法分析过程分析该算法其实是一个简单的弱分类算法提升过程，这个过程通过不断的训练，可以提高对数据的分类能力 。整个过程如下所示：
文章插图
Adaboost1. 先通过对N个训练样本的学习得到第一个弱分类器；2. 将分错的样本和其他的新数据一起构成一个新的N个的训练样本，通过对这个样本的学习得到第二个弱分类器 ；3. 将1和2都分错了的样本加上其他的新样本构成另一个新的N个的训练样本，通过对这个样本的学习得到第三个弱分类器；4. 最终经过提升的强分类器 。即某个数据被分为哪一类要由各分类器权值决定 。算法优缺点对于boosting算法，存在两个问题：1. 如何调整训练集，使得在训练集上训练的弱分类器得以进行；2. 如何将训练得到的各个弱分类器联合起来形成强分类器 。针对以上两个问题，adaBoost算法进行了调整：1. 使用加权后选取的训练数据代替随机选取的训练样本，这样将训练的焦点集中在比较难分的训练数据样本上；
文章插图
Adaboost2. 将弱分类器联合起来，使用加权的投票机制代替平均投票机制 。让分类效果好的弱分类器具有较大的权重，而分类效果差的分类器具有较小的权重 。AdaBoost算法是Freund和Schapire根据线上分配算法提出的，他们详细分析了AdaBoost算法错误率的上界，以及为了使强分类器达到错误率，算法所需要的最多叠代次数等相关问题 。与Boosting算法不同的是，adaBoost算法不需要预先知道弱学习算法学习正确率的下限即弱分类器的误差，并且最后得到的强分类器的分类精度依赖于所有弱分类器的分类精度，这样可以深入挖掘弱分类器算法的能力 。AdaBoost算法中不同的训练集是通过调整每个样本对应的权重来实现的 。开始时，每个样本对应的权重是相同的，即其中 n 为样本个数，在此样本分布下训练出一弱分类器 。对于分类错误的样本，加大其对应的权重；而对于分类正确的样本，降低其权重，这样分错的样本就被突显出来，从而得到一个新的样本分布 。在新的样本分布下，再次对样本进行训练，得到弱分类器 。依次类推，经过 T 次循环，得到 T 个弱分类器，把这 T 个弱分类器按一定的权重叠加（boost）起来，得到最终想要的强分类器 。AdaBoost算法的具体步骤如下：1. 给定训练样本集S，其中X和Y分别对应于正例样本和负例样本； T为训练的最大循环次数；2. 初始化样本权重为1/n ，即为训练样本的初始机率分布；3. 第一次叠代：(1) 训练样本的机率分布相当下，训练弱分类器；(2) 计算弱分类器的错误率；(3) 选取合适阈值，使得误差最小；(4) 更新样本权重；经T次循环后，得到T个弱分类器，按更新的权重叠加，最终得到的强分类器 。Adaboost算法是经过调整的Boosting算法，其能够对弱学习得到的弱分类器的错误进行适应性调整 。上述算法中叠代了T次的主循环，每一次循环根据当前的权重分布对样本x定一个分布P，然后对这个分布下的样本使用弱学习算法得到一个弱分类器，对于这个算法定义的弱学习算法，对所有的，都有，而这个错误率的上限并不需要事先知道，实际上 。每一次叠代，都要对权重进行更新 。更新的规则是：减小弱分类器分类效果较好的数据的机率，增大弱分类器分类效果较差的数据的机率 。最终的分类器是个弱分类器的加权平均 。