预测算法

  • 十大经典预测算法

    1. 线性回归 在统计学和机器学习领域,线性回归可能是最广为人知也最易理解的算法之一。 预测建模主要关注的是在牺牲可解释性的情况下,尽可能最小化模型误差或做出最准确的预测。我们将借…

    2023年12月4日
  • 十大经典预测算法(九)—GBDT

    GBDT又叫梯度提升决策树,它也属于Boosting框架。GBDT核心原理如下: 如图所示,用GBDT预测年龄,第一轮,预测到年龄为20,它和真实值之间的残差为10,第二轮,GBD…

    2023年12月4日
  • 十大经典预测算法(八)—ADBOOST

    一、基本原理 AdaBoost是adaptive boosing的缩写,它是一种基于Boosting框架的算法。下图为该算法的迭代过程。 AdaBoost从原始数据集D1开始学习第…

    2023年12月4日
  • 十大经典预测算法(七)—随机森林

    算法概述 随机森林,顾名思义就是由很多决策树融合在一起的算法,它属于Bagging框架的一种算法。 随机森林的“森林”,它的弱模型是由决策树算法训练的(CART算法),CART算法…

    2023年12月4日
  • 十大经典预测算法(六)—集成学习(模型融合算法)

    模型融合算法概念 它不是具体的指某一个算法,而是一种把多个弱模型融合合并在一起变成一个强模型的思想 用模型融合算法的原因 1、单个模型容易过拟合,多个模型融合可以提高范化能力 2、…

    2023年12月4日
  • 十大经典预测算法(四)—-支持向量机(SVM算法)

    一、概念:SVM思想和线性回归很相似,两个都是寻找一条最佳直线。 不同点:最佳直线的定义方法不一样,线性回归要求的是直线到各个点的距离最近,SVM要求的是直线离两边的点距离尽量大。…

    2023年12月4日
  • 十大经典预测算法(二)—-逻辑回归

    一、逻辑回归概念 线性回归可以拟合X与Y之间的关系,但回归模型中Y值是连续的,如果换成一个二分类标签,Y只能取两个值0、1,这时候就不能用线性回归了,这样就有了逻辑回归。 针对Y的…

    2023年12月4日
  • 十大经典预测算法(一)—-线性回归

    回归问题就是拟合输入变量x与数值型的目标变量y之间的关系,而线性回归就是假定了x和y之间的线性关系,公式如下: 如下图所示,我们可以通过绘制绘制(x,y)的散点图的方式来查看x和y…

    2023年12月4日