Python数据建模及模型优化（回归篇）

【培训对象】
业务支持部、数据分析部、系统设计部、系统开发部、网络运维部等相关技术人员。

【培训收益】

第一部分：预测建模基础
1、数据建模六步法
选择模型：基于业务选择恰当的数据模型
属性筛选：选择对目标变量有显著影响的属性来建模
训练模型：采用合适的算法，寻找到最合适的模型参数
评估模型：进行评估模型的质量，判断模型是否可用
优化模型：如果评估结果不理想，则需要对模型进行优化
应用模型：如果评估结果满足要求，则可应用模型于业务场景
2、数据挖掘常用的模型
数值预测模型：回归预测、时序预测等
分类预测模型：逻辑回归、决策树、神经网络、支持向量机等
市场细分：聚类、RFM、PCA等
产品推荐：关联分析、协同过滤等
产品优化：回归、随机效用等
产品定价：定价策略/最优定价等
3、属性筛选/特征选择/变量降维
基于变量本身特征
基于相关性判断
因子合并（PCA等）
IV值筛选（评分卡使用）
基于信息增益判断（决策树使用）
4、训练模型及实现算法
模型原理
算法实现
5、模型评估
评估指标
评估方法
过拟合评估
6、模型优化
优化模型：选择新模型/修改模型
优化数据：新增显著自变量
优化公式：采用新的计算公式
7、模型应用
模型解读
模型部署
模型应用
8、好模型是优化出来的

第二部分：回归模型评估
1、三个基本概念：SST、SSR、SSE
2、三个方面评估：指标、方法、过拟合
3、拟合程度指标
简单判定系数：
调整判定系数：
4、预测值误差指标
平均绝对误差：MAE
根均方差：RMSE
平均绝对误差率：MAPE
5、信息损失准则指标
赤池信息准则：AIC
贝叶斯信息准则：BIC
HQ信息准则：HQIC
6、评估方法
原始评估法
留出法（Hold-Out）
交叉验证法（k-fold cross validation）
自助采样法（Bootstrapping）
7、其它评估
过拟合评估：学习曲线
残差评估：白噪声评估

第三部分：影响因素分析
问题：如何选择合适的属性来进行建模预测？如何做特征选择/特征降维？
1、属性筛选/变量降维的常用方法
2、影响因素分析常用方法
相关分析
方差分析
卡方检验
3、相关分析（衡量变量间的线性相关性）
问题：这两个属性是否会相互影响？影响程度大吗？
相关分析简介
相关分析的三个种类
简单相关分析
偏相关分析
相关系数的三种计算公式
Pearson相关系数
Spearman相关系数
Kendall相关系数
相关分析的假设检验
相关分析的四个基本步骤
演练：体重与腰围的关系
演练：营销费用会影响销售额吗
演练：网龄与消费水平的关系
偏相关分析
偏相关原理：排除不可控因素后的两变量的相关性
偏相关系数的计算公式
偏相关分析的适用场景
4、方差分析(衡量类别变量与数据变量的相关性)
问题：哪些才是影响销量的关键因素？主要因素是哪些？次要因素是哪些？
方差分析的应用场景
方差分析原理
方差分析前提：齐性检验
方差分析的三个种类
单因素方差分析
多因素方差分析
协方差分析
方差分析的四个步骤
分析结果解读要点
演练：终端摆放位置与终端销量有关吗
演练：客户学历对消费水平的影响分析
演练：广告形式和价格是影响终端销量的关键因素吗
演练：营业员的性别、技能级别对产品销量有影响吗
演练：寻找影响产品销量的关键因素
多因素方差分析原理
多因素方差分析的作用
多因素方差结果的解读
演练：广告形式、地区对销量的影响因素分析
协方差分析原理
协方差分析的适用场景
演练：排除收入后，网龄对消费水平的影响大小分析
5、列联分析/卡方检验（两类别变量的相关性分析）
卡方检验应用场景
交叉表与列联表
计数值与期望值
卡方检验的原理
卡方检验的几个计算公式
列联表分析的适用场景
案例：套餐类型对客户流失的影响分析
案例：学历对业务套餐偏好的影响分析
案例：行业/规模对风控的影响分析
6、属性重要程度排序/筛选
7、主成份分析（PCA）
因子分析的原理
因子个数如何选择
如何解读因子含义
案例：提取影响电信客户流失的主成分分析

第四部分：线性回归模型
问题：如何预测产品的销量/销售金额？
1、常用数值预测的模型
通用预测模型：回归模型
2、线性回归应用场景
3、线性回归模型种类
一元线性回归
多元线性回归
4、线性回归建模过程
5、带分类变量的回归建模
6、回归模型的质量评估
7、回归方程的解读
第五部分：回归算法实现
1、基本概念
损失函数
2、普通最小二乘法OLS
数学推导
OLS存在的问题
3、梯度下降算法
梯度概念
梯度下降/上升算法
批量梯度/随机梯度/小批量梯度
学习率的影响
早期停止法
4、牛顿法/拟牛顿法
泰勒公式(Taylor)
牛顿法(Newton)
拟牛顿法(Quasi-Newton)的优化
DFP/BFGS/L-BFGS
5、算法比较-优缺点

第六部分：回归模型优化
6、回归分析的基本原理
三个基本概念：总变差、回归变差、剩余变差
方程的显著性检验：是否可以做回归分析？
因素的显著性检验：自变量是否可用？
拟合优度检验：回归模型的质量评估？
理解标准误差的含义：预测的准确性？
7、欠拟合解决：多项式回归
剔除离群值
剔除非显著因素
非线性关系检验
相互作用检验
共线性检验
检验误差项
案例：销量预测模型优化示例
8、过拟合解决：正则项
岭回归（Ridge）
套索回归（Lasso）
弹性网络回归（ElasticNet）
9、超参优化
手工遍历cross_val_score
交叉验证RidgeCV/LassCV/ElasticNetCV
网格搜索GridSearchCV
随机搜索RandomizedSearchCV

第七部分：自定义模型
1、自定义回归模型
2、模型参数最优法方法
全局优化/暴力破解brute
局部优化fmin
有约束优化minimize
3、好模型都是优化出来的
案例：餐厅客流量进行建模及模型优化
4、基于回归季节模型
季节性回归模型的参数
相加模型
相乘模型
模型解读/模型含义
案例：美国航空旅客里程的季节性趋势分析
5、新产品预测与S曲线
产品累计销量的S曲线模型
如何评估销量增长的上限以及拐点
珀尔曲线
龚铂兹曲线
案例：预测IPAD的销售增长拐点，以及销量上限
第八部分：案例实战
1、客户消费金额预测模型
2、房价预测模型及优化

结束：课程总结与问题答疑。