机器学习是一个庞大的家族体系,涉及众多算法,任务和学习理论,需要系统的学习才能理解精髓。
机器学习中回归是同学们在学习过程中重要的一环。无论是面试还是实际应用都会经常用到。很多人都会使用线性回归,但理解原理的很少,如果想让自己在机器学习的方向上更有价值,数学方面的推导必不可少。
梯度下降(gradient descent)在机器学习中应用十分的广泛,不论是在线性回归还是Logistic回归中,它的主要目的是通过迭代找到目标函数的最小值,或者收敛到最小值。
通过本教程的学习,让博士带着大家知其然知其所以然,掌握和理解机器学习-线性回归。
课程目录
一机器学习基础
1 绪论
2 数学基础
3 机器学习基础
二线性回归模型
1 科学计算库Numpy
2 线性回归之一元线性回归
3 多元线性回归模型详细推导
4 代码实战:用解析解实现多元线性回归模型
5 代码实战:用Sklearn实现多元线性回归模型及模型的保存与使用
6 梯度下降算法
7 代码实战:批量梯度下降算法
8 模型的评价
9 代码实战:随机梯度下降算法
10 代码实战:小批量梯度下降算法
11 多项式回归及代码实战
12 过拟合与欠拟合、正则化、岭回归、Lasso回归
三梯度下降算法
1、从一个线性回归模型案例谈起
2、损失函数与梯度概念
3、梯度下降算法原理
4、学习率a的作用与取值
5、θ参数更新详细计算
6、梯度下降算法一般化公式
7、特征归一化
8、改进的梯度下降算法大家族
9、代码实战之数据集初始化
10、代码实战之损失函数
11、代码实战之θ参数更新