TIP
本文主要是介绍 机器学习-博客连载推荐 。
# AI从业者关于数学的一些小建议
# 观点:
1、数学是必须的。
数学对于机器学习来说是必备基础,数学是内功,你要理解一个算法的内在逻辑,没有数学是不行的。以后跑算法的时候,你可能就是调参、调包,不会用到数学。但是你发现效果不好的时候,如果你数学不懂,就很难作优化,数学是你在机器学习路上的天花板。
2、数学也不是很难。
但是,数学真的很难吗?说实话,对于一般人来说,是有点门槛的,但没有你想的那么难。这里假设你上过大学的数学课,你就具备了机器学习的数学入门门槛了,之后的数学啃一啃是可以下来的。如果说你没有上过大学的数学,emmm,挺难的,这说明你除了跟别人付出同样的努力之外,还要多付出一些大学数学的学习。
3、 相比于数学,实际项目能力更重要。
这句话没错,可是大部分人在没接触到实际项目的时候,就已经被挡在门外了。很多从事机器学习的你问他数学,他可能也不是很懂,可是你能咋办。人家面试你的时候就要问你这些,问你对算法的理解,你不会那你就过不了面试啊。
4、 学习是枯燥的,但是有办法缓解。
在学习算法的时候,我们会看到很多推导,学着学着就怕了,就失去兴趣了,这里有个方法可以有效缓解。我之前的系列中有本书叫做机器学习实战,跟着上面的代码敲一敲,很容易出成果,你会看到在现实中的实际应用,很有成就感。
5、 数学的学习是可以“取巧”的
这里说的取巧指的是,数学的学习是有迹可循的,因为入门阶段的数学实际上就需要那些,列出来,你自己啃一下就可以了。具体的学习方法不是等你把数学都学好了再去学算法知识。而是你在学习算法的时候,看到你数学缺哪块再去补哪块,这是最高效的。当然了,在这之前你可以通读一遍数学的基础,对学习有个大概是更好的。
# 数学必备知识点
1、 线性代数
标量、向量、矩阵和张量;矩阵向量的运算;单位矩阵和逆矩阵;行列式;方差,标准差,协方差矩阵;范数;特殊类型的矩阵和向量;特征分解以及其意义;奇异值分解及其意义
Moore-Penrose 伪逆;迹运算;
2、 概率统计
概率学派和贝叶斯学派;何为随机变量和何又为概率分布;条件概率,联合概率和全概率公式;边缘概率;独立性和条件独立性;期望、方差、协方差和相关系数;常用概率分布;贝叶斯及其应用;中心极限定理;极大似然估计;概率论中的独立同分布。
3、 优化
计算复杂性与NP问题;上溢和下溢;导数,偏导数及两个特殊矩阵;方向导数和梯度;梯度下降法;牛顿法;仿射集,凸集和凸锥;超平面,半空间及凸集分离定理;不改变凸性的运算;凸函数及凸优化简述;无约束的优化,等式约束优化,不等式约束优化;线性规划中对偶理论;拉格朗日对偶理论
4、 信息论及其他
信息熵;条件熵;相对熵 (KL散度);互信息;几种常用的距离度量;图论;树论
上面数学基本上就是我们所要学的数学的全部了,看上去有点吓人是不?不要慌,没有那么难,一点点啃下去就可以了。
# 推荐资料:
资料一:机器学习王牌课程CS229课后配套数学,专门配套机器学习的。
链接: https://pan.baidu.com/s/1Fh__7N7rqGEgjsyb4YpNSg (opens new window) 密码:48n4
资料二:Yoshua Bengio的《深度学习》书,网上公开的,前面有一部分是对数学的专门讲解,很基础很全面。
链接: https://pan.baidu.com/s/1A9mcO8_ORQmTJ-V7z9bLdw (opens new window) 密码:hwjn
资料三:知乎答主的优秀回答,很细致,适合初学者
线代专栏: https://zhuanlan.zhihu.com/p/30191876
概率统计: https://zhuanlan.zhihu.com/p/30314229
优化(上): https://zhuanlan.zhihu.com/p/30383127
优化(下): https://zhuanlan.zhihu.com/p/30486793
信息论及其他: https://zhuanlan.zhihu.com/p/30383356
我看过很多数学材料,上面三个是我总结过来最好的,必看。但是每个人基础不同,可能看完上面三个后,还是有需要去看别的。
针对性学习。不要想得太简单,也不要想得太复杂,保持理性,保持认真严谨严肃。
黑发不知勤学早,白首方悔读书迟。
天雨虽宽,不润无根之草。 佛门虽广,不渡无缘之人。
# 【----------------------------】
# 机器学习数学连载推荐 1
AI从业者关于数学的一些小建议 (opens new window)
期望、方差、协方差、相关系数 (opens new window)
机器学习与优化关系、凸集、凸函数简介 (opens new window)
机器学习数学系列(4):参数估计 (opens new window)
机器学习数学系列(3):概率论选讲 (opens new window)
机器学习数学系列(2):微分选讲 (opens new window)
机器学习数学系列(1):机器学习与数学基础知识 (opens new window)
# 【----------------------------】
# 机器学习数学连载视频 2
机器学习中的数学基础(超清版): https://www.bilibili.com/video/av54061953/
机器学习中的数学基础(超清版) (opens new window)
# 【----------------------------】
本文分为高等数学、线性代数、概率论与数理统计三部分,所有公式为考研和考博时候使用的参考书所记录,部分来源于网络。由于一篇文章放不下,故分成三篇文章发布:
# 机器学习的数学基础连载推荐 3
一、机器学习的数学基础-(一、高等数学) (opens new window)
二、机器学习的数学基础-(二、线性代数) (opens new window)
三、机器学习的数学基础-(三、概率论和数理统计) (opens new window)
# 【----------------------------】
# 机器学习中的基本数学知识
# 知识目录
注:本文的代码是使用Python 3写的。
- 机器学习中的基本数学知识
- 线性代数(linear algebra)
- 低等数学 (opens new window)
- 几何
- 微分(differential)
- 统计学/概率论 (opens new window)
- 信息论
- 博弈论 (opens new window)
- 不知道放到哪儿 (opens new window)
- 机器学习
- 附录
- 参照 (opens new window)
# 数学符号发音常用
# 参考文章
- https://www.cnblogs.com/steven-yang/p/6348112.html
- https://zhuanlan.zhihu.com/p/36311622
- https://www.bilibili.com/video/av54061953/
- https://www.cnblogs.com/ariel-dreamland/category/1194198.html
- https://www.cnblogs.com/ariel-dreamland/p/12522454.html