导数复习
1 课程概览
本课复习机器学习中常用的数学概念,包括标量、向量、矩阵、张量的定义和Python对应类型,以及导数的基本概念、求导规则和四则运算。重点讲解导数在机器学习中的应用(如求极值、梯度下降),并给出常见函数的求导公式和四则运算规则。
2 核心概念与定义
- 标量(Scalar):独立的一个数,没有大小和方向。
- 向量(Vector):一列顺序排列的数据,默认是列向量,有大小和方向。
- 矩阵(Matrix):二维数组,由多个向量组成。
- 张量(Tensor):基于向量和矩阵的推广,三维及以上数组。
- 导数(Derivative):函数在某点的瞬时变化率,也叫导函数值、微商。
- 德尔塔(Δ):表示增量,如ΔX表示X的增量。
3 算法与模型详解
3.1 数据类型对照表
| 数学概念 | Python对应 | 维度 | 示例 |
|---|---|---|---|
| 标量 | 变量 | 0维 | a = 10 |
| 向量 | Series | 1维 | [1, 2, 3] |
| 矩阵 | DataFrame | 2维 | 2行3列 |
| 张量 | ndarray | N维 | reshape(2,3,4) |
3.2 导数概念
定义:当函数Y=F(X)的自变量X在点X0上产生增量ΔX,输出值增量ΔY与ΔX的比值,当ΔX无限趋向于0时的极限值,即为导数。
表示:F'(X0)
应用:
- 物理:加速度
- 几何:切线斜率
- 数学:瞬时变化率、曲线变化率
3.3 常见函数求导公式
| 函数类型 | 原函数 | 导数 |
|---|---|---|
| 常数函数 | C | 0 |
| 幂函数 | X^a | a·X^(a-1) |
| 指数函数 | a^x | a^x · ln(a) |
| 自然指数 | e^x | e^x |
| 对数函数 | log_a(X) | X · (1/ln(a)) |
| 自然对数 | ln(X) | 1/X |
| 正弦函数 | sin(X) | cos(X) |
| 余弦函数 | cos(X) | -sin(X) |
3.4 导数四则运算
| 运算 | 公式 |
|---|---|
| 加减法 | (A ± B)' = A' ± B' |
| 乘法 | (A·B)' = A'·B + A·B' |
| 除法 | (A/B)' = (A'·B - A·B') / B² |
| 复合函数 | F(g(x))' = F'(g(x)) · g'(x) |
3.5 复合函数求导
规则:由外向内,先求外部函数导数,再乘以内部函数导数。
示例: $$f(x) = e^{2x}$$
$$f'(x) = e^{2x} \cdot (2x)' = e^{2x} \cdot 2 = 2e^{2x}$$
3.6 求导示例
示例1:$Y = X^3$ $$Y' = 3X^{3-1} = 3X^2$$
示例2:$Y = 20K^2$ $$Y' = 2 \cdot 20 \cdot K^{2-1} = 40K$$
示例3:$Y = e^x + 4\ln(X)$ $$Y' = e^x + \frac{4}{X}$$
4 数学原理与推导
4.1 导数定义
$$F'(X_0) = \lim_{\Delta X \to 0} \frac{\Delta Y}{\Delta X} = \lim_{\Delta X \to 0} \frac{F(X_0 + \Delta X) - F(X_0)}{\Delta X}$$
4.2 幂函数求导
$$\frac{d}{dx} X^a = a \cdot X^{a-1}$$
4.3 乘法求导
$$\frac{d}{dx}(A \cdot B) = A' \cdot B + A \cdot B'$$
5 代码示例
本课为数学复习,无代码示例。
NumPy张量示例:
import numpy as np
# 创建张量(2个3行4列的矩阵)
tensor = np.array([
[[1, 2, 3, 4],
[5, 6, 7, 8],
[9, 10, 11, 12]],
[[13, 14, 15, 16],
[17, 18, 19, 20],
[21, 22, 23, 24]]
])
print("张量形状:", tensor.shape) # (2, 3, 4)
6 重难点与易错提醒
- ❗重点:标量、向量、矩阵、张量分别对应Python的变量、Series、DataFrame、ndarray。
- ❗重点:常见函数的求导公式(幂函数、指数函数、对数函数等)。
- ❗重点:导数四则运算规则(加减乘除、复合函数)。
- ⚠️易错:cos(X)的导数是-sin(X),容易忘记负号。
- ⚠️易错:乘法求导是A'B + AB',不是A'B'。
- ⚠️易错:除法求导分母要平方。
- 💡深入理解:导数用于求极值,是梯度下降的基础。
7 课堂问答精选
Q: 标量、向量、矩阵、张量分别对应Python中的什么类型?
A:
- 标量:变量(如 a = 10)
- 向量:pandas的Series(一列数据)
- 矩阵:pandas的DataFrame(二维数据)
- 张量:NumPy的ndarray(N维数组)
Q: 复合函数如何求导?
A: 复合函数求导规则是"由外向内":先求外部函数的导数,再乘以内部函数的导数。例如 $f(x) = e^{2x}$,先求 $e^{2x}$ 的导数(本身),再乘以 $2x$ 的导数(2),结果为 $2e^{2x}$。
8 本课小结
- 数据类型:标量(变量)、向量(Series)、矩阵(DataFrame)、张量(ndarray)。
- 导数概念:函数在某点的瞬时变化率。
- 求导公式:幂函数、指数函数、对数函数、三角函数等。
- 四则运算:加减法分开求导,乘法用A'B+AB',除法用(A'B-AB')/B²。
- 复合函数:由外向内求导。
9 延伸思考与实践
- 复习:常见函数的求导公式。
- 预习:偏导数的概念和计算。
- 思考:导数在机器学习中的作用(求极值、梯度下降)。