Skip to content

Commit d372ee3

Browse files
committed
20250304 deep learning 4 format 2
1 parent 4600c2b commit d372ee3

File tree

1 file changed

+3
-3
lines changed

1 file changed

+3
-3
lines changed

_posts/2025-03-04-deep-learning-2024autumn-04.md

Lines changed: 3 additions & 3 deletions
Original file line numberDiff line numberDiff line change
@@ -66,13 +66,13 @@ _这份笔记使用的部分图片、内容来自于北京交通大学深度学
6666

6767
![image-20250304204857077](../assets/img/Autumn2024-hywan/image-20250304204857077.png)
6868

69-
### **对比**
69+
### 对比
7070

7171
- **批量梯度下降**:利于寻找全局最优解,梯度方差小;但样本数目很多时,训练过程会很慢。
7272
- **随机梯度下降**:训练速度快;准确度下降,不利于寻找全局最优,梯度方差大。
7373
- **小批量梯度下降**:同时兼顾两种方法的优点。
7474

75-
### **批量大小的影响**
75+
### 批量大小的影响
7676

7777
一般而言,批量大小不影响梯度的期望,但是会影响梯度的方差。
7878

@@ -87,7 +87,7 @@ $$
8787
\theta^t=\theta^{t-1}-\alpha \bold{g}^t
8888
$$
8989

90-
### **学习率的影响**
90+
### 学习率的影响
9191

9292
- 学习率过大:不收敛
9393
- 学习率过小:收敛太慢

0 commit comments

Comments
 (0)