fz-mirrors/Build-A-Large-Language-Model-CN
1
0
Fork 0
mirror of https://github.com/skindhu/Build-A-Large-Language-Model-CN.git synced 2026-07-29 15:20:24 +08:00
Code Issues Packages Projects Releases Wiki Activity

Revert "REAEME 文件中，增加「在线阅读」地址，并且，所有图片设置为居中。"

Browse Source
This commit is contained in:
long_long_ago
2025-08-01 11:33:51 +08:00
committed by GitHub
parent 678d5d2193
commit 759bd92089
11 changed files with 169 additions and 489 deletions
Download Patch File Download Diff File Expand all files Collapse all files

8
cn-Book/附录D.给训练循环添加高级技巧.md
View File

@@ -134,9 +134,7 @@ plt.show()
结果图如图 D.1 所示。
<div style="text-align: center;">
<img src="Image/AppendixD/D.1.png" width="75%" />
</div>
<img src="../Image/AppendixD/D.1.png" width="75%" />
如图 D.1 所示，学习率从一个较低的值开始，并在 20 步内逐步增加，直到在 20 步后达到最大值。
@@ -188,9 +186,7 @@ plt.show()
学习率曲线如图 D.2 所示。
<div style="text-align: center;">
<img src="Image/AppendixD/D.2.png" width="75%" />
</div>
<img src="../Image/AppendixD/D.2.png" width="75%" />
如图 D.2 所示，学习率以线性预热阶段开始，在前 20 步内增加，直到在 20 步后达到最大值。在 20 步线性预热之后，余弦衰减开始起作用，逐渐降低学习率，直到达到最小值。