随机梯度下降算法—年轻人篇

今天偶然翻到几年前李沐老师写的一篇文章 《用随机梯度下降来优化人生》。

作为一个AI开发程序员，我明白这意味着什么。也不由自主的联想到了自己的亲身经历，或者说我们年轻一代该怎么去落实随机梯度下降的算法。

想分享一下自己的一些想法。

首先，什么是随机梯度下降呢？可以看一下这张图。

可以看到图片中有许多的“山顶”和“山谷”，那一个人怎么从“山顶”到达“山谷”呢？我们可以用随机梯度下降算法实现。

随机梯度下降算法，大家可以简单地理解为: 山顶的人的目标是下山。那山顶的人就可以随机挑选四周的一个点作为目标，为了减小和 地
目标点的距离，他跨出一步。然后不断随机挑选目标，不断地向下走。如果中间出现了错误，那么山顶的人会随机选择一个起点，重新来过。就这样逐渐往山谷靠近。

就这样往复你终会到达山谷。

我觉得年轻一代就该这样做:

1.心中有远大目标。

不管是山顶的人对于下山的目标，还是你的人生目标。他们都必须很大很远，甚至于你最好不要知道你最后会走到什么地步。因为你清楚自己的方向，向着方向前进，你自己会得到不断地提高，这就够了。

2.随机地小步快跑

在随机梯度下降算法中，只需要随机 地 选一个点进行梯度计算，而非附近所有点。这样你的计算成本就很低，效率也高。

映射到年轻人的人生也是如此。在通向你的人生目标之路上。你大可放心地
挑选一条小路，快速做出决定，然后迈出一步。哪怕走不通，哪怕你走错了，你也可以立刻换一条，从头来过。切记多做尝试，小步快跑。

因为作为年轻人，试错成本几乎为零，你有大把时间大胆尝试。尽管前路充满了随机且不平坦。但你每走的一步都是你对世界的认知，对世界的探索。

相较于那些未来已经笃定去干什么的人，你更能舒适圈以外的生活，无论经历怎样的坎坷，你都能记得方向，往目标靠近。

或许会很久很远，但终会到达。

3.走出舒适圈，改变自己

在随机梯度下降算法中，每走一步，参数就会进行相应的迭代更新，变得更加靠近目标。

我们也理应如此。不满足于当前的定位，与个人能力。所走出的每一步，你都在试图与以前的自己作斗争，尝试去走出舒适圈，改变自己。这过程或许很痛苦，但是只有这样才能换来提高与进步。最终每一个进步都会使你越来越靠近目标。

但愿每个人都能利用好随机梯度下降的算法。不断更新迭代自己。最终收敛于美好的人生。

与大家共勉。

欢迎关注，欢迎➕V，学习交流，永不失联。