误差山谷(越低=越准)
红球(当前位置)
走过的路(轨迹)
⬤ 谷底·最佳答案
📖 实验指南 ▾
🎯 蒙眼下山(梯度下降)—— 所有AI训练的共同底层
💡 一句话理解:梯度下降就是让参数像小球一样,每次顺着最陡的下坡方向走一小步。
📌 实验目的:理解AI如何一步步找到"最佳答案"——站在误差山谷的任意位置,用脚试探坡度(计算梯度),往最陡的下坡方向走一小步(更新参数),反复直到谷底。这就是所有神经网络训练的底层算法。
🌟 现实应用:从感知机到ChatGPT,所有AI模型训练用的都是梯度下降的变体。你现在看到的红球滚落过程,在真实AI训练中每秒发生几十亿次。
🔗 连接感知机:感知机里每次"分错就把线挪一下"——但到底挪多少、往哪挪?就是蒙眼下山算出来的。
📋 试试看:① 点「走一步」看红球怎么决定往哪滚 → ② 把步长调到 0.02,点「自动下山」→ ② 把步长调到 1.2,点「自动下山」→ ③ 找到最快到谷底的步长
🧮 每一步是怎么算的?
当前位置 w = 7.000
坡度(梯度)= 2 × (w − 3) = +8.000
(坡度为正 → 在谷底右边,应该向左走)
新位置 = w − 步长 × 坡度
= 7.000 − 0.15 × 8.000
= 5.800
= 5.800
👣 步长(学习率)
📊 下山进度
当前位置 w7.00
离谷底还差4.00
已走步数0
🐢 龟速
--
步长0.03
到谷底用时
到谷底用时
✅ 合适
--
步长0.15
到谷底用时
到谷底用时
🐇 太快
--
步长0.9
到谷底用时
到谷底用时
🤔 红球在 w=7。谷底在 w=3。开始下山吧!