← 首页

📉 蒙眼下山 —— AI 怎么找到"最佳答案"

误差山谷(越低=越准) 红球(当前位置) 走过的路(轨迹) ⬤ 谷底·最佳答案

📖 实验指南

🎯 蒙眼下山(梯度下降)—— 所有AI训练的共同底层

💡 一句话理解:梯度下降就是让参数像小球一样,每次顺着最陡的下坡方向走一小步。

📌 实验目的:理解AI如何一步步找到"最佳答案"——站在误差山谷的任意位置,用脚试探坡度(计算梯度),往最陡的下坡方向走一小步(更新参数),反复直到谷底。这就是所有神经网络训练的底层算法。

🌟 现实应用:从感知机到ChatGPT,所有AI模型训练用的都是梯度下降的变体。你现在看到的红球滚落过程,在真实AI训练中每秒发生几十亿次。

🔗 连接感知机:感知机里每次"分错就把线挪一下"——但到底挪多少、往哪挪?就是蒙眼下山算出来的。

📋 试试看:① 点「走一步」看红球怎么决定往哪滚 → ② 把步长调到 0.02,点「自动下山」→ ② 把步长调到 1.2,点「自动下山」→ ③ 找到最快到谷底的步长

🧮 每一步是怎么算的?

当前位置 w = 7.000
坡度(梯度)= 2 × (w − 3) = +8.000
(坡度为正 → 在谷底右边,应该向左走)
新位置 = w − 步长 × 坡度
= 7.0000.15 × 8.000
= 5.800

👣 步长(学习率)

💡 0.02(寸步难行,走半天还在半山腰)← 试试极端 → 1.2(大步流星,直接飞过谷底到对面山上去了!)哪种更快到谷底?

📊 下山进度

当前位置 w7.00
离谷底还差4.00
已走步数0
🐢 龟速
--
步长0.03
到谷底用时
✅ 合适
--
步长0.15
到谷底用时
🐇 太快
--
步长0.9
到谷底用时
🤔 红球在 w=7。谷底在 w=3。开始下山吧!

💡 这和更大的AI有什么关系?