一个神经元:AI 的最小单元,学习的最大秘密
不是"找到正确答案"。是"每次错了改一点,改到不错为止"。
问题:你面前有一堆蓝点和橙点,怎么分开它们?
给你20个点。蓝色希望分开在左边,橙色希望分开在右边。你随手画了一条线,发现有的蓝点跑到了线右边,有的橙点落在左边——猜错了。
你想调整这条线,让它把两种颜色完美地切开。
一个神经元做的,就是这件事。
神经元就是一道门
想象一个门卫。访客进门时只有一个特征值:时间——几点几分到达。
门卫心里有两个东西:
-
一个标准(权重):时间重不重要?如果来访时间很重要,门卫就把时间数字放大。如果不重要,就缩小。
-
一个倾向(偏置):门卫本身是严格还是宽松?天然倾向于"放行"还是"拦下"?
所有访客进来,时间数字被标准放大或缩小,再加上门卫的倾向,得出一个总分。然后——
门打开。 总分够高就放行,不够就拦下。
神经元就是这个门卫。输入是数据,权重和偏置是门卫的判断工具,"开门"是激活函数。
公平地说,GPT-4 只是 1.7 万亿个这样的门卫,叠在一起工作。
门是怎么开的?
激活函数听起来吓人,但本质上就是一句话:总分够了就亮,不够就灭。
就像一盏声控灯。你拍手,声音震动传到灯的内部电路,电路计算音量够不够大——够了,灯亮。不够,不亮。
神经元在收到 w·x + b 的结果后,走的就是这个逻辑:超过门槛 → 输出 1(亮),不到门槛 → 输出 0(灭)。
这个"门槛"是零。总分为正就亮,为负就灭。简单到不值得被称作"函数"。
学习:反复拧两个旋钮
一开始,权重和偏置是随机给的。相当于门卫被蒙上眼睛,随便设了一个标准和倾向。
喂一个数据点,猜一次。猜错了,朝"错得少一点"的方向拧一小步。再喂,再猜,再拧。
这就是训练的全部。
你不需要事先知道"正确答案是什么权重"。没有人告诉神经元:"w 应该设为 10,b 应该设为 -5。"它不知道,也不需要知道。它只需要知道:刚才猜错了,偏了多少,往哪边偏,然后拧一点点。
反复拧几万次。权重停在 10,偏置停在 -5。此时输入 0.49 输出 0,输入 0.51 输出 1——线把两种点分开了。
学习不是一次找到对的参数。学习是每次错一点就改一点,改到不错为止。
为什么这件事如此重要?
一个神经元能处理的问题简单到可笑——它只能画一条直线。数据集稍微复杂一点,它就抓瞎了。
但核心机制是通用的:
-
拿到输入
-
用参数对输入做加权计算
-
过一个门槛函数
-
猜错了就反向调整参数
-
重复直到猜对
这个五步循环,就是今天所有大型语言模型的底层引擎。ChatGPT 的 1750 亿个参数——每一个都是这样被拧出来的。不是谁设计了正确的值,不是哪位天才数学家算出了最优解。是无数次"猜错→调整→再猜→再调整"的迭代。
知道这一点很重要。因为它意味着 AI 的能力不是"被给予"的,而是"被试出来的"。模型不是在记忆中存储了完美的答案,而是在反复试错中找到了一个恰好管用的参数组合。
一个反直觉的观察
很多人以为自己学习的方式和 AI 完全不同。人类学习需要理解,AI 只是机械调参。
但仔细想想:最早学会骑自行车的时候,我们理解了"重心偏移与角动量守恒的关系"吗? 没有。我们只是摔了几十次,每次摔完身体自动调整了平衡感。反复摔,反复调,突然有一天——会了。
这个过程和一个神经元学画线,没有本质区别。
区别只在于:人类能同时处理大量输入(视觉、触觉、平衡感),而一个神经元只有一个输入。但底层的"试错→调整→试错→调整"循环,是一样的。
这就是为什么"一个神经元"值得单独讲一篇。它不是最强大的计算单元——恰恰相反,它弱到令人发笑。但它的学习机制,是所有强大模型的最小公约数。理解了这一个神经元怎么学习,就理解了 GPT-4 在一万亿倍规模上做的是同一件事。
下一步:一个人搞不定的事
一个神经元只能画一条直线。但现实世界中的数据很少能用一根直线分开。
下一篇文章,我们在一个神经元的基础上,增加一个搭档。两个神经元一起工作——不是每个人变得更聪明,而是多了一个视角。
两个普通视角的组合,能做到任何单一视角做不到的事。
从零学习 AI 系列 · 第一篇 下一篇:一层神经元——为什么两个人比一个人聪明
更多推荐

所有评论(0)