逆传播

• 数学本质：通过链式法则计算损失函数对权重的梯度，从输出层逐层反向调整权重。
• 核心要求：
  • 全局监督信号：需预设损失函数（如均方误差）。
  • 精确同步性：前向传播与反向传播需严格分阶段进行。
  • 可微性：激活函数必须处处可微（如Sigmoid, ReLU）。

生物神经元的学习依赖突触可塑性（如Hebbian学习规则："一起激发的神经元连接加强"）。但反向传播的全局优化特性在生物脑中如何实现仍是未解之谜。目前主要有三类假说：

1. 反馈连接与误差信号传递

• 解剖基础：
  • 哺乳动物皮层存在大量自上而下的反馈连接（如视觉皮层V1→V4的前馈 vs. V4→V1的反馈）。
  • 反馈通路数量常远超前馈通路（比例可达10:1）。
• 可能的误差传递：
  • 预测编码理论：高层神经元向下传递"预测信号"，底层神经元比较感官输入与预测的差异（即"预测误差"），通过局部微环路调整突触。
  • 实验证据：
    • 动物在执行错误依赖学习时，前额叶皮层会向感觉皮层发送误差信号（如猕猴的决策任务）。
    • 多巴胺系统编码奖励预测误差（RPE），但其传播是弥散性的，非分层反向传播。

2. 脉冲时序依赖可塑性（STDP）的类反向传播

• STDP机制：突触前后神经元脉冲的时序决定突触增强（LTP）或减弱（LTD）。
• 潜在反向传播模拟：
  • 若输出层神经元在目标信号后激发（表示误差），其反馈脉冲可能与输入脉冲形成特定时序关系，诱发突触调整。
  • 局限性：STDP本质是局部规则，难以解释多层网络的全局优化。

3. 神经调制物质的"广播式"误差信号

• 多巴胺/血清素/乙酰胆碱等神经调质可向全脑广播强化信号。
• 生物学反向传播假说（如2020年Nature提出的PrediNet）：
  • 多巴胺编码的RPE通过胶质细胞或电突触扩散，结合局部STDP实现多层网络训练。
  • 类似思想：Hinton的合成梯度（synthetic gradients），无需等待全局误差。

1. 解剖结构差异：
   • 生物神经网络非严格分层，存在循环连接（RNN更接近生物结构）。
   • 反向传播需对称的前向/反向通路，但生物脑的反馈通路与前馈通路结构不对称。
2. 时间尺度问题：
   • 反向传播需锁存前向激活值直至误差回传，而生物神经元是动态脉冲，难以"冻结"状态。
3. 局部性约束：
   • 突触可塑性依赖局部信息（如钙离子浓度），而反向传播需要全局误差。

1. 预测编码（Predictive Coding）：
   • 每层神经元维护"状态预测"和"预测误差"，误差自下而上传递，预测自上而下传播。
   • 类似贝叶斯推理，得到IBM等机构实验支持（如2019年Neuron论文）。
2. 均衡传播（Equilibrium Propagation）：
   • 通过能量最小化框架，在神经动力学稳态下计算梯度（更接近脉冲网络特性）。
3. 差异目标传播（Difference Target Propagation）：
   • 使用局部目标（非全局梯度）逐层传播，避免链式法则的生物学不合理性。

• 严格意义上，生物脑不存在反向传播算法，但存在利用反馈连接、神经调质和局部可塑性实现类似全局优化功能的机制。
• 主流神经科学更倾向预测编码理论作为"生物逆传播"的合理解释。
• 计算神经科学正探索生物可实现的深度学习框架（如尖峰神经网络的替代训练方法），以弥合ANN与生物脑的鸿沟。

• Lillicrap, T. P., Santoro, A., Marris, L., Akerman, C. J., & Hinton, G. (2020). Backpropagation and the brain. Nature Reviews Neuroscience, 21(6), 335-346.
• Whittington, J. C. R., & Bogacz, R. (2019). Theories of error back-propagation in the brain. Trends in Cognitive Sciences, 23(3), 235-250.
• Rao, R. P. N., & Ballard, D. H. (1999). Predictive coding in the visual cortex: a functional interpretation of some extra-classical receptive-field effects. Nature Neuroscience, 2(1), 79-87.
• Scellier, B., & Bengio, Y. (2017). Equilibrium propagation: bridging the gap between energy-based models and backpropagation. Frontiers in Computational Neuroscience, 11, 24.
• Lee, D. H., Zhang, S., Fischer, A., & Bengio, Y. (2015). Difference target propagation. In Joint European Conference on Machine Learning and Knowledge Discovery in Databases (pp. 498-515). Springer.
• Song, S., Miller, K. D., & Abbott, L. F. (2000). Competitive Hebbian learning through spike-timing-dependent synaptic plasticity. Nature Neuroscience, 3(9), 919-926.
• Schultz, W., Dayan, P., & Montague, P. R. (1997). A neural substrate of prediction and reward. Science, 275(5306), 1593-1599.
• Hinton, G. E. (2022). The forward-forward algorithm: Some preliminary investigations. arXiv preprint arXiv:2212.13345.
• Rumelhart, D. E., Hinton, G. E., & Williams, R. J. (1986). Learning representations by back-propagating errors. Nature, 323(6088), 533-536.
• Friston, K. (2010). The free-energy principle: a unified brain theory? Nature Reviews Neuroscience, 11(2), 127-138.