simple_mnist，一个用于 MNIST 数字识别的纯前馈神经网络实现，完全用 C 语言编写。
github.com/tsotchke/simple_mnist
该实现在 MNIST 测试集上实现了超过 99%的准确率，且未使用卷积层。这个项目证明了在精确和谨慎地应用基本神经网络原理时的优雅性。
“如今，大多数高精度MNIST实现都依赖于卷积神经网络（CNN），它具有内置的空间归纳偏置。该实现采用了一种不同的方法，证明了有时经典方法经过精细调整后可以与现代方法相媲美：
纯前馈架构： 仅使用全连接层即可实现类似CNN的性能。
优化的神经元分配： 神经元在各层（784→512→256→10）之间的战略分布平衡了容量和泛化。
现代优化堆栈： 结合了深度学习框架中常见的基于研究的技术。
保守的学习率（0.01）与余弦退火。
有效的正则化（L2权重衰减：2e-5）。
高效的批处理（每批128张图像）。
最小依赖项： 仅依赖于标准C库和math.h。
可读的实现： 清洁、文档完善的代码，可作为教育资源。
性能导向： 针对ARM处理器的可选SIMD优化。”
ai生活指南ai创造营
