看了一篇论文「Are transformers truly foundational for robotics?」,又觉得 Transformer 不大对了。[哈欠]
蜜蜂的大脑只有 1 立方毫米多一点,参数量非常少,不到 96 万个神经元。
蜜蜂的大脑会多模态的感知、导航、空间定位、学习和协作,可以在蜂巢周围飞行 20 分钟,在长达几公里的范围内可靠的导航、自主采集花粉、花蜜,可以与其他蜜蜂沟通和协作,一起进行建立和维护蜂巢所需的所有工作。
蜜蜂的大脑内部是完全模块化的,有专门处理视觉、嗅觉、记忆和感知学习的独立模块。
蜜蜂的大脑的能耗只有 10 微瓦。
以上这 4 个特征,规模、性能、架构、能耗,和 Transformer 是完全对立或接近完全对立的。