DC娱乐网

bro进来看看我的理解 为什么叫深度学习而不叫宽度学习?[what] 在学习机器

bro进来看看我的理解
为什么叫深度学习而不叫宽度学习?[what]
在学习机器学习中神经网络这一节的时候总是有一个疑问存在,为什么神经网络非要加深度而不是宽度?[吐舌]
以下是个人理解,看图2:
左图宽度学习为1输入、单层8个隐神经元、1输出,总权重参数1×8+8×1=16个,仅单层一次非线性变换,函数拟合能力有限,做高维到低维映射时只能一次性压缩,极易丢失关键特征;右图深度学习为1输入、两层隐藏层(第一层2个神经元、第二层4个神经元)、1输出,总权重参数仅1×2+2×4+4×1=14个,参数总量更少却拥有两层连续非线性变换,多层叠加的复合映射可以拟合远更复杂的数据函数关系,分层完成特征压缩:先将输入映射至2维中间特征空间筛选基础信息,再二次映射至4维高阶特征空间提炼核心规律,分步实现高维到低维的信息降维,分层留存有效特征、减少信息损耗,不会一次性压缩造成特征丢失;反观左侧宽度学习,若要达到右图双层网络同等复杂的函数拟合效果,必须继续成倍增加单层神经元,权重参数会大幅激增,不仅计算成本飙升、容易过拟合,单次单层维度压缩也会大量损失关键信息,最终模型输出的预测精度远不如图中这种深度网络,这也体现出深度神经网络综合性能更优越,但是我感觉一昧的“深”度学习肯定不行,数据从不同维度的空间中变化不仅要考虑到数据在“何”维度能提取到有用的信息(这里是体现到宽度),还要考虑维度变化时提取到的数据信息是否受损(这里体现到的是深度),所以我感觉应该深度+宽度融合的神经网络才是更好的方案。[害羞][害羞][害羞]
深度学习 大模型 人工智能 研究生 考研