1949年8月24日，马步芳见求援无望，为了保住自己的大本营，他在仓促中由兰州飞回西宁，在临行前，他放心不下自己的长子马继援，便对他再三叮嘱道：“如马鸿逵、胡宗南及空军再不来援，则迅速撤守青海！


1949年8月21日拂晓，我解放军向兰州南山外围阵地发起首次攻击，马家军则是马步芳，马继援父子的指挥下，依托城防和地利的优势，负隅顽抗，而经过两天的激战，双方伤亡较大，我方进展甚微，


第一野战军司令员彭德怀便当即决定各部队停止攻击，总结经验教训，侦察敌情，调整部署，改变战术，准备再次向兰州城发起进攻。



与此同时，就在兰州鏖战之际，我第一野战军第1兵团传来了好消息，他们击溃了马步芳部骑兵军，强势进占临夏城，使得兰州城的守军右翼和青海方面顿时失去了屏障，马家军首领马步芳见此局面，担忧自己的大本营西宁城失去屏障，城防空虚，便当即将驻守在兰州城的马家军骑兵第8、第14师调往西宁，配合西宁守军据守西宁城。


马步芳在调了两个骑兵师回援西宁之后，为了解兰州之围，当即向宁夏的马鸿逵求援，请求他出兵驰援兰州，马鸿逵这边则因先前与马步芳之间的恩恩怨怨，选择“作壁上观”，表面答应出兵驰援，实则保存实力，按兵不动。


马步芳见此情形，便急电国民政府，请求国民政府派兵来援，但是马步芳却始终没有等来回电，这就让马步芳对此十分无奈，便决定逃离兰州，回到西宁。



8月24日，马步芳在逃离兰州前，放心不下自己的儿子马继援，便暗自叮嘱儿子马继援如果援军不来援，便赶紧离开，以免兵败被俘。


马步芳在交待完整个事情后，便乘坐飞机逃离了兰州，去往西宁，而马继援则留在了兰州，指挥剩余的马家军抵挡解放军的攻势。



马继援本想着带着剩余的马家军守军与第一野战军继续作战下去，但是仅仅一天，在第一野战军火炮部队的攻势之下，马继援胆寒，害怕了，他带着团以上的马家军军官趁着夜色逃离了兰州城。



马步芳，马继援这两位马家军一老一少的主将一走，剩下守城的马家军立马便失去了主心骨，成了一盘散沙，彻彻底底失去了战斗力，第一野战军则是在毫无抵抗的情况下，一举攻占了兰州黄河铁桥，并顺利入城，解放了兰州。



马继援带着团以上的马家军军官逃离兰州后，来到了永登，他本想着在这里收集残兵，进行休整，与马呈祥部会合之后，继续与解放军作战。


但在这个时候，他得到了一个消息，那就是他的父亲马步芳已经乘坐飞机逃离西宁，并来电要求他去往西宁，乘机离开，马继援得知这些消息后，便撇下军队，回到了青海西宁，在马步芳的安排下，在西宁乘坐飞机逃往广州，而就在马继援逃离西宁城时，我第一野战军乘胜追击，在9月5日，解放了西宁，青马军82军副军长赵遂、参谋长马文鼎、129军副军长韩德铭、100师师长谭呈祥、357师师长杨修戎等人见马家军气数已尽，便不再顽抗到底，纷纷选择向解放军投诚，就这样，马步芳苦心经营多年的西北马家军就此覆灭。