解放战争时期，张文舟是彭德怀的左膀右臂，也是他的爱将之一。西北野战军成立的时候，彭德怀任司令员兼政委，张文舟是参谋长。当时西野的总兵力只有两万余人，而对手胡宗南却有数十万精锐中央军。双方在兵力和武器装备等方面存在着巨大的差距，这种情况下如果一味和敌人死打硬拼显然是不行的。

张文舟是科班出身的参谋长，军事素养和参谋水平都很高。他结合陕北的地形特点和敌我双方的实际情况，决定以“蘑菇”战术应对胡宗南的进攻。利用敌人急于和我军决战的心理，以精干的小部队伪装成主力，牵着敌人的鼻子在黄土高原的沟沟坎坎中打转转，将敌人拖疲拖垮。等敌人精疲力尽的时候，主力再突然杀出，选择一路敌军加以歼灭。

这个战术打法收到了很好的效果，短短一个多月内，西北野战军就接连取得了青化砭、羊马河和蟠龙三场战役的胜利，消灭敌军14000多人，并活捉了被胡宗南称为有“雄才大略”的整编167旅旅长李昆。同时还缴获了一万多袋面粉、4万多套军服和大量的枪械弹药。这对于物资补充极为困难的西北野战军来说，是一个很大的收获。

这三场战役中，张文舟展现出的谋略给彭德怀留下了很深的印象。之后他又协助彭德怀组织实施了陇东、三边、沙家店、黄龙和延清等战役战斗，接连取胜。沙家店战役中更是重创了胡宗南手下头号悍将钟松，极大提振了部队的士气。1948年2月下旬，西北野战军发起宜川战役。

宜川的战略地位十分重要，守敌的兵力却有限，彭德怀和张文舟等人商议后，决定围城打援，进一步消灭胡宗南的有生力量。1948年2月22日，许光达的3纵和罗元发的6纵奉命向宜川发起猛攻，扫清外围据点后将宜川包围，敌人一面顽抗一面向胡宗南求援。为了给宜川解围，胡宗南派出了手下另一名大将时任整编第29军军长的刘戡。

当时刘戡要增援宜川有三条路可以走，一是由洛川经瓦子街到宜川。这是条大路，便于大部队行动，距离又近，但瓦子街以东有一段道路十分狭窄，容易遭到伏击；第二条路是从洛川出发，经黄陵和黄龙等地后到达宜川。这条路的增援距离是第一条路的两倍；最后一条路是走进士庙一带的山路。

刘戡究竟会走哪条路谁也说不准，而西北野战军的兵力又有限，不可能在这三条道路上都布下伏兵。张文舟对胡宗南很有研究，认为在救兵如救火的情况下，他极有可能命令刘戡走瓦子街这一条路。彭德怀的判断也和张文舟相同，于是西北野战军在瓦子街布下了重兵。同时也做出了刘戡万一走另外两条路的预案。

果不出张文舟和彭德怀所料，刘戡还真就走了瓦子街这条路，结果一头撞进了我军的伏击圈，被消灭了29000多人，刘戡也兵败自杀。宜川大捷之后，西北战场上的局势被彻底扭转，胡宗南虽然兵力还占据优势，但已由进攻转入了防御。战后彭德怀专门对张文舟提出了表扬。

两个多月后，西野发起了西府陇东战役，直取胡宗南的后方物资补充基地宝鸡。为了阻挡敌人可能出动的援军，彭德怀命令罗元发的6纵在长武和彬县一带阻挡马继援；王世泰的4纵在岐山一带阻挡裴昌会兵团。结果6纵没能挡住马继援骑兵的冲击，丢掉了长武和彬县。罗元发将战况用电台向彭德怀做了汇报，得到同意后率部向宝鸡前进，准备和主力靠拢。

此时4纵方面一直没有消息，按理来说宝鸡有大量的军需物资，胡宗南不可能不派兵增援。出于稳妥考虑，在4纵没有报告的情况下，张文舟作为参谋长应该主动给王世泰去电，询问一下战况。但当时一纵和二纵刚刚占领宝鸡，缴获了足够西野全军使用两年以上的军需物资。张文舟忙于组织部队换装，没有及时询问4纵的战况，只是主观认为既然王世泰没有汇报，那肯定就是守住了。

不料这次张文舟的判断却出现了严重的偏差，4纵根本就没能挡住裴昌会兵团的冲击。在有电台的情况下，没有给上级报告，也没有通知友邻部队，不打招呼就擅自撤退了。结果一纵和二纵差点被裴昌会兵团堵在宝鸡城内，此时青马骑兵也不断逼近，西野处在了极为不利的地步，只得放弃宝鸡撤退。途中多次和敌人激战，付出了15000余人的伤亡代价才回到了解放区。

西府陇东战役失利后，彭德怀做了深刻的自我批评，4纵司令员也受到了严厉批评，时任4纵警备第3旅旅长的黄罗斌被调离野战部队，来到地方部队任职；时任警备第3旅5团团长的郭应春被撤职，降为普通战士。参谋长张文舟未能及时掌握4纵的战况和动向，对战役的失利也负有不小的责任，由西野参谋长降为4纵参谋长。

1949年年初，西北野战军改称第一野战军，张文舟出任一野第二兵团参谋长，跟随部队参加了许多重要的战役和战斗，为解放大西北作出了重要贡献。新中国成立后，张文舟出任装甲兵参谋长，并参加了抗美援朝战争，担任过志愿军代参谋长，1952年被定为正军级，1955年调任南京军事学院装甲兵系主任。

1955年大授衔的时候，张文舟在拟授中将名单当中。红军时期他担任过军参谋长，八路军时期担任过副旅长，解放战争时期担任过西野参谋长，新中国成立后担任过装甲兵参谋长和志愿军代参谋长，加上他陕北红军出身的加成，张文舟完全够得上中将的标准。

当时彭德怀负责一野系统中将的评定，他对自己和部下都要求极严，他的亲侄子彭起超在大授衔的时候就硬被他压低了一级军衔，彭起超当时想不通，后来才理解了伯父。当彭德怀看到张文舟在拟授中将名单中后，认为他对西府陇东战役的失利负有一定的责任，而且加入红军队伍的时间也比较晚，授中将有点高，就把他从拟授中将的名单中去掉了。最终张文舟被授予少将军衔，他也是四大野战军7名参谋长当中唯一的一名少将。1986年，张文舟将军病逝，享年74岁。