1938年5月中旬，中共苏鲁豫皖边区特委调集沛县、滕县和峄县的抗日武装，在滕峄边山区的墓山、南塘、善崮一带会合，成立人民抗日义勇总队，委任张光中为总队长，何一萍为政委。总队下辖3个大队，峄县来的队伍编为第三大队，住在墓山、凤凰庄。朱道南和纪华、朱玉相、刘景镇负责这个大队，但朱道南没有担任具体职务。
部队的正式番号是“第五战区人民抗日义勇总队”，是郭子化在徐州给李明扬说好后确定的。总队部驻南塘，特委驻沙棚。
此时，董尧卿带着一部分武装驻在峄县南常一带。该部有一个中队，曾与朱道南带来的峄县队伍合编在一起，称第五中队，义勇总队正式组建后，又让他们回到董尧卿部。杨士元已经不在自卫军了，董尧卿仍以自卫军的名义活动，受特委领导。但是，这部分人员比较复杂，团结不好，纪律差。
我方派了部分干部进去，工作很难开展。第五中队长李德胜，不听董尧卿指挥，想投敌叛变。后来，朱道南派刘景镇和董尧卿商量，把他枪毙了。从此，部队纪律好了许多。又处决了几个坏人，这个部队才巩固下来。
义勇总队成立后，第一个对付的是马卫民。
马卫民，自称华北游击第五纵队司令，收编了些土匪武装，有近400人，盘踞在滕峄边山区。该部到处抽枪、罚款、牵牛、架票。更不能容忍的是，他们架票时竞用我义勇总队的名义，徐州的国民党报纸上就骂义勇总队是土匪。大家很气愤，都要求尽快地消灭他。
第三大队第三中队住在凤凰庄，离墓山有六七里路。三中队司务长乔锦章率领10余人到墓山村去催柴草、粮食，路过小马庄时，村里出来一些人热情招待他们，香烟、茶水摆了一大桌子。乔锦章他们正在喝茶吸烟时，突然又出来一帮人，把他们的枪给没收了，人也给绑起来了。
朱道南闻讯立即派刘景镇带人前去营救。刘景镇带人追上他们后，见是土匪头子杨二恶、曹万仓，可我方的人早已被带走了。杨、曹已被马卫民收编，知道第三大队也不是好欺负的，见人追来，吓得跪下叩头说：“我该死！不知是你们的人，保证马上把人放回来。如果不送，你枪毙我！”刘景镇见他们苦苦哀求，便将他们放走了。
朱道南赶到时，杨二恶、曹万仓已经走远了。几天过去了，仍不见放人。第三大队多次派人交涉，既不放人，也不还枪。马卫民还给朱道南等人写信，说什么“我们应该讲统一战线，枪口要一致对外”等。这家伙，不放人，还反咬一口。
第三大队忍无可忍，决定用武力来解决。褚雅青和刘景镇等，一提打马卫民都很积极。
反马战斗共打了3天，消耗子弹1万多发，是比较大的战斗。结果把马卫民的400余人全部击溃，缴获了很多武器弹药和1部电台，马卫民也被俘虏了。第三大队被抓去的10几个人和枪也全都弄了回来。
马卫民见了朱道南恳求说：“道南兄，真对不起你，请还我的眼镜好吗？”朱道南说：“给你眼镜容易，可是你作恶不小，先在这里受点委屈吧！”
时值台儿庄会战后期，徐州吃紧。郭子化从徐州回到滕峄边后，特委确定由韩文一负责处理马卫民。他根据大家讨论的意见，便将马卫民枪毙，为滕峄边人民除了一害，群众无不拍手称快。此次战斗，在鲁南来说，是我党领导得人民抗日武装第一次与国民党顽固势力的正面摩擦。
1938年5月初，大批日本兵沿临（城）枣（庄）铁路的两侧由东朝西走，日夜不断。当时第三大队驻在墓山，不知道日本人要去包围徐州，也不知道台儿庄大战的详细情况。
有些人认为这是敌军退却，主张借机打一下，尤其韩文一很积极。他当过国民党的县长，处事果断，口才很好，在枣庄开大会时，他上台讲演，号召力很强，后来经郭子化做工作，他就在第三大队这里随队行动了。刘景镇、朱玉相、褚雅青等都积极要到铁路沿线打敌人。大家计议一番后，就行动了。
峄县的修庄和小甘霖村离敌人走的路线很近，便于部队在那里埋伏。敌人过来，我军就放枪，不管怎么打枪，敌人也不理睬。第三大队打死几个敌兵，可日军就是一股劲地往前赶路。
头一天战斗，没有多大收获，但也没有什么损失。到了夜里也去打，第二天早上又去打。得了一些东西，还有3匹洋马。连续打了两天两夜，大家很疲劳。
第三天上去一打，这时鬼子还枪了，转过头就冲过来。第三大队就从磨塘退到小山口，敌军见我队伍后撤了，也不再前来追赶了。第三大队的一个班长在这天牺牲了。这人叫陈连，是上新庄人。大家把他的遗体抬回墓山，买了口棺材送回家去埋了。
第四天刮起大风，过路的敌军没有前几天多，过了些马车、牛车。这天上午，第三大队们打伏击得了两辆牛车，车上装着军毯、军衣，还有钢笔，但大部分是骨灰。第三大队没人见过这东西，一袋袋装着，闻不到味，当时就撒了，剩下些东西给了老百姓。
这一仗，在鲁南震动很大。拉起武装打敌人，在峄县来说，第三大队是第一个。顽固分子的武装不敢和敌人照面。
以后，朱道南他们才知道，日军在台儿庄附近损失惨重，于是调兵增援台儿庄，企图渡过运河夺取徐州。日军的另外一部分兵力迂回到微山湖以西，从沛县、丰县一带包围徐州。5月19日，徐州失守了。
1938年春，鲁南这片地方司令多如牛毛，有一个连就称司令，十人八人也叫司令。峄县国民党第五十支队司令黄僖堂给地主士绅、土匪、兵痞等乱发委任状，局势非常混乱。
倾向抗日的武装也不少，像孙伯龙、邵剑秋、孙怡然、胡大勋等部。6月初，他们给朱道南写信说：“你别在山里啦，出来看看吧。”朱道南也感到有必要出去，以扩大我党的影响。郭子化从徐州回来后，也觉得派朱道南出去更合适，说：“你出山吧，到自卫军去看看，张洪仪在那里工作有些困难，他在那里兼政训处长，叫文立征多做些实际工作。你去后住几天，安排一下就行了。”
朱道南也想看看台儿庄大战后的情况，就带着三大队一起行动了。队伍到周营后，他便召集董尧卿、孙伯龙、邵剑秋、孙怡然等人开了个会，共同商议成立了“山外抗日联合委员会”。朱道南被大家推举当主任。
接着，他又到南常董尧卿那里看了一下，发现该部有的中队长表现很不好，一些青年学生不愿意在那里干。针对这个情况，朱道南提议在白楼村办了训练班，各部都派人参加受训。训练时间虽然不长，效果还是不错的。
后来朱道南又带人到了台儿庄附近，在柱子山北面见到一个一个的敌兵坟墓，墓前都有一块木牌，上面写着上百个日本人的名字。证明台儿庄大战时敌人死亡很多。他也听说，参战的中国军队阵亡也不少。
时值6月天，又下了场大雨，坟被水一冲，骨头架子露在外面。雨水从山上流下来，尸体腐烂，臭气难闻，苍蝇很多，一脚能踩死好几个，煎饼上的苍蝇屎都成黑的。
第三大队为加强抗日宣传，走到一个地方就唱歌，政治空气很浓，目的是刹一刹黄僖堂这些顽固派的威风，以扩大我军影响。
在北洛村，朱道南找到峄县另一个地主武装头子孙业洪。以前，朱道南觉得这人还有希望跟我方一起抗战，后来发现他已接受了张里元的委任，就没再做他的工作。
在北洛村住了一夜，朱道南接到郭子化的信，他命令第三大队立即赶回来参加反顽斗争。同时，叫董尧卿和褚耀斌的人也到山里参加反顽。朱道南接到信后，当夜赶到周营，又路过董尧卿那里，将特委的指示告诉了董尧卿和董开夫。
第二天，队伍回到了山里，仍住在墓山。郭子化见到朱道南说：“申宪武认为我们的活动对他有威胁，到处骂我们共产共妻，和一些顽固分子联合起来要搞我们。他召集其他顽固势力头子已经开过会，制定了一套计划，想趁我后方空虚时下手。”
他还说：“崔遽庵也参加了他们的会，这个秘密是崔透露给我们的。”
这时，总队部没有多少武装，一个警卫连，人数少，战斗力也差。特委在调第三大队的同时，又调万春圃的四县边联常备队。大家到齐后，共同研究了对付申宪武的作战计划，确定由西北特支派来的军事指导童陆生担任反顽作战总指挥。
申顽行动比预定的晚了几天，义勇总队准备就绪后，就先下手了。我方兵力集中，力量比较大，出其不意，一下子把申宪武搞垮，战斗很快结束了。黄僖堂、梁继璐不敢过来。秦启荣在邹县，开始准备支援申顽，申顽被击溃以后，也没敢动。这时，峄滕边区比较安定了。
但由于我方执行政策上有些问题，致使地主武装头子有些恐惧。申宪武借机很快又恢复起来，勾结了西集、文王峪一带的地主武装，秘密联合起来对付义勇总队。朱道南们的处境更困难了。
为了扭转鲁南形势，特委派人北上，请山东省委派部队来支援。省委书记郭洪涛闻讯后，随即亲自率领第四支队二团赴鲁南支援义勇总队。这一来，打垮了申顽部队，我方的声势更大了。
顽固分子愈加恐惧，妄图和我死拼。义勇总队的困难越来越大，局面更加被动了。义勇总队和第四支队联合几次攻打东江未能攻克，部队的武器弹药供应更加困难，伤员也不断增加。郭洪涛同志决定带领第四支队返回鲁中，命令义勇总队东撤临沂大炉一带开辟根据地。
这时，郭子化写了封信，叫朱道南到莱芜石友三那里求援。朱道南奉命前往，在郑家庄找到石友三的政治部主任张友渔（共产党员），向他说明了来意。张友渔对朱道南说：“石友三已被国民党军统特务控制起来，他变得越来越反动了。我们的一些工作人员都要离开这里。”朱道南一看没办法，只好回来了。
为摆脱困境，同年7月下旬，义勇总队遵照省委指示，离开了抱犊崮以西的滕峄边区，转移到抱犊崮以东去。因为那里群众基础好，敌人统治力量薄弱，便于我开展活动。
部队东撤时，一路上被顽固分子、土匪武装拦截，不得不边打边走，前进非常困难，有些同志牺牲了。郭子化、张光中去找李以锦谈判，李虽是个反共分子，但他不希望在他那里打仗，同意放行。
义勇总队经过北面山沟时，发现前面设有埋伏，朱道南对郭子化说，李以锦说要放朱道南们过路，他又重兵埋伏，可要警惕呀。郭子化又去找李以锦谈，结果还不错，李以锦的部队在那里没敢动。义勇总队撤到临沂大炉一带后，才脱离战斗。
大炉地处山区，群众生活十分艰苦，部队的供给发生很大困难。经省委研究，义勇总队又改用张里元的番号称“山东第三专员公署保安司令部直辖四团”。这时，张里元和我方关系还比较好，给了些供给。
到大炉不久，朱道南又奉省委的命令，去王学礼部做收编地方武装工作去了，从此离开了抗日义勇总队。
