1937年9月下旬,八路军一二〇师由贺龙师长、关向应政委等率师部及三五八旅到达晋西北神池县八角堡地区。1938年3月师部移驻岚县。1939年1月下旬,贺龙、关向应率领师直属队、第七一六团和独立第一支队等部,到达河北省河涧县惠伯口地区与冀中军区会合,执行巩固冀中抗日根据地,帮助冀中部队整训和扩大本身力量等三项任务。1940年2月,根据中央军委命令,师主力由晋察冀边区返抵晋西北,师部驻临县窑头村,4月初移驻兴县蔡家崖。1940年11月7日晋西北军区成立,第一二〇师领导机关兼军区领导机关,贺龙兼军区司令员,关向应兼军区政治委员,副司令员续范亭,参谋长周士第,政治部主任甘泗淇。
第一二〇师驻晋西北(晋绥)军区第二、三、六分区的部队有:
一、第三五八旅:旅长张宗逊、政治委员李井泉(后张平化)、参谋长姚吉吉。1937年9月下旬随师部到达晋西北,辗转活动于神池、五寨、岢岚、静乐、宁武、崞县、忻县等地。1938年10月奉命进入五台山地区,支援晋察冀边区反围攻作战。是年11月下旬返回静乐娄烦地区。1939年1月师部率七一六团开赴冀中,又调旅长张宗逊、政治委员张平化到冀中组织纵队指挥部。后又以三五九旅旅部和七一四团为基础编成新三五八旅(称彭三五八旅)留晋西北坚持对敌斗争。
1940年1月23日,为粉碎国民党的第一次反共高潮,战斗在晋察冀边区的张三五八旅(独二旅改称)由旅长张宗逊、政治委员张平化率领返回晋西北,转战在宁武、静乐、忻县、崞县(原平)和岚县、兴县等地。1940年11月,三五八旅奉命兼晋西北军区第3军分区,张宗逊兼分区司令员,李井泉兼分区政治委员。1943年6月,为打退国民党第三次反共高潮,三五八旅奉命进抵陕西省延安以南邝县以西之葫芦河地区,执行保卫党中央,保卫陕甘宁边区的任务。下属部队有:
第七一五团:团长王尚荣,政治委员朱辉照。1937年9月下旬随旅部到达晋西北,主要活动在忻县、阳曲、崞县、宁武等地。1938年7月编入大青山支队,开赴大青山地区。同年12月奉命调往冀中,编入一二〇师独立第一旅。
第七一六团:团长贺炳炎,政治委员廖汉生,参谋长曾来古,政治主任伍云甫。1937年9月下旬到达晋西北,转战在雁门关、崞县、忻县、五台、静乐、偏关、神池、朔县、怀仁等地。1939年1月随师部到达冀中区。1940年2月返回晋西北,活动在静乐、岚县、兴县等地。1943年6月开赴陕甘宁边区。
第七一四团:1938年1月由忻崞独立团改编而成。团长顿星云,政治委员彭德大。主要活动在崞县、忻县、阳曲、太原一带。1939年1月师主力挺进冀中后,该团编入彭三五八旅。
第四团:1939年9月编入张三五八旅。团长徐立树,政治委员孙占彪。1940年4月到达晋西北,活动在岚县东村、静乐米峪镇地区。1940年11月改称第7团,团长唐金龙,政治委员杨秀山,转战在兴县、静乐、阳曲等地。1943年6月,三五九旅主力开赴陕甘宁边区后,该团仍留静乐地区坚持斗争。1944年2月回到陕甘宁边区归建。
第八团:1940年夏由晋绥第6、第3支队编成。团长刘彬,政治委员余秋里。主要活动在静乐、宁武、兴县等地。1943年6月,随旅部到达陕甘宁边区。
二、第三五九旅:旅长陈伯钧,副旅长王震(后任旅长兼政治委员),参谋长刘子奇。1937年9月上旬,旅部奉命率第七一七团由陕西省富平县出发开赴五台、平山地区。是年10月中旬到达晋西北,转战在雁门关以南,崞县、忻县城以西地区。1938年4月第三五九旅主力由崞县上阳武地区开赴浑源、广灵一带,参加晋察冀根据地的抗日斗争。1939年10月,进抵陕西省绥德、米脂、葭县、吴堡地区,接替绥德警备区的防务。第三五九旅下属部队有:
第七一七团:团长刘转连,政治委员晏福生,参谋长欧阳家祥,政治主任刘理明。1937年9月下旬随旅部到五台山地区。是年10月上旬开赴晋西北,活动在神池、五寨、岢岚等地。1938年5月,转战在广灵、灵丘、五台、阜平地区。1939年10月随旅部回师陕甘宁地区。
第七一八团:1938年1月由河北省平山、井陉地区组建的平台独立团改编而成(原七一八团留守陕甘宁边区)。团长陈宗尧,政治委员刘子奇,参谋长帅荣,政治主任罗志敏。主要活动在崞县、宁武等地。1938年5月随师部到达广灵、灵丘、阳高、大同地区。1939年8月进到恒山山脉主峰地区,开展游击战争。
第七一九团:1938年1月由崞县新兵团改编而成。团长贺庆职,政治委员陈文彬。1938年春参加收复晋西北七县城作战后,即进到山阴、应县地区开展游击战争。
三、彭三五八旅:1939年4月由第七一四团、独立第一团、第二团、警备第六团和独立第六支队编成。旅长彭绍辉,政治委员罗贵波,参谋长李夫克,政治部主任刘惠农。主要活动在河曲、保德、偏关、五寨、岢岚、岚县一带。1940年4月改编为一二〇师独立第2旅。其下属部队:
第七一四团:团长顿星云,政治委员张世良。1939年4月编入彭三五八旅。主要活动在岢岚、岚县等地。1940年4月编入一二〇师独立第二旅。
独立第一团:1938年底由晋西北独立第二、第三支队编成。1939年4月编入彭三五八旅。团长毛少先,政治委员陈云开。主要活动在崞县、忻县、阳曲一带。1940年4月改称第五团,编入一二〇师独立第二旅。
独立第二团:1938年底由晋西北独立第四支队编成。1939年4月编入彭三五八旅。团长周彪,主要活动在阳曲、清源、文水、交城地区。1940年4月并入第七一四团。
警备第六团:1937年9月由一二〇师工兵营改编而成,团长王兆相,政治委员张达志,主要活动在偏关、河曲、保德一带。1938年4月奉命开赴朔县、怀仁以西地区,开辟雁北抗日根据地。1939年4月编入彭三五八旅,团长孙超群,政委张达志,转战在岢岚、偏关、右玉、清水河、和林格尔一带。1940年4月改称第六团,编入独立第二旅。
四、独立第二旅:1940年4月由彭三五八旅改称。旅长彭绍辉,政治委员张平化,参谋长李文清,政治部主任刘惠农。同年11月,独2旅兼晋西北军区第2军分区,彭绍辉兼分区司令员,张平化兼分区政治委员,旅部先后驻河曲、保德、五寨、岢岚县。1945年8月编入晋绥野战军,挺进绥察。下属部队:
第七一四团:团长张绍武,政治委员张世良,参谋长樊哲祥,政治处主任潘振华。主要活动在宁武、神池、五寨、朔县一带。1943年8月,调归独立一旅建制。
第五团:由独立第一团改称。团长曾征,政治委员罗斌,参谋长张全忠,政治处主任寻光仰。主要活动在宁武、神池、朔县一带。1940年11月改编为第二军分区警卫营。
第六团:1940年4月由警备第六团改称。团长张鸿卿,政治委员王定一,参谋长秦实庵,政治处主任黄立清。同年10月改为第九团,团长毛少先。主要活动在神池、五寨、岢岚、河曲、偏关等地。1945年4月调归塞北军分区建制。
独立第六支队:1940年4月编入独立第二旅,支队长刘华香,政治委员姜胜,同年10月调归晋绥军区第五军分区建制。
暂编第一师:1940年11月,原山西新军总指挥部所属暂编第一师(辖三十六团、三十七团)拨归第二旅建制。1 942年4月部队精简整编,撤销暂编第一师师部,将三十七团并入三十六团,团长高永祥,政治委员严尚林,参谋长李伐东,政治处主任曹铭。主要活动在河曲、保德、神池、五寨、岢岚、偏关、平鲁等地。1945年8月随旅部挺进绥察。