1952 年 12 月察哈尔省撤销后,察哈尔省雁北军分区及所属市县武装部划归山西省军区建制,改称山西省雁北军分区。
1954 年 8 月,大同、怀仁两县合并,成立大仁县人民武装部。不久,在各县武装部的基础上成立县兵役局(一套机构两块牌子)。
1958 年撤销兵役局,县区正式恢复人民武装部建制。是年底,雁北、忻县两专区合并为晋北专区,雁北军分区和忻县军分区随即改编为山西省晋北军分区。分区驻大同,下辖大同市和忻县、原平、五台、繁峙、静乐、五寨、河曲、保德、偏关、宁武、朔县、山阴、应县、左云、浑源、广灵、灵丘、阳高 18 个县武装部。分区机关下设司令部、政治部、后勤部。司令部设参谋科、兵役民兵科、训练科、管理科、警通排;政治部设组织科、宣传科、干部科。
1961 年 8 月,晋北专区撤销,改称山西省雁北军分区,辖大同市和浑源、灵丘、广灵、应县、天镇、阳高、左云、右玉、山阴、朔县、平鲁县武装部以及古城、怀仁、城区、口泉 4 个区武装部,分区机关仍设司、政、后三大部。司令部设战斗科、训练科、组织动员科、管理科、警备科(后改为卫戍科);政治部设组织科、干部科、宣传科;后勤处设供给科、军械科、卫生科。直属队有警通排教导队。
1964 年 12 月,大同市古城区武装部改为大同县武装部,怀仁区武装部改为怀仁县武装部(为团级建制),城区、口泉区武装部为营级建制。1965 年 6 月,大同市人民武装部改由省军区直接领导。次年 7 月,大同县、怀仁县人民武装部改由雁北军分区领导。10 月,公安部队撤销,雁北公安支队改由雁北军分区领导改称雁北军分区独立营。
1970 年 4 月,大同市人民武装部又划归雁北军分区领导。6 月,分区机关进行整编,改设司、政、后三大部,作战科、训练科合并为作训科,卫戍科改为卫戍办公室,增设机要科、通信科,政治部增设保卫科,后勤部供给科改为供应科,军械科改为装备科,增设了战勤科。1970 年 9 月,新设大同市北郊区(即新荣区)武装部。1971 年 12 月,大同市及四个区武装部划归省军区直接领导。雁北军分区下属 13 个县人民武装部和 1 个独立营、1 个警卫连。公社、乡镇和较大厂矿、公司设专职武装部长,属所在县人民武装部和同级党委双重领导。担负所在地区民兵组织训练、指挥、兵役等工作。
1971 年 5 月,分区成立“三支两军”(支工、支农、支左、军管、军训)办公室,编制 8 人,设主任、副主任各 1 人,干事 6 人。1975 年 1 月,各级“三支两军”办公室撤销。
1973 年 11 月,大同市人民武装部又改归省军区直接领导。
1978 年底,分区机关进行整编,司令部设作训科、动员科、军务科、通信科、机要科、管理科,取消了卫戍办公室。后勤部增设财务科、民兵装备仓库。1979 年 12 月,根据中央军委总政治部的通知精神,雁北军分区恢复第一政委、并由雁北地委书记兼任的制度。这一时期,雁北军分区领导机构设司令员、第一政委、政委、副司令员、副政委、参谋长、政治部主任。司令员、政委由中央军委任命,其他主要领导由北京军区任命。1981 年 10 月,政治部取消保卫科;后勤部财务科、军需科及营房工作合编为供应科;卫生科改为卫生所。次年 9 月,组建干休所(副团级单位)。1983 年 5 月,分区独立营移交雁北地区公安处,成立雁北武装警察支队,隶属于中国人民解放军武装警察部队山西总队领导,各县成立人民武装警察中队(也称县中队)。
1986 年 5 月,部队进行精简整编,分区机关各部取消科的编制,直属队取消警卫排,仍保留教导队和干休所。分区下辖的阳高、天镇、大同、左云、右玉、怀仁、山阴、应县、朔县、平鲁、浑源、灵丘、广灵 13 个县武装部改归地方建制。各县县委书记不再兼任第一政委,而改任其县人民武装部党委书记。
1989 年 1 月,原雁北所辖的山阴、朔县、平鲁划归朔州市。其军事工作仍由雁北军分区负责。1993 年7 月大同市、雁北地区合并,大同军分区和雁北军分区合编为大同军分区。下辖左云、大同、阳高、天镇、浑源、广灵、灵丘 7 个县武装部和新荣区、城区、矿区、南郊区 4 个区武装部。