第36师师史悠久，最远可追溯至1927年黄麻起义中诞生的红28团以及1929年江西星子、港口起义成立的红32团。

解放战争中，该师参加过邯郸、陇海、定陶、巨野、鲁西南、挺进大别山、宛西、淮海、渡江和进军大西南等重要战役，共毙伤敌25673人，俘敌40537人。因中野3纵被敌人称之为“老虎纵队”，第31师（3纵7旅）由此获得“中野虎师”美誉。

1933年7月，红28团、红32团分别扩编为红四军第10、12师。经多次整编，第10、12师发展为八路军第129师385旅769团。

抗日战争时期，转战太行山，参加了阳明堡、神头岭、响堂铺、关家垴、黄崖洞、百团大战等战役战斗，屡建战功，第769团（106团前身）是抗战四大名团之一，被八路军总部誉为“太行山的拳头，主力中的主力”；八路军总部特务团（108团前身）被八路军总部授予“黄崖洞保卫战英雄团”荣誉称号，被命名为“朱德警卫团”。

1945年10月，改编为晋冀鲁豫野战军第3纵队7旅（旅长赵兰田、政委曾庆梅），下辖第19、20、21团。

赵兰田

1948年3月，晋冀鲁豫野战军改称中原野战军。1948年5月，该部编为中原野战军3纵7旅。

1949年3月1日，编为中国人民解放军第2野战军第3兵团11军31师，师长赵兰田、政委周维，原辖第19、20、21团依次改称第91、92、93团。

1950年12月，调归第2野战军3兵团12军建制。

1951年2月，编为志愿军第12军31师。

1952年1月，在朝鲜江原道金化郡大白二里组建师炮兵团（1953年至1969年曾用炮兵314团番号）。

抗美援朝中，该师参加了第5次战役、金城防御作战、上甘岭战役等战役战斗，共毙伤美军1601人，俘24人，毙伤南朝鲜军11843人，俘252人，涌现出特等功臣胡修道等英模人物和单位。第91团，在与上级失去联系且退路被切断的情况下，采取灵活多变的战术，摆脱了2万多敌军的围追堵截，成功突围。

1954年4月，从朝鲜战场回国后恢复解放军第12军31师编制，进驻浙江省江山县地区。

1954年8月1日，师组建坦克自行火炮第236团。（1967年8月，转隶炮兵第9师）

1969年12月，编为第12军36师，各团依次改为第106、107、108团、炮兵团。

1978年9月，第12军移防徐州，第36师亦调防新沂。

1984年7月，随第1军赴云南轮战，歼敌近2000余人，中央军委授予师炮兵团7连“神炮连”、107团7连连长傅永先“勇于献身的好连长”荣誉称号，昆明军区授予106团特务连班长范中华“排雷英雄”、 106团2营炮兵连班长赵锦标烈士“神炮手”荣誉称号，50个单位和46名个人荣立一等功，125个单位和303名个人荣立二等功，231个单位和2093名个人荣立三等功。

1985年10月，编为第12集团军第36师,执行北方甲种摩托化步兵师编制，辖第106团、107、108团、坦克团（1967年，步兵第60师坦克自行火炮第265团调归南京军区装甲兵。1969年，改为南京军区独立坦克第1团。1976年，改为12军坦克团。1985年改为步兵36师坦克团）、炮兵团、高炮团（高炮75师660团改隶）。

1998年体制编制调整后，36师辖第106团、第108团、炮兵团、高炮团、装甲团（师坦克团与步兵第34师100团团部合编），第107团撤销番号建制。

2003年12月，36师缩编为摩步第36旅，第106团（黄麻起义红军团、百将团）、第108团（红军团、朱德警卫团）、师装甲团的红军团历史和荣誉分别由步兵第36旅炮兵团、第12集团军工兵团和步兵第34旅炮兵团继承。

1998年，坦克部队改编之前的摩步旅编制：

3个摩步营、1个坦克营

122 毫米榴弹炮营

130 毫米火箭炮营

37毫米高炮营

通信营、工兵营、修理营、直属侦察连

炮兵指挥连、汽车连、反坦克连、防化连、警卫连、教导队、旅部野战医院

2013年，改编为12集团军特种作战旅。

2017年4月，改编为71集团军特战某旅。

百将团团歌

高举秋收起义的火炬，翻过黄麻暴动的硝烟，我们是英雄的红军团，英雄的百将团。三过草地翻越雪山，夜袭阳明堡，挺进太行山。跃进大别山，威镇敌胆寒。淮海战旗红，渡江第一船。毛—泽—东，率领咱们打天下，红军团威名天下传！

脚踏光荣战斗的道路，胸怀人类解放的明天。我们是英雄的红军团，英雄的百将团。任凭世界风云变换，党军性质牢记心间。卫国保边疆，处处是铁拳。拼搏创一流，争先当模范。党中央领导咱们新长征，红军团战旗更鲜艳！