1851年，洪秀全在广西金田发动反清起义，是为太平天国运动。其后短短几年就席卷南方，大清帝国在长江以南的统治近乎崩溃。在太平军攻城掠地的影响下，各地反清运动风起云涌，作为“老牌造反组织”的天地会自然也开始了沉寂已久的活动。其中有一位叫刘永福的豪杰在1865年加入广西的天地会组织，因为特别能打，又有谋略，刘永福很快在天地会中脱颖而出，并在归顺州(今靖西县内)组建了自己的嫡系队伍，刘永福以七星黑旗为军旗，故称之为黑旗军，赫赫有名的黑旗军就此登上历史舞台。

黑旗军的主要兵员是贫苦农民，多是归顺、龙州、上思、宁明和钦廉人，他们吃苦耐劳、骁勇善战，又恪守纪律，是天生的好战士。带着这支黑旗军，刘永福很快就占据了许多地盘，与普通的造反首领不同的是，刘永福非常重视军纪，对百姓秋毫无犯，正因如此，黑旗军才得以在清军的绞杀中坚持下来。1864年，湘军悍将曾国荃攻陷太平天国的都城天京（今南京），为期14年的太平天国运动结束，清廷得以抽出精力来对付两广地区的天地会组织。在清军的打击下，两广一带的天地会势力损失惨重。

为避免被清军剿灭，刘永福于1865年率黑旗军从广西的波斗进入越南的安礼好、高平好， 再经左大州到六安州，并在靠近中越边境的保胜至河阳一带建立根据地， 主要活动在越北地区。彼时，法国人正在大举入侵越南，而清廷又深陷北方捻军之乱，在越北山区的黑旗军得以在各方的夹缝中生存下来。

1882年，法军攻陷越南东京（今河内），兵锋直逼中越边境。越南作为大清帝国的藩属国，宗主国大清有义务救援，再加上法国人醉翁之意不在酒，清廷也不想让法国人将战火燃烧到中国境内。于是清廷接受了越南王室的请求出动清军在越北协防，并收编了长期在越北活动的黑旗军，刘永福和黑旗军也摇身一变成为大清的“体制内”军人。1884年2月，法军统帅米乐率16000名装备欧洲先进武器的法军，图谋侵犯北宁。因为清廷一直战后不定，再加上各部清军分属湘军、淮军、广西绿营兵各个系统，导致指挥失灵，纷纷溃败，法军轻易攻陷北宁，只有刘永福所部的黑旗军阵容严整，大量杀伤法军，算是为大清挣了点面子。至1885年2月，法军攻陷镇南关（今友谊关），两广震动。清廷遂启用老将冯子材督办广西军务，赴镇南关作战。

冯子材到广西前线后，重新布防，特别为刘永福补充了新式军械，让黑旗军利用熟悉越北地形的优势，在法军后方袭击法军的后勤补给线，在黑旗军神出鬼没再加上暗杀行刺的打法下，法军军心疲惫，后勤近乎瘫痪。冯子材抓住战机，发动收费镇南关的战役，一战大败法军，收复镇南关，是为镇南关大捷。而后，冯子材命令黑旗军为先锋，引导清军主力攻入越北，歼灭大量法军，使得法军再不敢正视中越边境。战后，刘永福所部黑旗军撤回国内，清廷对其加以整编，裁汰老弱，只留下了3000精锐，仍由刘永福节制。

中法战争后，清廷意识到了台湾的重要性（当时除了在越南，法军还试图入侵台湾，后被淮军名将刘铭传击退），遂将台湾升格为行省建制，并将刘永福所部黑旗军派驻到台湾与大陆之间的南澳、石褐防守，以作台湾的声援。1894年甲午战争爆发，清军海陆军大败，刘永福奉命于当年七月廿六日率黑旗军渡海登台，保卫台湾。1895年4月，李鸿章在日本马关签订《马关条约》，清廷割让台湾。消息传到台湾，全岛愤怒，拒绝日军接收，台湾人民一致推举唐景崧、刘永福带领台湾人民抗日保台。

据《台湾战记》载：“刘永福守台南，尤民望所归。自安平至旗后各港，重重布置，百姓咸恃以无恐。”

而后，黑旗军与台湾义军合力血战日军半年多，打死打伤日军3万余人，超过了整个甲午战争日军的伤亡总人数。当年十月，日军再次从国内调集陆军五万，战舰三十多艘，进攻台湾。在日军绝对优势兵力攻击下，黑旗军和台湾义军终究力不能支。

刘永福侥幸脱险回大陆。时人诗曰“孤城无援计终尽，拨队归来气亦雄。”黑旗军将领徐骥、柏正才、林义成血战阵亡，王德林、简精华突围而出，不知所终，黑旗军全军覆没。时人诗云：“难呜孤掌忿，风雨吊台南。”