在李鸿章操练北洋水师的同时期，另一名大臣左宗棠也奉命组建了南洋水师。南洋水师的成立，甚至还早于北洋水师。只不过，由于南洋水师的负责人经常变更，加之朝廷没有足够重视，使得南洋水师的建设远远不及北洋水师。1883年中法战争一役，法国舰队偷袭南洋水师驻地，让南洋水师元气大伤。此后，南洋水师就一蹶不振。1909年，南洋水师并入北洋水师，从此退出历史舞台。