“北洋”泛指直隶、山东、奉天等省。1875年前，北洋三省仿效南方沿海省份，调拨福州船政轮船以加强海防。其中，盛京将军瑞联于1872年7月奏调“洲云”兵船巡缉奉天牛庄；同月，山东巡抚丁宝桢奏调“飞云”兵船赴山东遣用；直隶总督李鸿章调拨的“镇海”兵船也于同年9月抵达天津。此外，李鸿章还于1871年夏从江南制造总局调拨“操江”兵船来津，以供北洋巡哨。
1875年春，李鸿章通过赫德在英国阿姆斯特朗公司订购“龙骧”、“虎威”等4艘炮艇（蚊子船），北洋水师建设自此起步。该批炮艇于1876年11月至1877年6月陆续抵华。1878年后，李鸿章转向购买巡洋舰与铁甲舰，加快北洋海军的建设步伐。1879年11月，李鸿章将原为南洋订购的“镇东”等4艘炮艇留归北洋，而将“龙骧”等4艘划归南洋。1880年夏，北洋水师雏形初成，李鸿章聘任英国人葛雷森为总教习，并于同年8月奏请设立天津水师学堂。1881年11月，李鸿章在英国阿姆斯特朗公司订购的“超勇”、“扬威”2艘巡洋舰抵华，随即委任丁汝昌统领北洋水师。1880年底至1881年夏，李鸿章通过出使德国大臣李凤苞在德国伏耳铿船厂订购“定远”、“镇远”2艘铁甲舰。1883年3月，又电饬李凤苞订购“济远”号钢甲巡洋舰。
自1875年李鸿章督办北洋海防起，近十年间，北洋在英、德两国订购11艘舰艇（含为山东所购，后划入北洋的“镇中”、“镇边”2艘炮艇），另购德国单管鱼雷艇4艘，并调福州船政“威远”、“康济”2船为练习舰，实力显著增强。至1884年，不计未交货的“定远”、“镇远”、“济远”3舰，北洋已拥有舰艇14艘（不含鱼雷艇），初具舰队规模。1888年12月17日，北洋舰队正式成军。
北洋海军编制分船制与官制。船制含战船、守船、练船、运船，列编舰艇25艘，官兵4000余人。成军之初，全军分中、左、右、后四队：中军为“致远”、“济远”、“靖远”3舰，左翼为“镇远”、“经远”、“超勇”3舰，右翼为“定远”、“来远”、“扬威”3舰，均为战舰；后军为“镇东”等6艘炮舰、6艘鱼雷艇、3艘练习舰及1艘运输舰。
北洋舰队官制则参照英、德海军（以英国为主）并结合中国实际制定。设北洋海军提督1员统领全军，归北洋大臣节制，驻威海卫衙署；设总兵2员，分左、右翼，领铁甲战舰为领队翼长；设副将5员分任“致远”、“济远”等5舰管带；设参将4员分掌粮饷、轮机及“超勇”、“扬威”舰；后军各舰均由游击、都司管带；鱼雷艇多由守备管带。官制层级分明，提督以下终年住船，不建衙署。
1894年5月，朝鲜爆发东学党起义，中日相继派兵。7月25日，日本联合舰队在朝鲜丰岛海域偷袭中国运兵船队，甲午战争爆发。9月17日，北洋舰队与日本联合舰队于黄海大东沟激战，损失5舰。黄海海战后，北洋舰队驶返旅顺口军港休整。10月，日军分两路侵入中国：一路突破清军鸭绿江防线，朝纵深方向推进；另一路在花园口登陆，迅速向辽南方向进攻。丁汝昌率北洋舰队退守威海卫军港，采取消极防御。11月，日军攻占旅顺口及辽东半岛，12月渡海南下，发起山东半岛战役，于荣成湾登陆形成海陆夹击之势。
1895年1月下旬，丁汝昌率部在威海卫顽强抵抗。2月11日，丁汝昌在待援无望后服鸦片自尽，接着，署理“镇远”管带杨用霖、北洋护军统领张文宣亦相继殉国。2月12日，洋员马格禄等及部分清军官员伪造投降书，由牛昶昞送至日本旗舰“松岛”号。2月14日，牛昶昞与伊东祜亨签订《威海降约》（共十一款）。17日，日军自北口鱼贯驶入威海卫港，俘获“镇远”、“济远”等10艘军舰（总排水量15375吨），投降官兵共计5124人，其中陆军2040人，海军3084人，自此苦心经营15年的北洋海军就此终结。
清廷于3月12日发布上谕，批准撤销海军衙门。4月28日，署理直隶总督、北洋大臣王文韶奏查明北洋海军失事情形据实纠参一折，令将海军将领一并先行革职，听候查办。自提督、总兵至千总、把总、外委，总计315员一律裁撤，北洋海军编制正式取消。
北洋水师提督：丁汝昌，安徽庐江人，淮军将领。1888年12月任；1894年9月裭职留用，11月革职；1895年2月服鸦片自尽。
北洋水师提督：刘步蟾，福建侯官人，福建船政学堂后学堂首届驾驶班毕业。1894年9月兼代，1895年2月自杀殉国。
总查（副提督虚衔）：汉纳根，原德国陆军军官，天津海关税务司德璀琳长婿。1891年聘，同年回国；1894年再聘，同年11月因“要求派他以提督衔任海军副提督，赏黄马褂”遭中国拒绝而离开北洋水师，转任陆军教习。
总教习 / 帮办提督：马格禄，原英国商船船长，由天津海关税务司德璀琳推荐。1894年11月聘，1895年2月鼓动北洋水师投降。
右翼总兵 / 记名提督：刘步蟾，1888年12月授，委带“定远”号铁甲舰（排水量7335吨，航速14.5节，舰炮28门，鱼雷发射器3个）。
左翼总兵 / 记名提督：林泰曾，福建侯官人，福建船政学堂后学堂首届驾驶班毕业。1888年12月授，委带“镇远”号铁甲舰（排水量7335吨，航速14.5节，舰炮28门，鱼雷发射器3个）。1894年10月，“镇远”舰误擦暗礁，导致船体底板破裂受损。林泰曾自认失职，于当夜服毒自尽。
中军中营副将：邓世昌，广东番禺人，福建船政学堂后学堂首届驾驶班毕业。1889年2月借补，1892年实授中军中营副将加提督衔，委带“致远”号巡洋舰（排水量2300吨，航速18节，舰炮29门，鱼雷发射器4个）。1894年9月黄海海战中殉国。
中军左营副将：方伯谦，福建侯官人，福建船政学堂后学堂首届驾驶班毕业。1889年2月升署，1892年实授，委带“济远”号巡洋舰（排水量2300吨，航速15节，舰炮13门，鱼雷发射器4个）。1894年9月黄海海战中因畏惧倭寇阵前逃走，被朝廷处斩。
中军右营副将：叶祖珪，福建侯官人，福建船政学堂后学堂首届驾驶班毕业。1889年2月升署，1892年实授，委带“靖远”号巡洋舰（排水量2300吨，航速18节，舰炮29门，鱼雷发射器4个）。1904年奉旨总理南北洋海军兼广东水师提督，首次统一清朝南北海军。
左翼左营副将：林永升，福建侯官人，福建船政学堂后学堂首届驾驶班毕业。1889年2月升署，1892年实授，委带“经远”号巡洋舰（排水量2900吨，航速15.25节，舰炮12门，鱼雷发射器4个）。1894年9月黄海海战中殉国。
右翼左营副将：邱宝仁，福建侯官人，福建船政学堂后学堂首届驾驶班毕业。1889年2月升署，1892年实授，委带“来远”号巡洋舰（排水量2900吨，航速15.25节，舰炮12门，鱼雷发射器4个）。甲午战争后返回故里，从此不再复出。
提标中军参将兼理粮饷事：严道洪，1889年2月借补。
左翼右营参将：黄建勋，福建永福人，福建船政学堂后学堂首届驾驶班毕业。1889年2月升署，1891年实授加副将衔，委带“超勇”号巡洋舰（排水量1350吨，航速15节，舰炮12门）。1894年9月黄海海战中殉国。
右翼右营参将：林履中，福建侯官人，福建船政学堂后学堂第三届驾驶班毕业。1889年2月升署，1891年实授加副将衔，委带“扬威”号巡洋舰（排水量1350吨，航速15节，舰炮12门）。1894年9月黄海海战中殉国。
左翼中营游击：杨用霖，福建闽县人，1871年参加海军。1889年2月升署，1891年实授加副将衔，委“镇远”号副管驾。1894年11月，管带林泰曾自杀后，杨用霖升护理左翼总兵兼署镇远管带。1895年2月，杨用霖拒绝出面与日军接洽投降，最终自杀殉国。
左翼中营游击：陆麟清，福建船政学堂后学堂首届管轮班毕业。1889年2月补授，委“镇远”号总管轮。1894年11月卒。
右翼中营游击：李鼎新，福建侯官人，福建船政学堂后学堂第四届驾驶班毕业。1889年2月升署，1892年实授，委“定远”号副管驾。袁世凯政权下的海军要员，后期因政治立场摇摆逐渐边缘化。
右翼中营游击：余贞顺，福建船政学堂后学堂首届管轮班毕业。1889年2月升署，1892年实授，委“定远”号总管轮。
精练前营游击：林颖启，福建福州人，福建船政学堂后学堂第二届驾驶班毕业。1889年2月补授，委带“威远”号练习舰（排水量1358吨，航速12节，舰炮11门）。
精练左营游击：萨镇冰，福建福州人，福建船政学堂后学堂第二届驾驶班毕业。1889年2月升署，1892年实授，委带“康济”号练习舰（排水量1310吨，航速12节，舰炮11门）。民国海军核心人物，虽未在权力中心，但凭借资历与专业能力维持稳定海军的团结。
精练右营游击：戴伯康，福建船政学堂后学堂第三届驾驶班毕业。1889年2月升署，1892年实授，委带“敏捷”号练习舰（排水量750吨，纯风帆驱动，无蒸汽动力）。
提标都司：吴应科，1889年2月升署，1892年实授，委督队船大副。
中军中营都司：陈金㨒，1889年2月升署，1892年实授，委“致远”号帮带大副。
中军中营都司：刘应霖，1889年2月升署，1892年实授，委“致远”号总管轮。
中军左营都司：沈守昌，1889年2月升署，1892年实授，委“济远”号帮带大副。
中军左营都司：梁祖全，1889年2月升署，1892年实授，委“济远”号总管轮。
中军右营都司：刘冠雄，福建闽县人，福建船政学堂后学堂第四届驾驶班毕业。1889年2月升署，1892年实授，委“靖远”号帮带大副。民国海军核心人物，首任海军总长，海军在其领导下成为北洋附庸。
中军右营都司：林登亮，1889年2月升署，1892年实授，委“靖远”号总管轮。
左翼中营都司：何品璋，1889年2月升署，1892年实授，委“镇远”号帮带大副。
左翼中营都司：王齐辰，1889年2月升署，1892年实授，委“镇远”号总管轮。
左翼左营都司：陈策，1889年2月补授，委“经远”号帮带大副。
左翼左营都司：孙姜，1889年2月升署，1892年实授，委“经远”号总管轮。
左翼右营都司：黎星桥，1889年2月升署，1892年实授，委“超勇”号总管轮。
右翼中营都司：江仁辉，1889年2月升署，1892年实授，委“定远”号帮带大副。
右翼中营都司：陈楠，1889年2月升署，1892年实授，委“定远”号大管轮。
右翼左营都司：林文彬，1889年2月升署，1892年实授，委“来远”号帮带大副。
右翼左营都司：任廷山，1889年2月升署，1892年实授，委“来远”号总管轮。
右翼右营都司：陈学书，1889年2月升署，1892年实授，委“扬威”号总管轮。
后军右营都司：蓝建枢，1889年2月升署，1892年实授，委带“镇西”号炮舰（排水量440吨，航速8节，舰炮5门）。
后军前营都司：李和，1889年2月升署，委带“镇南”号炮舰（排水量440吨，航速8节，舰炮5门），1892年实授，调带“平远”号。
鱼雷左一营都司：蔡廷干，广东香山人，第二批赴美幼童。1889年2月升署，1892年实授，委带左一号鱼雷艇（排水量108吨，航速24节，舰炮6门，鱼雷发射器3个）。民国海军与外交核心人物，他凭借留美背景与外交才能深度参与北洋政府决策。
精练后营都司：刘学礼，1889年2月借补，委充威海练勇学堂操官。