北洋内部直皖两系的矛盾斗争早在1917年冯国璋代理大总统时就已经显露端倪，只是一开始时，段祺瑞得到日本和各省皖系军阀的支持，他的得力助手徐树铮又拉拢奉系军阀张作霖作为协助，皖系尚有力量与直系分庭抗礼。后来，由于段祺瑞采取的外交政策和武力统一政策不得人心，其势力逐渐减弱。
直皖矛盾首先主要体现为段祺瑞意图操纵内阁，直接损害了名义上担任中央政府首脑的直系的利益。
段祺瑞1918年10月10日与冯国璋一起下野后，看似离开了北洋政府的中枢，但仍旧担任参战督办，他凭借参战军及安福国会这两张王牌，颐指气使，根本不把大总统徐世昌及其亲信国务总理钱能训放在眼里，仍置身幕后操纵，直接或间接地导致了南北和议的破裂，给予将实现南北和平统一定为第一内政政策的钱内阁以沉重的打击。段祺瑞还利用“五四”运动，指责钱内阁应付学潮无力，并授意安福系议员进行倒阁活动。6月10日，钱能训不得不宣布辞职。徐世昌原打算提名自己的另一位亲信周树模接替钱组阁，但遭段反对；段提议由王揖唐组阁，徐亦有异议。结果，政治背景属于皖系但与徐世昌素有友谊的龚心湛成为一时的过渡人选，不过龚仅任职三个月便辞职了。9月24日，徐世昌命陆军总长靳云鹏代行国务总理。
靳云鹏是皖系军阀段祺瑞的“四大金刚”之一，奉系军阀张作霖的儿女亲家，直系军阀曹锟的拜把子兄弟，于是成为各方势力都较易接受的理想人选。但靳云鹏与徐树铮积怨甚深，段祺瑞在两人中间更偏向于徐树铮，尽管靳云鹏组阁后，极力讨好段，向段靠拢，并秉承段的意旨，将安福系中坚人物李思浩、曾毓隽、朱深网罗入阁分别执掌财政、交通、司法三个重要职位，但段祺瑞还是采取了亲徐疏靳的手腕，靳云鹏被迫转而寻求新的保护伞。为了争取徐世昌特别是直系军阀的支持，靳云鹏不惜与皖系公开决裂，在豫督更易、吴佩孚衡阳撤防等问题的处理上，明显偏袒直系军阀的利益。而段祺瑞、徐树铮也痛下杀手，唆使安福系议员大肆制造倒阁风潮，迫使靳云鹏四次提出辞职。这样，在靳阁去留问题上，段祺瑞内与徐、靳中枢政权相对立，外与曹、张地方实力派相对抗。
其次，段祺瑞组建参战军和边防军的举动引起了直系与奉系的不满，加之安福国会公布了《关于西北筹边使职权范围规定》，明显暴露了皖系扩张的野心，损害了直奉两系的利益。
第一次世界大战结束后，因失去了参战的借口，段祺瑞便将参战军改名为国防军，继而又改称为边防军，继续由徐树铮主管，自己则顺理成章地由参战督办摇身变为边防督办。徐树铮1918年2月怂恿张作霖在秦皇岛截械，后又因挪用奉军军饷事发而与张作霖分道扬镳，开始全力经营西北。而此时，1911年在沙俄煽动下自治的外蒙也出现了新情况——外蒙当局打算取消自治。具有敏锐政治嗅觉的徐树铮认为自己大显身手、建功立业的时机到了。
在段祺瑞的推动下，1919年6月13日，徐世昌任命徐树铮为西北筹边使，24日，又任命徐树铮兼任西北边防军总司令，督办外蒙善后事宜。7月18日，徐世昌以大总统令批准公布了徐树铮提出的“西北筹边使官制”。其主要内容有：（1）政府因规划西北边务，并振兴各地方事业，特设西北筹边使。（2）西北筹边使由大总统特任，筹划西北各地方交通、垦牧、林矿、硝盐、商业、教育、兵卫事宜，所有派驻该地各军队，统归节制指挥。关于前项事宜，都护使应商承筹边使筹助一切，其边事长官佐理员，应并受节制。（3）西北筹边使办理前条事宜，其有境地毗连，关涉奉天、黑龙江、甘肃、新疆各省，及其在热河、察哈尔、绥远各特别行政区域内者，应与各该省军政最高长官及各都统妥商办理。（4）西北筹边使办理第二条各项事宜时，应与各盟旗盟长扎克萨妥商办理。（5）西北筹边使设置公署，其地址由西北筹边使选定呈报。（6）西北筹边使公署之编制，由西北筹边使拟定呈报。从这一官制看，西北筹边使拥有相当大的权力，除东三省为张作霖的势力范围外，其余“热河、察哈尔、归绥、晋、秦、甘、新各省及内外蒙古之一切政权，并所谓筹款权、用人权、采矿权、筑路权、军事权，俱归小徐一人之掌握”。这个官制案一经提出，立即激起直系尤其是奉系张作霖的反对，因为张作霖早已将蒙疆地区视为自己的势力范围，因此他授意东三省的议员投反对票，但没能阻止这个官制案的通过，皖系和直奉系军阀间的矛盾进一步加深了。
1919年10月，徐树铮统率步兵二旅、骑兵一团，挥师出塞，向库伦进发。他软禁了外蒙古伪政权的“内阁总理”巴德玛多尔济和其他王公及哲布尊丹巴活佛。1919年11月17日，外蒙古当局正式上书中华民国总统徐世昌，呈请取消“自治”，废除中、俄、蒙一切条约、协定，回到中国怀抱。为了保卫国家主权及领土完整，徐树铮还将军队派驻外蒙各地，如买卖城（今恰克图）、乌里雅苏台、科布多、唐努乌梁海，完成了对外蒙古的统一。尤其是唐努乌梁海，被沙俄侵占达七年之久，终于回到了祖国的怀抱。至此，不仅外蒙及乌梁海，而且西北内蒙各盟旗及西北陕甘新疆也皆在徐树铮的统辖之下，进一步遏制了地方分裂及外国列强渗透势力。
徐树铮收复外蒙及乌梁海这一历史功绩获得了全国各界乃至孙中山先生的高度赞誉。徐树铮在外蒙古还做了许多有益的事情，如引种蔬菜、修建公路、开办边业银行、注销外蒙官府欠中央政府的旧债、创刊日报、加强中华文化教育等。于旬日之间建成奇功且手握边防军三师四混成旅强大兵权的徐树铮，其声势之大，凌驾于其他派系之上，更加目空一切，飞扬跋扈，加之其悍然处死直系将领陆建章的举动，成为直奉反皖的焦点，最终给自己带来了杀身之祸，六年之后被冯玉祥的部下张之江枪杀于河北廊坊车站。
而且，好景不长，中国收复外蒙的大好局面被内乱打破，因为中国国内政局不稳，派系争斗，战乱频仍，不到两年，即1921年，直皖大战中徐树铮被段祺瑞调回北京，外蒙在苏俄的操纵支持下再次宣布独立。
段祺瑞在政治上和军事上的扩张野心，遭到直奉军阀的强烈反抗，并促使直系和奉系联手。1919年秋冬之间，直隶、江苏、江西、湖北的直系四督（直督曹锟、苏督李纯、赣督陈光远、鄂督王占元）与东北三省的奉系三督（奉督张作霖、吉督鲍贵卿、黑督孙烈臣）结成了七省反皖联盟。徐世昌也因为对段祺瑞和徐树铮心存不满而成为七省联盟的同情者和支持者。
七省联盟一开始并不直接反对段祺瑞，而是效仿封建时代“清君侧”的做法，将矛头指向段祺瑞的羽翼徐树铮。但是段祺瑞并不想因此而放弃徐树铮，因为徐树铮自1901年以来，一直追随他的左右，一直与他共进退。1914年5月，徐树铮任陆军部次长，年仅34岁，是次长中最年轻的。袁世凯称帝时，徐树铮因劝段祺瑞抵制，被袁世凯罢免。1916年，袁世凯死后，黎元洪继任总统，段祺瑞出任国务院总理，徐树铮复任陆军次长兼国务院秘书长，旋在府院之争中被革职。1917年，徐树铮先是策动了张勋赶走黎元洪的张勋复辟事件，随即又策划了讨伐张勋的讨逆军行动，事后任陆军次长，主张武力统一中国。第二次府院之争中，段祺瑞辞职，徐树铮在幕后策划督军团对冯国璋施压，策动张作霖入关抢夺军火，迫使冯国璋再度启用段祺瑞出任总理兼陆军总长。在此次段内阁中徐树铮担任陆军次长兼西北筹边使，升为上将。在冯、段之争中，徐树铮为段穿梭奔波，他一方面假借参加第一次世界大战之名，向日借得巨款，编练参战军，为段扩兵争雄；一方面筹划组织安福俱乐部，包办选举，成立安福国会，以巩固段祺瑞政权。现在，徐树铮又执掌边防军，为其开疆扩土。可以说，段祺瑞的政治得失与徐树铮有着密切的关系，段祺瑞不愿失去这个得力的助手。于是，七省联盟由反皖言论发展到倒皖行动。
把七省同盟的“清君侧”付诸行动的，是直系的“后起之秀”吴佩孚。当时吴佩孚虽只是一介师长，但他手握重兵且身处南北战争的前线，其一言一行颇受关注。
吴佩孚（1874—1939），字子玉，山东蓬莱人，幼年丧父，靠母亲抚养成人，曾应登州府试，得中第27名秀才，故成名后人称其“秀才将军”。吴于光绪二十四年（1898）投入天津武卫前军聂士成部，从此开始了他的军旅生涯。吴投军的次年，即因“文武兼资”获上司赏识，被保荐入开平随营武备学堂深造。庚子之乱中，聂士成战死于天津南郊八里台，原清廷部署于京津地区的武卫前、中、后、左各军相继溃没，袁世凯以直隶总督兼北洋大臣的身份收容京畿溃勇，组织天津陆军警察队，吴佩孚从此正式投到袁世凯的麾下，并被拨入曹锟统领的北洋第三镇（即后来的北洋第三师），此后逐步擢升，成为北洋骨干曹锟手下的一员干将，同时也是袁世凯民初再起后得力的军事助手。在袁世凯死后的北洋系的分裂中，曹、吴因地缘的关系，当然地属于直系，但并不隶属于冯国璋一派。虽然段祺瑞在入主北洋政府后，对于曹、吴一派大加笼络，企图使之成为与冯国璋的直系相抗衡的力量，但该派却一直在冯国璋、段祺瑞的直皖两系之间，不即不离，两面应付，成为游离于直皖系之外的一支重要的势力。早在1918年6月，吴佩孚一反过去对南方军政府作战相当卖力的做法，改而在耒阳与南方订立南北停战协定，明确表示不愿充当皖系武力统一的工具。从8月起，他连续发出“罢战主和”的通电，痛斥段祺瑞亲日卖国，揭露“安福国会”施以重金，排斥异己，援引同类，致所选议员半皆恶劣。吴佩孚有效地运用此政治权术，反击了段祺瑞对他的防范与钳制，并借机扩充了个人和派系势力，逐渐成为直系中名副其实的实力派首领。
吴佩孚在频频发表通电制造“罢战主和”的舆论的同时，还多次向北京政府提出了撤防北归的要求。但段祺瑞控制的中央政府以南北议和尚未告成为由加以拒绝。因为，一旦允许吴军撤防北归，南军将会乘虚而入，皖系便无可用之兵；而且，吴军一旦北撤将加强直系在北方的实力。
1919年5月，吴佩孚与南方将领联名发出重开和议的通电，西南军阀为了求得“自存”，决定“联直制皖”。8月31日，吴佩孚进而向西南各省提议签订一项旨在共同对付皖系的军事密约即“救国同盟条件”，并通过谭延闿将其拟具的“救国同盟条件”草约转致唐继尧等人征求意见。密约内容如下：
第一条 总纲：本约为永息内争，力谋统一，合力对外起见，并非有党见性质。第二条 宗旨：军人以卫国保民为天职，无论何时，国内争战，不得牵动武力。惟须弭患无形，以尽保民之责务，并须保全现在之主权，兼收回已失之主权，为卫国之主旨。第三条 条目：（甲）对内主旨：查近世以来，国内政事，牵动武力，其咎不在政客善于鼓动，而实在军人程度过于卑劣。自定草约后，如再有此等情事发生，凡在约军人，均应起而理喻之，排除之，决不为政党所利用，如有未在约军人盲从者，亦应理喻之或铲除之……（乙）对外主旨[略]（丙）附件[略]。第四条 结论：（一）此项军约，因中央政府不良，元首大权旁落，深恐群奸盘据，延宕和局，实行其困惫南北征人之计划，故不可稍事迁延，以期组织良好之政府，安内攘外。（二）自签约之日起，如一月内，和局仍无解决之望，或和议敷衍完结，及取消非法机关诸目的未能达到，应先由同盟军预定办法，暨进行手续，另定副约。秘密签字，以期一致行动，贯彻始终。（三）上列对内对外各条，团结一致，好恶同之，有渝此盟，神明殛之。
吴佩孚的提议得到了西南各省一致响应。11月22日，滇、黔两省代表率先在密约上签字；稍后，粤、桂、湘、川四省代表也在密约上签字。随后，吴佩孚与签字各代表在衡阳举行了衡州会议，“议决促进和平办法五条”。紧接着，双方便按预定计划开始具体实施联合反皖的行动。
1920年1月初，根据在衡州会议上与西南各省达成的协议，吴佩孚正式向北京政府提出了撤防北归的请求。2月中旬，段祺瑞为了“杜绝吴佩孚班师北归之通路”，“打破直曹与长江三督之联络”，同时与驻镇蚌埠的安徽督军倪嗣冲遥相呼应，决定夺取河南地盘，逼迫内阁总理靳云鹏撤换河南督军赵倜，改派其内亲吴光新继任，并派安福国会众议院秘书长王印川继任河南省长。赵倜本是淮系将领姜桂题的部下，他在直皖两系争权夺势的斗争中，一直持中立态度。但当他获悉吴光新准备率师来接任豫督的消息后，感到自己的权力即将被剥夺，便借口“保境自存”而参加了反段阵线。段祺瑞的这一自以为得计的部署，事实上把赵倜逼上了梁山。2月19日，赵倜发表通电，公开站在直系的一边。于是，七省同盟变成了八省同盟。
河南是吴佩孚回师北上的必经之地，吴佩孚当然反对易督之举，他2月29日致电大总统徐世昌、国务总理靳云鹏，认为这种行动将导致“中原涂炭”，“大局破坏”，质问“持是政策者果何恃而若是坚决耶？”把反对的矛头直指皖系。大总统徐世昌因害怕易督引起战乱，仅同意改派河南省长，不赞成更易河南督军，认为“罢赵用吴，激起反动，我决不为”。同时，国务总理靳云鹏对安福系以吴光新代赵倜计划，也采取消极抵制态度，不予支持。最后在各方的强大压力下，段祺瑞被迫让步，勉强同意将河南易督一事推迟办理，仅要求将豫军撤回原防。八省反皖同盟在这一回合的斗争中取得了胜利。
吴佩孚见段祺瑞一再阻挠吴军北撤，便进一步采取行动与护法军政府协商撤防事宜，订立协议如下：（1）直军撤防由湘军填防，……如北军开衅，或直军途中受阻，切望同盟军恪守协约极力相助；（2）直军将存粮数百石送济护法军；护法军政府将60万元交直军作为撤军费用。
1920年2月底至3月初，吴佩孚将直军700余户眷属3000余人派军护送北归，禁止士兵随意告假，并假意电请张敬尧准备派兵接收即将撤出的直军原有防地。他和曹锟又接连多次发出电报，请求撤防。3月中旬，段祺瑞在一筹莫展的情况下，干脆以北京政府名义命令曹锟：不准吴部撤防；以陆军部名义命令吴佩孚：在中央未有明令以前，不得擅自行动。但曹、吴既已下定北撤决心，对于北京政府的任何电令，根本不予理睬，径自做北撤准备。驻湘直军撤防前夕，根据南北双方达成的五条协议，桂系军阀控制的军政府答应吴佩孚的要求，秘密接济其开拔费60万银洋，以支持直军北上抗皖。双方约定，一旦直军开拔，属于西南护法军政府的谭延闿湘军立即接收直军防地。吴佩孚并向南方提出，如果北撤直军中途受阻，务必恪守同盟，极力援助。当时张敬尧已知道他们之间的某些秘密关系，但怕公开揭露开罪于直系，只好表示“隐忍不言，徐图收拾”。
段祺瑞为破坏直奉联盟，一方面指示安福国会成员二十余人赴同盟各省开展离间活动，另一方面采取军事行动，调动皖系部队，守备京汉线，阻止吴佩孚军事北归。皖系各省还成立了所谓“十一省联盟”，与八省联盟相抗衡，但“其实力不逮直张远甚”。
面对皖系破坏八省联盟的活动，直奉两系采取了相应的对策。3月27日，张作霖以做寿为名，召集联盟各代表在沈阳举行秘密会议，作出三点决定：（1）拥靳云鹏留任国务总理，不反对段祺瑞；（2）安福系卖国祸国，应予解散；（3）安徽督军倪嗣冲久病不能视事，推荐张勋为安徽督军（张勋是张作霖的亲家）。
3月28日，吴佩孚北撤先遣部队抵达株洲等地。4月9日，曹锟又以追悼直军“平南”阵亡将士为名，在保定举行八省联盟会议。会议决定：（1）拥靳云鹏留任国务总理，不反对段祺瑞；（2）各省防线之军队，一律撤回原防地，但须南军保证不乘机前进；（3）宣布安福系罪状，通电政府，请求解散安福俱乐部。
与此同时，吴佩孚不折不挠地继续电请北京政府同意其撤防，并不顾北京政府禁止擅自行动的电令，我行我素地做撤防准备工作，还电示湘督张敬尧迅即派兵前来接防。5月17日，见吴佩孚北撤之意已决，段祺瑞不得不以参陆办公处的名义发电，同意了吴的撤防要求。5月20日，吴军正式北撤。5月31日，吴军抵达汉口，吴佩孚发表通电，称“因兵士疲劳过甚，即暂停驻，借资休息”，鄂督王占元接济军饷60万元，吴佩孚向全体官兵发饷三个月以振士气，并宣告中外：“顺国人之公意，本正义之主张，撤防湘南，集中武汉，以清除奸慝，促进和平，力争外交，以维国体，一俟军队运输告成，即日挥戈北指。”此不啻为对段祺瑞、徐树铮的宣战书。6月5日，吴佩孚的军队继续北上，于9日抵达郑州，受到赵倜的热烈欢迎和接济，赵倜允许直军以洛阳为大本营驻扎在河南境内。6月13日，吴佩孚又发表通电，指责安福系“毒痡四海，腥闻于天”，并表示他即日挥戈北指，以“扫除殃民祸国之安福系，及倡乱卖国之徐树铮”。随后，吴军分别进驻从郑州至保定一线各军事要地，即第三师全部驻郑州，第一旅驻许昌，第二旅驻驻马店，第三旅驻顺德、磁州，骑兵团驻黄河桥，步兵八团驻新乡县。至此，吴佩孚完成撤防部署，并形成了与皖系军队对峙的局面。
吴佩孚所部直军撤出湘南后，湘军立即挥师北上，抢占战略要地，并与前来争夺防区的张敬尧部展开激战。在湖南人民发动的“驱张运动”的配合下，湘军一路势如破竹，张敬尧部溃不成军。其残部一部分退入湖北境内，接受鄂督王占元的改编节制，另一部分退入江西境内，为赣督陈光远缴械遣散。其余在湘北军，也纷纷自动或请准中央后，撤离湖南。6月29日，北京政府下令将张敬尧撤职查办，改任吴光新为湖南督军兼省长。张敬尧部的瓦解，使皖系军阀如折羽翼，失去了一支重要军事力量。这对即将与直系一决高下的皖系来说，显然不是一个好兆头。有人甚至认为，直军北返与张敬尧被逐“实为直皖战争的起点”。
