CC派失势，仅仅是蒋经国权力布局的第一步，军队里手握兵权的孙立人，成为他下一个要处理的对手。蒋经国在军中依靠两大支柱，政工系统与情报系统。他在“国防部总政治部”之下，向每一个连队派遣政工干事，监控官兵思想，这套制度，遭到留美将领孙立人的强烈反对。孙立人毕业于弗吉尼亚军校，缅甸战场立下赫赫战功，性格耿直，公开要求取消军队政治部，直接冲击蒋经国的权力根基。

孙立人背后还有美国的支持，这更让蒋氏父子忌惮。美国很早就开始扶持国民党内派系，向蒋政权内部“掺沙子”，借扶持亲美势力，暗中施加影响力。1949年蒋介石登陆高雄，曾询问孙立人自身安全，孙立人那句回答，被吴国桢点评为失当，也加深了蒋家对他的戒备。蒋经国不与其正面交锋，悄悄布局人事，逐步压缩旧黄埔系的空间。1954年，孙立人被调离陆军总司令，调任有名无实的“总统府参军长”，明升暗降，兵权被剥夺。

1955年，孙立人兵变案爆发，其部下郭廷亮被指控通共，孙立人受到牵连，从此被长期软禁在台中日式住宅，门口常年有宪兵看守。往后三十余年，他在院内种花度日，直至终老，再也没有穿上军装。整件事情里，蒋经国极少公开露面，只在办公室审阅一份份情报报告，冷静观察事态发酵。

与此同时，吴国桢也和蒋经国矛盾持续激化。吴国桢在赴美之后，公开抨击蒋经国，称其阻碍台湾政治进步。蒋经国没有立刻回击，默默记下对手的名字，等待合适时机。解决军中、高层元老之后，蒋经国把目光投向遍布全岛的地方派系。台湾大量选票依靠地方家族动员，各地士绅把持农会、水利会、渔会，扎根基层多年。

蒋经国没有选择彻底消灭地方派系，而是采取派系更替策略。上世纪60年代末，他打算提拔自己培养的新生代党工干部，替换盘踞地方多年的家族势力。1972年县市长选举，大批新党工被提名参选，此举触动地方派系利益，引发强烈反弹。1977年地方选举，地方派系消极辅选，国民党遭遇迁台之后最惨重的选举失利。

蒋经国见状没有强硬硬推，转而调整策略。八十年代初，他推出党内初选机制，吸纳派系选民进入国民党，借党组织直接管理基层群众，从根基上瓦解地方派系的动员能力。这套手段，源自他早年在苏联见识的组织模式，缓慢渗透，循序渐进。美国在这一阶段持续在岛内引导舆论，宣扬美式价值观，潜移默化影响普通民众，这也迫使蒋经国调整治理思路，开始启用本省籍技术官僚。