万历十一年（1583年），明朝发动第二次古勒城之战，努尔哈赤的祖父觉昌安、父亲塔克世，以及姑姑误杀。当时的明朝坐拥万里江山，军队百万，在明朝面前，努尔哈赤不过蝼蚁一只。当努尔哈赤向明廷官员质问时，明廷也只是承认误杀，并送还亲人尸体，让努尔哈赤继承塔克世的爵位。努尔哈赤要求明廷交出带路人尼堪外兰，遭到明廷的拒绝。此时的努尔哈赤，想要复仇难如登天。但努尔哈赤坚信不肯屈服，复仇的计划开始心中燃起。让人意外是，正是这场复仇的火焰从图伦城烧起，烧到了女真各部，烧到辽东，最终烧掉了明朝的万里江山。
尼堪外兰因带明军破古勒寨有功，被扶持为“建州主”。尼堪外兰依靠明朝的支持，势力显赫，建州各部都归附于尼堪外兰。但尼堪外兰成为建州主同样会引起许多寨子的不满，努尔哈赤就可以从中拉拢，扩充自己的势力。萨尔浒城主卦喇、嘉木湖城主噶哈善、沾河寨城主常书和尼堪外兰有仇有节，于是四寨寨主结盟，发誓要共同讨伐尼堪外兰。
一些女真部落的有识之士见努尔哈赤有勇有谋，也主动投其帐下。如额亦都，其父母被人所杀，他躲在邻村才逃脱。十三岁时，额亦都手刃仇人，逃到了苏子河嘉木湖寨，投靠寨主穆通阿（额亦都的姑父）。万历八年（1580年），努尔哈赤到嘉木瑚寨，夜宿穆通阿家。额亦都和努尔哈赤交流，言语契合，于是誓死跟随努尔哈赤。姑母不允，额亦都说“大丈夫生世间，能碌碌终乎？”第二天，额亦都不辞而别，跟随努尔哈赤而去。额亦都对努尔哈赤忠心耿耿，患难与共。
额亦都次子达启英武聪颖，努尔哈赤甚至喜爱，将第五女嫁给他，并让他一起生活在身边。但达启恃宠而骄，对努尔哈赤诸子都无礼。这让额亦都非常气愤和担忧。一天，额亦都召集诸子聚饮，趁机命人将额亦都抓捕，“额亦都次子达启，少材武，太祖育于宫中，长使尚皇女。达启怙宠而骄，遇诸皇子无礼，额亦都患之。一日，集诸子宴别墅，酒行，忽起，命执达启，众皆愕。额亦都抽刃而言曰：‘天下安有父杀子者？顾此子傲慢，及今不治，他日必负国败门户，不从者血此刃！’众乃惧，引达启入室，以被覆杀之。额亦都诣太祖谢，太祖惊惋久之，乃嗟叹，谓额亦都为国深虑，不可及也。”
除了额亦都之外，努尔哈赤起兵期间前来投靠的主要人物还有安费扬古、苏完部瓜尔佳氏的费英东、董鄂部的何和礼、佟佳氏的扈尔汉。努尔哈赤早年和此五人共甘苦，同赴难，并死生，共成大业。后金开国时，以上五人被视为后金五大开国功臣。
爱新觉罗・努尔哈赤
万历十一年（1583年）五月，努尔哈赤以塔克世留下的 “遗甲十三副”起兵，带领几十人向图伦城发动了进攻。可起兵之时，萨尔浒寨的寨主没有赴约，并暗自将消息泄露给了尼堪外兰，这让努尔哈赤一直怨恨在心。尼堪外兰自知不敌努尔哈赤，就逃到了甲版城。努尔哈赤轻而易举地攻破了图伦城。此战，是努尔哈赤军事生涯的开端，史称“太祖起兵”。
同年八月，努尔哈赤攻甲版城。由于萨尔浒城城主诺米纳又暗中传递消息，尼堪外兰再次逃走，他先请求明朝边将的收留，但明军拒之，他又被迫逃到了法纳哈所属的鄂尔浑之地，并建城居住。
努尔哈赤两次攻尼堪外兰都无功而返，主要的原因在是萨尔浒城诺米纳兄弟屡通消息。欲灭尼堪外兰，必先除诺米纳兄弟。很快，诺米纳兄弟邀约努尔哈赤会同攻巴尔达城，努尔哈赤表面答应。战前，努尔哈赤请诺米纳担任先锋，但诺米纳不敢。努尔哈赤就说自己可以打头阵，但需要萨尔浒人提供武器、盔甲。诺米纳不知是计，欣然同意。努尔哈赤获得了武器和盔甲后，对毫无防备的萨尔浒人发动进攻，诺米纳被杀。萨尔浒城虽破被攻破，努尔哈赤却尚无统治一城的实力。于是，努尔哈赤让人们重回城中，这些人回到萨尔浒城后，修缮了城池，继续和努尔哈赤为敌。
努尔哈赤起兵之初，虽连续攻破图伦、甲版、萨尔浒三城，但尼堪未除，萨尔浒又叛，情况是非常危急的。尼堪外兰虽然逃离在外，但他得到了建州多部的支持，就连努尔哈赤的亲族“宁古塔贝勒”子孙也投靠尼堪外兰，甚至“长祖、次祖、三祖、六祖之子孙同誓于庙，欲谋杀太祖”。起兵不久，努尔哈赤就遭遇多次暗杀，努尔哈赤几乎夜枕刀而睡。
宁古塔贝勒子孙和努尔哈赤是同族之人，是努尔哈赤的亲族。努尔哈赤和舒尔哈齐的母亲早死，在家族中没有依靠，地位较低。按照努尔哈赤家庭的地位以及幼子守灶的传统，努尔哈赤都无继承塔克世遗产的资格。但努尔哈赤得到了李成梁的扶持，竟能够直接继承塔克世的爵位、敕书，这必然会引起宁古塔贝勒子孙的不满。面对同族之人的排挤、刺杀，努尔哈赤尽量保持理智。努尔哈赤有仇必报，但并不想制造新的仇恨，尤其是对家族之人，尽量以宽阔的心胸对待。
爱新觉罗・努尔哈赤
“四月内，太祖睡至夜半，闻门外有步履声，即起佩刀执弓将子女藏于僻处，令后故意如厕，太祖紧随，以后体蔽已身，潜伏于烟突侧后，即回室，是夜阴晦，忽电光一烛，见一贼将近，太祖以刀背击仆，喝令家人缚之，家人洛汉等言：‘缚之何用？当杀之。’太祖暗思，贼必有主，若杀之，其主必以杀人为名，加兵于我，自料兵少难敌，乃佯言曰：‘尔必来偷牛。’其贼答以偷牛是实，并无他意，洛汉又言：‘此贼实害我主，诈言偷牛，可杀之，以戒后人。’太祖曰：‘此贼实系偷牛，谅无别意。’遂释之。”还有一次，一位叫义苏的人来刺杀努尔哈赤，结果也被擒拿，努尔哈赤担心引发其他部族的进攻，也将之释放了：“五月太祖夜宿，有侍婢不寐在灶，燃灯忽燃忽灭，太祖见而疑之，乃著短甲于服内，持弓刀作外便状，至烟突侧，见排栅空处，隐隐有人形，露其首，恍惚不真，详视之则无矣，时天色甚晦，忽有电光，见贼已逼近，遂发一矢，被贼躲过，中其肩衣而走，复追射一矢，穿贼两足，以刀背击其首，昏绝于地，遂缚之，有弟兄亲族俱至，言‘挞之无益，不如杀之。’太祖曰：‘我若杀之，其主假杀人为名，必来加兵掠我粮食，粮食被掠，部属缺食必至叛散部落，散则孤立矣，彼必乘虚来攻。我等弓箭器械不足，何以御敌？又恐别部议我杀人启衅，不如释之为便。’遂纵之，其贼名义苏。”
万历十二年（1584年）初，努尔哈赤准备再征尼堪外兰，但“宁古塔贝勒”却暗中对努尔哈赤发难。其中，兆佳城城主李岱联合海西女真哈达部洗劫努尔哈赤的瑚齐寨，努尔哈赤不得不将战争矛头转向内部。万历十二年（1584年）四月，南方已经春暖花开，但是东北还是冰天雪地。到兆佳城的路需要翻越陡峭的噶哈岭，十分不易。但努尔哈赤不顾众人反对，坚决用兵。他带领士兵翻山越岭，攀岩走壁，悄然到达了兆佳寨。在努尔哈赤等人的猛攻之下，兆佳寨破，李岱被俘，此战史称“雪夜伐李岱”。因李岱是宁古塔贝勒子孙，努尔哈赤并未杀之，而是将之收养。
兆佳寨破后，努尔哈赤从叔龙敦唆使马儿敦寨寨主萨木占（努尔哈赤庶母之弟）谋杀了努尔哈赤的妹夫噶哈善·哈斯虎。努尔哈赤大怒，立即披上铠甲，带领400人向马儿敦寨杀去。马儿敦寨依山而建，易守难攻。努尔哈赤到达寨前时，寨子中的村民突然滚石下山攻击，努尔哈赤身先士卒，强攻三日，损兵折将，依然无法攻克。第四天，安费扬古在夜间趁敌人松懈，带领小队走小路，跣足缘崖，崎岖而上，攻入城中。随即，努尔哈赤发动总攻，两人里应外合，破马尔墩寨，杀萨木占，实现复仇。
破兆佳、马儿敦二城后，努尔哈赤基本肃清了宁古塔内部的反对势力，确立了自己在苏克苏浒部的领袖地位。苏克苏浒部是建州女真中面积最大、经济最繁荣、地位最高的部落，长期以来都是建州盟主的地位，明朝册封的建州卫、建州右卫、建州左卫都由苏克苏浒部承袭。但两次古勒寨之战后，建州部落离散，苏克苏浒部分崩离析。而努尔哈赤重整苏克苏浒部，将为建州的重新统一奠定基础。
