1380年，也就是洪武13年，中书省，监察使，大都督军都被取消了。权利与职责都已归皇上所有。胡惟庸所称的“谋反”的具体情况，至今还没有弄明白，由于有关这一点的种种说法和神话，不能使人相信，而且前后矛盾百岀。

皇上自己也承认，在胡惟庸被杀之后，在一场恐怖的大清洗中，一共被杀了一万五千多人。关于这场大清洗，人们提出了许多不同的说法，包括胡惟庸企图谋朝篡位。其中一个原因就是经济学。1380年以来，超过40000人在14年内失去了性命。这些人中大部分都是拥有土地的人，而且他们的土地很容易被中央征用。同时，这次大清洗也能够削弱南部人民对政权的影响力。

不过，在这个过程中，最重要的一点，好像是由于皇上的脾气。从孔印事件可以看出，他对任何不忠诚与腐朽行为都深恶痛绝；胡惟庸的案子更是证明了这一点。1700年所编纂的明朝“官方”史书，总结出了明代初期胡惟庸等人欲杀皇帝的看法。为此，他们派出明州（今天宁波）统领，与日本人合作。在这期间，有一个叫做封绩的人，也就是当时学术界对他是否存在表示了极大的质疑，他被送到了大元代的土卜斯.图尔克那里，请求元君岀兵，支援这场叛乱。

但是，因为胡惟庸的狂妄，他的计划暴露了。某一日，胡惟庸之子从南京落马，被一辆经过的车轮碾过而亡。胡惟庸为了发泄心中的怒火，杀死了赶车的人。这件事情传到了皇上耳中，皇上震怒，要求他们赔偿车夫的家人。但胡惟庸提出要用钱来补偿马车夫的家人，却被皇上拒绝了。于是，他联合了陈宁、中丞涂节，密谋造反。

1379年底，占领国向南京派遣使节。可是，胡惟庸身为宰相，却没有将使者的事情禀报上去，这就是他的职责所在。后来，皇上知道了占成国的使者来到南京，大为光火，把胡惟庸和他的同事，还有汪广洋都骂了一顿。1380年年初，图杰向皇上报告了胡惟庸的密谋。在经过一系列的检查之后，皇上下令将胡惟庸，陈宁，涂节三人全部斩杀，就连他们上报的那一幕都没有逃过一劫。这项调查曾间歇性地进行了大约十年。

也有人说，胡惟庸曾经邀请过皇上，以参观他家里的泉水为幌子，却被一位宦者云奇阻止了陛下前往胡惟庸的府邸。皇上勃然大怒，下令严惩，可是他虽然差点断了一条胳膊，却还是坚持手指胡家的府邸。这引起了洪武帝的注意，他登上了城墙，想要看看胡家到底是怎么回事。

他看到胡惟庸隐藏在黑暗中的一支部队，正等待着刺杀，这才意识到自己差点中了圈套。很快，胡惟庸就被当众赐死了。虽然有很多说法都有出入，但很有可能是胡惟庸在中央机构里安排了他的追随者，并从里面控制了中央机构。正如越来越多疑的皇上所说，胡惟庸是不是已经越过了他的法定权利，召集了一群忠心耿耿的文人，并企图造反，现在还不能确定。

面对这种明显的危险，皇上的回应是废除了中书省，这个胡惟庸的大本营，并废除了其它几个高级管理部门。其中有大都都督、监察衙门等。剩下的，就是在这些地方之下，建立起了一座座残缺不全的城市。军队由下层的五大军团统帅，由他们直辖于国王。在1382年建立都察院之前，监察体制尚无统一的领导。此外，1380年，皇上曾有一次废除了按察衙门。改革以后，一些没有被改变的地方，就交给了新成立的“谏官”，而“谏官”则是我们所不知道的；于1382年再次废止。