第一次虽然失败了，但是朱元璋并没有灰心，洪武十五年（公元1382年）朱元璋又仿效宋朝的制度，设置殿阁大学士作为皇帝的顾问，殿阁大学士的设置成为明朝内阁制度的雏形。不过由于朱元璋在位期间十分勤政，重大政务必然亲力亲为，因此该时期的大学士很少能够参与决策，也没什么权力，只是参谋顾问而已，与后世的内阁相差甚远。朱元璋驾崩后，继位的朱允炆基本上沿袭了这一制度，也没有什么太大改动，直到朱棣登上皇位，一切就此改变。
2.朱棣的平衡术
朱元璋逝世没多久，朱棣发动“靖难之役”夺得皇帝宝座。朱棣继位当年的七月下诏，令一批官员进入文渊阁，为皇帝提供参谋建议，这被认为是明朝内阁正式设立的标志。那么朱棣为什么要设立内阁制呢？
两个原因，一来朱棣虽然也是马上天子，但其生长于承平时期，他的精力难以比拟朱元璋，朱元璋尚且需要帮手，朱棣怎么会不需要呢，只不过相比起父亲，朱棣的智囊团人数更多、更专业而已；其次是为了交好文官集团，朱棣的皇位来源不正，在这件事上其与文官集团多有对立，设置内阁就是朱棣拉拢文官集团的一种手段。
但朱棣毕竟是一个经验丰富的政治家，他设立内阁并不是一味让渡权力给内阁成员，而是很讲究“平衡术”，这一点从内阁的设置就能看出，朱棣亲自选定的首批阁员有解缙、胡广、黄淮、杨荣、杨士奇、金幼孜、胡俨等人，朱棣对他们的要求是“并参国家政务，以低秩之官品佐朝廷之事”。这些人中既有前朝旧臣，又有新晋官吏，有能人才学之士，也有朱棣的忠诚心腹，且大多历经翰林院而供职（后代升内阁者大多经翰林院历练方可成阁老，这个规矩也是此时开始形成的），大多有才气显外，名声显赫，但官品不高，面对京城的大官不敢轻易冒犯，以此达到朝廷上的平衡。由此观之，不得不说朱棣设立内阁一事确实煞费苦心。