第二个原因则要深刻得多。就算人才确实都在一个小团体里，我们是不是就可以不要五湖四海了呢？朱元璋给了我们一个耐人寻味的回答。
　　洪武三十年（1398年），翰林学士刘三吾等主持会试，录取了52名进士，全部都是南方人。一时间北方举子不满，怀疑作为南方人的刘三吾偏袒自己的老乡。朱元璋大怒，命令侍读张信等12人重新阅卷，结果他们认为此前的评卷结果并无偏差，建议维持原录取结果不变。朱元璋更加生气，下令将张信等20余人处死，刘三吾等人发配戍边，而他自己亲自第三次阅卷，录取了61名进士，全部都是北方人。而此后，明朝干脆取消了对进士的统一录取，改按地域分配，南榜分配 60%名额，北榜分配40%（后来又增设了中榜，改为南榜 55%，北榜 35%，中榜10%）。
　　这就是明朝著名的南北榜案。其实这并不是一次真正意义上的科场弊案。刘三吾其实是一个被后人评价为“至临大节，屹乎不可夺”的君子，后来的张信等人的复查也证明了他的清白。他取士之所以都是南方人其实是因为南方地区长期以来社会较为稳定，经济文化更为发达，教育条件远胜北方。如果以科举的角度来看的话，人才还真都在南方。其实朱元璋和他之后的明朝皇帝们并不是不清楚这一点，否则他们也不需要把南北榜制度化了。
　　那么为什么朱元璋要这样做呢？是因为他要护着自己的老乡吗？恰恰相反，朱元璋建立明朝的根据地是在南方，他和手下重臣们的家乡不是属于南榜（浙东），就是属于中榜（淮西）。他如此袒护北方，其实是为了照顾那些没有能够进入其统治集团的人，要提高其统治集团组成的代表性，也是加强自己统治的合法性。要知道，自从二百多年前北宋灭亡以来，中国的南北方就长期处于隔离对峙的状态。元朝统治下中国分裂的局面虽然结束，但元朝对中国北方人（汉人）和南方人（南人）仍然是区别对待的。而在朱元璋反元斗争中，也是以南方为根据地，来进攻元朝控制下的北方地区。事实上，朱元璋是历史上第一个从南向北统一中国的人。在这种背景下，要说南北方之间没有一点隔阂，是不可能的。那么，如果朱元璋的政府再一边倒地由南方人组成，即使这些南方人确实很贤能，北方人也不可能满意，甚至会产生离心的趋势。因此，朱元璋迫切需要实现政府组成上的五湖四海，哪怕是因此而在一定程度上牺牲了任人唯贤也在所不惜！
　　这就是用人要五湖四海的第二个原因——五湖四海是政权的组成具有代表性和合法性的重要保证。通俗来说，就是你可以靠一帮“哥们”来打天下，但不能就只靠这帮“哥们”来治天下（哪怕他们都是贤人），否则你就可能会把自己和这帮“哥们”都摆到天下人的对立面上去。其实，不光是朱元璋，包括汉、隋、唐在内的绝大部分王朝，在政权建立之后，都有这样一个逐步降低开国功臣集团在政权中的比例、逐步实现用人的五湖四海的过程，只不过不像朱元璋这样激烈而已。
　　因此，五湖四海实际上是一条重要的用人原则。它绝不仅仅是用人唯贤原则的一个附属品，而是一条独立的原则，其重要性有的时候甚至超过用人唯贤。朱元璋等古人对于这一原则的重视对我们今天也是很有启发意义的。