第二個原因則要深刻得多。就算人才確實都在一個小團體裡，我們是不是就可以不要五湖四海了呢？朱元璋給了我們一個耐人尋味的回答。
　　洪武三十年（1398年），翰林學士劉三吾等主持會試，錄取了52名進士，全部都是南方人。一時間北方舉子不滿，懷疑作為南方人的劉三吾偏袒自己的老鄉。朱元璋大怒，命令侍讀張信等12人重新閱卷，結果他們認為此前的評卷結果並無偏差，建議維持原錄取結果不變。朱元璋更加生氣，下令將張信等20余人處死，劉三吾等人發配戍邊，而他自己親自第三次閱卷，錄取了61名進士，全部都是北方人。而此后，明朝干脆取消了對進士的統一錄取，改按地域分配，南榜分配 60%名額，北榜分配40%（后來又增設了中榜，改為南榜 55%，北榜 35%，中榜10%）。
　　這就是明朝著名的南北榜案。其實這並不是一次真正意義上的科場弊案。劉三吾其實是一個被后人評價為“至臨大節，屹乎不可奪”的君子，后來的張信等人的復查也証明了他的清白。他取士之所以都是南方人其實是因為南方地區長期以來社會較為穩定，經濟文化更為發達，教育條件遠勝北方。如果以科舉的角度來看的話，人才還真都在南方。其實朱元璋和他之后的明朝皇帝們並不是不清楚這一點，否則他們也不需要把南北榜制度化了。
　　那麼為什麼朱元璋要這樣做呢？是因為他要護著自己的老鄉嗎？恰恰相反，朱元璋建立明朝的根據地是在南方，他和手下重臣們的家鄉不是屬於南榜（浙東），就是屬於中榜（淮西）。他如此袒護北方，其實是為了照顧那些沒有能夠進入其統治集團的人，要提高其統治集團組成的代表性，也是加強自己統治的合法性。要知道，自從二百多年前北宋滅亡以來，中國的南北方就長期處於隔離對峙的狀態。元朝統治下中國分裂的局面雖然結束，但元朝對中國北方人（漢人）和南方人（南人）仍然是區別對待的。而在朱元璋反元斗爭中，也是以南方為根據地，來進攻元朝控制下的北方地區。事實上，朱元璋是歷史上第一個從南向北統一中國的人。在這種背景下，要說南北方之間沒有一點隔閡，是不可能的。那麼，如果朱元璋的政府再一邊倒地由南方人組成，即使這些南方人確實很賢能，北方人也不可能滿意，甚至會產生離心的趨勢。因此，朱元璋迫切需要實現政府組成上的五湖四海，哪怕是因此而在一定程度上犧牲了任人唯賢也在所不惜！
　　這就是用人要五湖四海的第二個原因——五湖四海是政權的組成具有代表性和合法性的重要保証。通俗來說，就是你可以靠一幫“哥們”來打天下，但不能就隻靠這幫“哥們”來治天下（哪怕他們都是賢人），否則你就可能會把自己和這幫“哥們”都擺到天下人的對立面上去。其實，不光是朱元璋，包括漢、隋、唐在內的絕大部分王朝，在政權建立之后，都有這樣一個逐步降低開國功臣集團在政權中的比例、逐步實現用人的五湖四海的過程，隻不過不像朱元璋這樣激烈而已。
　　因此，五湖四海實際上是一條重要的用人原則。它絕不僅僅是用人唯賢原則的一個附屬品，而是一條獨立的原則，其重要性有的時候甚至超過用人唯賢。朱元璋等古人對於這一原則的重視對我們今天也是很有啟發意義的。