明朝建立后，虽然大规模的激烈的农民起义过去了，但是小规模的农民运动还时常发生，对此，朱元璋是加以镇压的。作为统治者，为了巩固自己的江山，他害怕千里长堤毁于蚁穴，星星之火顿成燎原之势。可是，“布衣”出生的朱元璋心里十分清楚，农民造反都是官吏、地主逼出来的，如果不压制富豪、打击贪污，大规模的农民起义还会再次爆发，他所建立的新王朝还有被推翻的危险。
因此，朱元璋深有感触地说：“富民多豪强，元朝时他们欺压小民，在家乡为所欲为，老百姓吃尽了他们的苦头。”明朝建立后，他曾多次召见富民，警告他们不准胡作非为。同时又不得不依靠他们，让他们充任粮长。这些富豪出于其阶级本性，总是贪得无厌地欺压、剥削劳苦大众，用各种手段兼并、霸占土地。朱元璋则用严刑、重法来打击这些富豪，同时又制订新的赋役法来控制他们。
江南一带的地主所受的打击最重。他们有的因为支持反动势力被杀了，有的发配充军，有的迁往边区。朱元璋学汉高祖刘邦徙天下富民于关中的方法，在一三七0年一次就迁江南富民及无地农民十四万户于他的老家凤阳。使这些地主离开了自己原有的土地，受到沉重的打击。苏州富豪沈万三的兴衰是很能说明问题的。
沈氏原籍吴兴南浔镇，迁到苏州后，因种地得法又经营海外贸易发财，成了元末富甲东南的巨豪。明朝建国后，沈氏以贿赂因而没有被迁到外乡，有沈茂、沈旺兄弟为苏州的大粮长。一三七0年，曾率苏州富民五百五十四户输粮到京，受到朱元璋的接见，赐给酒食。因为沈氏是最富的上等户中最“秀”者，所以当时人称“沈万三”或“沈万三秀”。
一三八六年，编制鱼鳞图册，查出沈旺的两个儿子隐瞒田产，被送往京师坐牢，出狱后死去。沈茂之子沈阶，一三八八年为户部员外郎，留居京师，成为南京富豪，曾助建通济、聚宝(今中华门)、三山(今水西门)、洪武等城墙。一三九三年以蓝玉案牵连被捕，沈氏后人大部分被杀或充军，家产没收。“沈万三”从此破落。
朱元璋又说：“我过去在民间时，见到由儒生出身的县官大都迂腐得很，办不成事情;由小吏出身的县官大都奸诈而好玩弄手法，以致败坏政令坑害百姓，加上灾荒，弱者无法生存，强者就起来造反。这些都是贪官污吏造成的。”官逼民反。因此，他对贪官污吏非常痛恨。明朝建立后，朱元璋对贪官污吏的打击是中国历史上所罕见的。
有一次，朱元璋外出视察，查出当地长官有贪污行为，便下令把这县官杀了。因为这县官贪财，就剥下他的皮塞满稻草，把它挂在公堂里，下一任县官只要抬起头来看见他的前任是如此下场，就触目惊心，不敢再胡作非为了。
他还下令：凡地方官贪污者，不得阻止老百姓到京城告状;凡贪污六十两以上的地方官，一律杀头示众，剥皮实草，挂在公座两旁。尽管朱元璋以这种严厉的办法去打击贪污，却仍然不能从根本上解决问题。
他感慨地说：“用这种办法本意是消除贪官污吏，谁知道早上杀了晚上又有人犯罪。今后贪污者不论其轻重，一律杀头!”朱元璋根本不懂得贪污违法是地主阶级的本性和封建制度本身造成的，因此他也无法解决贪污犯罪问题。
