随著政权的日渐稳固，统治阶级内部矛盾也日渐暴露出来。从朱元璋政权的支柱来看，它有二支基本力量：淮西集团和浙东集团。朱元璋建国称帝后，淮人在政治军事经济上占压倒的优势，浙东集团被排挤、受压抑，他们当然不会甘心，也想尽一切办法取得朱元璋的信任。就这样两大派系斗争越来越尖锐。朱元璋就利用这种矛盾，重用淮人又用浙东势力来监视淮人，加强和巩固自己的权力。当时，左丞相李善长功高望重，众人皆仰其鼻息，只有刘基与之分庭抗礼，李善长为之不乐。逢李善长因过失受谴，御史凌悦乘机弹劾，刘基却站出来替李善长辩护，且能调和诸将。朱元璋惊讶地说：他数次想害你，你怎么反给他做说客呢？看来，你既有大功，又忠心诚实，可以代他为相。刘基叩头答：这使不得，好比要换柱子，必得大木方可，若以小木代之，将加速倾覆。臣驽钝，岂能受此重任。”
刘基六十一岁时，为规避朝廷风险，避免祸事缠身，主动辞官归隐、回家养老。
这年冬天，朱元璋想起刘基劳苦功高，亲自写了封信，召他回京，赐赉甚厚，进兼弘文馆学士，并追赠其祖、父皆永嘉郡公。洪武三年十一月，大封功臣，授刘基诚意伯。朱元璋有事也常请教刘基，曾亲笔写信询问天象：“即今天象叠见，天鸣已八载，日中黑子或一或二或三，或一日二见，不知灾祸何年何月何日至？”刘基就详详细细地写了一个奏本，主要意思讲：霜雪之后，必有阳春。现在国家刚刚建立，应该给老百姓松口气，给民实惠。