年3月至1945年9月任新四军第七师兼皖江军区副司令员、皖鄂赣(皖江)区委军事部部长（至1943年9月）。在皖江地区开展游击战，指挥南义战斗、1943年春季皖中反“扫荡”斗争。后到中共中央华中局党校学习，兼大队长。不久去延安中央党校学习，在学习期间担任中央党校一部第一支部党支部书记。1945年2月在中央党校召开的湘鄂赣边区党史座谈会上作《关于湘鄂赣边区内战中期后期历史情形报告》的中心发言。4月至6月作为华中代表团成员出席中共七大。
抗日战争胜利后到山东。8月至10月任中共中央华中局委员。同年12月至1948年7月任中共鲁南区委书记、社会部部长、鲁南军区政治委员。 1948年鲁中、鲁南、滨海区合并为鲁中南区。同年7月至1949年3月任鲁中南区委第一副书记、常务委员，鲁中南军区司令员、第一副政治委员。1948 年7月至1949年2月兼任华东野战军鲁中南纵队司令员、政治委员。1948年9月至1949年起兼任华东支前委员会主任、支前司令部司令员。1948年 12月至1949年1月任徐州军管会主任兼中共徐州市委员会书记。1949年3月至9月任中共山东分局第一副书记。9月任中共山东分局副书记。同年任华东运输司令部司令员。为粉碎国民党军队的重点进攻，特别是为支援淮海、渡江等战役，动员几十万民兵和民工支援人民解放战争。1949年5月任中国人民解放军上海市军事管制委员会下设的运输司令部司令员。10月任山东军区副司令员。
新中国成立以后，兼任山东军区副政治委员。1949年10月至1950年5月任山东军区党委副书记，1950年5月至1951年10月任党委常委。1949年10月至12月任中共中央山东分局第一副书记。同年12月至1950年8 月任代理山东分局书记、华东军政委员会委员（至1952年9月）。1950年3月至8月任山东省人民政府委员会第一副主席。同年3月至1955年1月任山东省各界人民代表会议协商委员会副主席。1950年6月任中央军委人民武装部副部长，1950年8月调任中共中央复员委员会（后改为中央转业建设委员会）秘书长。动员广大民兵补充中国人民志愿军，加强全国民兵的建设，实行义务兵役制度，办理几百万志愿兵复员转业。1951年12月至1954年任中央军委直属队总党委委员。1954年12月至1957年12月任中央军委直属机关党委常务委员。1955 年被授予上将军衔。荣获一级八一勋章、一级独立自由勋章、一级解放勋章。1955年4月至1957年4月任人民解放军总参谋部队列部部长、党委书记。1957年5月至1966年5月任总参谋部动员部部长、党委书记。1957年12月至1963年3月任解放军直属队机关党委常务委员。 1960年12月至1966年5月任总参谋部党委委员。“文化大革命”中受迫害。恢复工作以后，主持编写中国民兵史。1975年任总参谋部顾问。1978年12月被选为中共中央纪律检查委员会常委。1981年8月25日因病在北京逝世。主编有《中国民兵》等。