郭天民被调到第4兵团，陈赓为司令员兼政委，他为副司令员兼参谋长，刘志坚为副政委兼政治部主任。渡江战役，第4兵团划归第四野战军，随大军南下，直捣两广。在追击敌人时，他们所在的部队每天以70公里或者80公里的速度前进，与兄弟部队一起将40万国民党残余部队全部消灭干净。
新中国成立后，郭天民所在的第4兵团来到云南。在陈赓调往中国人民志愿军任职后，他领导了改造卢汉部队和肃清匪特的任务。对郭天民来说，改造国民党的起义和投诚部队，是一项新工作，从来未遇到过。为了出色完成任务，他认真学习毛泽东主席制定的方针，对起义部队，以宽广胸怀，接纳了这一新生力量，对其彻底改造，使其获得新生。
由于国民党反动派的造谣，一些起义的官兵有顾虑，担心共产党对其分化，然后吃掉。郭天民按中央的方针，保留原国民党起义军队基本建制，说服教育国民党官兵留下来，为新中国的国防事业做贡献。对国民党军队存在的旧思想、旧习惯，特别是反动和错误的东西，郭天民不牵就，不姑息，进行有力有节的斗争，全面贯彻了党的统一战线。改造原国民党起义部队，郭天民坚持团结教育，争取大多数官兵，打击少数反动分子，及时发现和制止了少数反动分叛变革命的阴谋。国民党起义的5000多官兵经过教育，编成了支崭新队伍，成了解放军部队的一员。
解放初期，云南的社会情况复杂，有历史上遗留下来的土匪，有反动会道门组织，有封建的恶霸势力，有残余的国民党反动军队。新中国成立后，这几支反动势力，纠集在一起。盘据在台湾的蒋介石企图将云南变成**的桥头堡，完成所谓反攻大陆的“大业”。据统计，当时全省有各种反动武装达250余股，匪特达十多万人。他们活动频繁，十分猖獗，抢掠人民群众财物，袭击人民政府，杀害革命干部，破坏交通。郭天民作为驻军主要领导，将大部分的精力放在了肃清匪特上。云南军区作出决定，一个团包一个县。对大股匪特，动用大部队；对小股土匪，采取机动灵活的战术，全省展开大规模的清剿匪特的斗争。在人民群众的支持下，云南的绝大多数匪特被肃清，一度动荡的社会安定下来。从此，云南从此进入了祥和繁荣的时期。
1952年10月，郭天民进南京军事学院学习，兼任高级系主任，承担了学院的部分领导工作。1955年，郭天民被任命为中国人民解放军训练总监部副部长，并兼任军事出版部部长，为人民解放军的出版事业奠定了基础。同年被授予上将军衔，荣获一级八一勋章、一级独立自由勋章、一级解放勋章。
1956年夏季，郭天民兼任陆军训练部部长，负责组织指挥全军陆军各兵种的训练工作。1958年，郭天民受命兼任院校部部长，为我军的院校工作步入正规做出了贡献。 1958年，正当人民解放军在现代化、正规化建设道路上大步前进的时候，全军突然掀起了“反教条主义”运动。面对这场运动，郭天民预言道：“反教条主义会使部队条例废弛，思想涣散，纪律松懈，战斗力必将大大减弱。”并直言不讳地指出：搞这场运动是错误的。由于郭天民没有站在反“教条主义”一边，敢于仗义直言，最后被诬陷为“反党集团”成员。但他没有为自己申辩，而是以坚强的党性更加努力地工作，力图减少“反教条主义”造成的损失。同时也使他身体垮了下来，两年之内接连患皮癌和心肌梗塞，被迫离开了工作岗位。 1969年10月，虽身患重病也被限令离京。到广州后，又得不到应有的治疗。1970年5月26日,郭天民在广州逝世，享年65岁。