1945年10月23日，晋冀鲁豫军区将所属太岳纵队编为第4纵队。下辖第10、第11、第12旅。1948年1月，第4纵队在河南省襄城、方城地区进行新式整军。3月参加洛阳战役。1948年5月，晋冀鲁豫野战军第4纵队改称中原野战军第4纵队，仍归陈谢集团指挥。参加宛西、宛东战役和豫东战役。11～12月参加淮海战役。

1949年2月14日，根据中共中央军委关于统一全军编制及部队番号的命令，第4纵队所属第11、第22旅和豫西地方武装一部及淮海战役中起义的国民党军第110师一部，在河南省漯河地区整编为中国人民解放军第14军，隶属第二野战军第4兵团。李成芳任军长（后兼政治委员），雷荣天任政治委员，王启明任副军长兼参谋长，朱佩瑄任政治部主任。下辖第40、第41、第42师，共2.3万余人。

1949年4～5月，第14军参加渡江战役，作为第4兵团第二梯队过江。7月，随兵团归第四野战军指挥，参加湘赣战役。8月在江西整训，全军兵力增至3.1万余人。10～12月参广东战役和广西战役，后随兵团归回第二野战军建制。