1949年1月10日，中央軍委鐵道部成立，任命滕代遠為部長，建國后劃歸中央政府，1954年9月始稱中華人民共和國鐵道部。滕亦為部歷史唯一的第一任軍地鐵道部部長。1954年3月5日，中央軍委整編鐵道兵團和6個志愿軍鐵道工程師，中國人民解放軍鐵道兵正式成立，王震任首任司令員兼政委。很多年里，中國鐵路以此二部制支撐，鐵道部負責行政運輸，鐵道兵負責修筑鐵路。