兰州铁路机械学校被国家教育部评为首批国家级重点中等专业学校，铁道部名校，兰州铁路机械学校是由铁道部投资兴建的铁道部重点建设院校，创建于1950年9月，原名“西北铁路干线工程局铁路人员培训所”，1952年12月改组为天水铁路学校，1958年曾升格为新疆铁道学院，举办本科教育，后因国家院系调整恢复举办中专。学校是铁道部确认的全国铁路高技能人才培养基地、铁路员工培训基地，中国历史最悠久的铁路职业院校。办学多年来，为铁路和社会培养了大量人才，被誉为铁路的“黄埔军校”，是全国铁路、城际轻轨铁路、城市地铁轨道交通专业人才培养基地。
1950年4月，经中央人民政府政务院批准，西北铁路干线工程局 （以下简称西干局）成立，西干局重视培养技术人才，1950年9月在天水创办铁路人员培训所，后来大家称为铁训所。随着铁路建设和教育的发展，铁训所几易其名、几迁校址。兰州铁路机械学校前身是1950年创建的西北铁路干线工程局铁路人员训练所，1952年12月改组为天水铁路学校，1958年曾升格为新疆铁道学院，举办本科教育，后因国家院系调整恢复举办中专。1966年定名为兰州铁路机械学校，隶属铁道部第一工程局领导，1970年9月，由兰州铁路局管理，改名兰州铁路技术学校，1983年10月恢复兰州铁路机械学校校名，1993年12月经甘肃省人民政府批准，为省部级重点中专学校，1994年6月，经国家教委检查验收，于同年8月确定兰州铁路机械学校为国家级重点中等专业学校。学校办学历史悠久，长期隶属于铁道部管理，学校是共和国最早建立的铁道院校之一，被社会赞誉为“铁路技能人才的摇篮”。随着铁路建设和教育的发展，学校几迁校址，几易其名，天水铁路学校----天水铁路工程学校----新疆铁道学院----新疆铁路工程学校----兰州铁路机械学校----兰州铁路技术学校----兰州铁路机械学校。1998年5月，同原兰州铁路成人中等专业学校合并，成为多层次、多模式的综合性中等专业学校。为适应国家教育体制改革和铁路主辅分离改革的需要，经国家教育部、铁道部和甘肃省批准，2005年9月原铁道部名校兰州铁路机械学校整体并入兰州交通大学，根据甘肃省人民政府《关于兰州铁路局所属兰州铁路机械学校和兰州铁路运输技工学校移交地方并入兰州交通大学有关问题的会议纪要》（甘政办纪〔2005〕3号）精神，决定将隶属于铁道部的铁路教育资源铁道部重点建设院校兰州铁路机械学校整体并入兰州交通大学，其人员编制、校产资源、财政拨款整体移交兰州交通大学，移交实行“零债务”，学校并入前的债务由兰州铁路局负责处理。