清光绪三十一年（1905年），车站始建，由英国人投资建设。按清政府邮传部“一等站屋”统一规格设计要求，车站建有大小平房18间，建筑面积520平方米，拥有有大厅、票房、电报房、站长房、邮政房、货物经理人房等建筑设施。候车室有两小间，木结构屋顶，屋面铺盖瓦楞白铁皮。
清光绪三十四年（1908年）7月，车站正式建成，时称沪宁铁路南京车站，同年12月15日，车站正式营业。 民国十六年（1927年），原国民政府定都南京，车站改称南京车站。民国十九年（1930年）3月，由于该站过于老旧，已不再适应当时的运输环境，原国民政府铁道部对南京下关站进行重建。重建后的下关车站，站屋为中间3层、两侧2层的建筑。站屋中部为椭圆形车站大厅。 民国三十六年（1947年），原中华民国政府又对下关车站进行扩建。新建车站大楼，面积1.87万平方米，可容纳4000名旅客。新的车站由著名建筑师杨廷宝设计，于当年建设完成，车站更名为“南京车站”并由于右任题写站名。
民国三十八年（1949年），原国民政府撤离南京时，炸毁了站房等设施，车站中央大厅遭到毁坏。 1950年，政府拨巨款修复被炸毁的车站，命名为南京站。重建候车大厅、贵宾室和行李房等，候车大厅面积超过1.8万平方米，主体建筑由正面三层大楼及南北两翼组成。 1968年，南京长江大桥建成通车，位于玄武湖北侧的新南京站建成，原南京站因相对位置处于南京市区西部，因而更名为南京西站，一直沿用至今，因其地处下关地区，又称下关火车站。
2012年3月24日22时17分，下关火车站正式停止办理客运业务。 2018年4月29日，下关火车站搬迁工程正式启动，原址将改造为铁路博物馆。下关火车站俯瞰呈“U”字形，南北两翼为2层，西面主要入口设计成五孔13米高的大拱门作为入口通至大厅。大厅南侧设置行包房、售票处，还有检票口及辅助出入口各1个；北侧为贵宾、邮件用房以及出入口，各种流线布置合理互不干扰，内部有六座港湾式月台。
