截至2010年，黄山市境内有一条皖赣铁路，火车站主要有黄山站、黄山北站和歙县北站，经过黄山市境内从黄山始发的列车有3条线，分别是黄山一淮北、黄山一上海和黄山一南京西，其他都是过路车。这3条线路主要停靠站是淮北、蚌埠、合肥、上海、苏州、无锡、南京。