Binanın plan ve projesini Otto Ritter ile Helmuth Cuno adlı iki Alman mimar-mühendisi çizdi ve bitimine kadar inşaata nezaret ettiler. Gar binası, bugün kapalı kısımlarla beraber toplam 3836 m2 dir. Bina, her biri 21 metre uzunluğunda, 1700 kazık üzerine oturtuldu.
Garın temeli, Hereke'den getirilen pembe granit, cephesi de Lefke civarındaki bir taş ocağından getirtilen taşlarla yapıldı. Açık neftî renk olan bu taşların işlenmesi kolay olmakla beraber dış iklim etkilerine de dayanıklıydı.
Haydarpaşa garı 6 Eylül 1917 tarihinde büyük bir sabotaja uğradı. Peşpeşe meydana gelen iki büyük patlama neticesinde, garda bekleyen içi asker dolu banliyö treni, askerlerle beraber yandı. Bu feci vakada bir tabur kadar askerin öldüğü söylenir.
Gar binası, bu elîm vakadan sonra yeniden tamir edildi. TCDD' nın en büyük istasyonu Haydarpaşa garı 1969' da hizmete sokulan elektrikli tren hattıyla daha da önem kazandı. Dört katlı yapının zemin katı yolcu salonlarına ve gişelere ayrılmıştır. Üstteki üç katta büro odaları yer alır. Deniz tarafında iki büyük giriş kapısı bulunur.
