Het hoofdgebouw van het museum, aan het Wenceslausplein, is ontworpen door de Tsjechische architect Josef Schulz. De bouw vond plaats van 1885 tot 1891. Voordien had de instelling haar onderkomen steeds tijdelijk in verschillende paleizen gehad. Nu er een permanent gebouw was, werd het doel van het museum het verzamelen van nieuwe materialen. Eerst was het doel het bewaren van de huidige collectie.
Tijdens de Tweede Wereldoorlog werd het gebouw vernietigd in een bombardement, maar de collecties waren bewaard gebleven doordat deze tijdelijk waren verplaatst naar andere opslagruimten. Het museum heropende zijn deuren na intensieve herstelwerkzaamheden in het jaar 1947.
Tijdens de Praagse Lente in 1968 werd de voorgevel ernstig beschadigd. De schietgaten die werden veroorzaakt werden gerepareerd in de jaren 1970 tot 1972, maar zijn tegenwoordig nog steeds zichtbaar, doordat de restaurateurs een lichtere vorm van zandsteen gebruikten. Het hoofdgebouw raakte ook beschadigd tijdens de bouw van de metro van Praag in 1972 en 1978.
