Das Schlossmuseum Arnstadt besteht aus dem dreiflügeligem Neuen Palais, erbaut zwischen 1729 und 1734 als Nebenresidenz der Fürsten von Schwarzburg-Sondershausen, und dem Marstall. Ursprünglich beherbergte der Marstall die Pferde und Kutschen der Fürstenfamilie. Später wurde er für verschiedene Zwecke genutzt. Seit 1992 befinden sich darin eine Sammlung von Grabsteinen aus dem 18. Jahrhundert und Fragmente des ehemaligen Residenzschlosses Neideck aus dem 16. Jahrhundert.
Seitdem wird der Marstall als Lapidarium bezeichnet (vom lateinischen lapis = Stein). Die Steinwerke sind zum diesjährigen Bachadvent zu besichtigen, weil das Lapidarium als Begegnungs- und Veranstaltungsort dient.
