Das Waisenhaus wurde 1766 an Stelle des gräflich Gleich’schen Freihauses am Plan als Dependance des Hospitals St. Georg zur Versorgung von Waisen gebaut. Das Haus wurde 1822 Knabenschule, später Irrenanstalt und Gymnasium. Im 20 Jh. war es Handelsschule und später Obdachlosenasyl.
Im ersten Stock finden Konzerte in dem sehenswerten Barocksaal statt.