Die Vorgängerin der Kleinen Kirche, von 1719 bis 1721 erbaut, war ein Geschenk des Stadtgründers Markgraf Carl Wilhelm an seine Schwiegertochter Prinzessin Amalie von Nassau-Oranien/Dietz, die der reformierten Kirche angehörte. Das mit Holz erbaute Gotteshaus wurde sehr schnell baufällig, so dass nach wenigen Jahrzehnten ein Neubau erforderlich war.

In den Jahren 1773 bis 1776 wurde die neue Kirche vom Fürstlich Markgräflichen Baumeister Wilhelm Jeremias Müller erbaut. Sie wurde mit rotem Sandstein gebaut und im Louis-seize-Stil gehalten und war bestimmt für die reformierte Gemeinde.

Im Jahre 1807 bekam die Kirche ihr erstes Geläut. Als sich 1821 die reformierten und evangelischen Kirchen zusammenschlossen (Union), ging die Kirche in den Besitz der evangelischen Gemeinde über.

Bei einem Fliegerangriff im September 1944 wurde die Kirche zu fast fünfzig Prozent zerstört. Unter Oberbaurat Hermann Zelt begann 1946 der Wiederaufbau, wobei nur geringfügige Veränderungen am ursprünglichen Baustil vorgenommen wurden. 

Im Beisein des Oberhauptes des Großherzoglichen Hauses, Markgraf Berthold von Baden, fand im November 1949 der erste Gottesdienst in der wieder errichteten Kirche statt. Im Jahre 1950 bekam die Kleine Kirche ihre neue Orgel, zweimanualig, mit zwanzig Registern, und 1952 ihr drittes Geläut: "f-g-b-c".

Sechsundzwanzig Jahre nach dem Wiederaufbau, im Herbst 1995, wurde mit der ersten Innenrenovierung begonnen, die im Juli 1996 abgeschlossen war. Heute präsentiert sich die Kleine Kirche als heller lichter Gottesraum, freundlich, einladend, modern, ein Ort des Friedens und der Stille. Die Kleine Kirche wird - neben der Stadtkirche - von den Gemeinden der Alt- und Mittelstadt als Gottesraum genutzt. Studenten der Musikhochschule geben in ihr regelmäßig Konzerte. Überhaupt ist die Kleine Kirche sehr beliebt, vor allem für Trauungen, Taufen und sonstige kirchliche wie auch kulturelle Veranstaltungen. Die Kleine Kirche ist die älteste Kirche der Stadt. 

Werner Rogg
Karlsruhe, 01.08.1996