Das Gebäude Judenstr. 26 war im 17. Jahrhundert Eigentum des Hofjuden Joel Alexander (1642, Halberstadt – unbekannt). Als Berend Lehmann (1661, Essen – 1730, Halberstadt) in den 1680er Jahren dessen Tochter Miriam (unbekannt, Halberstadt – 1707, Halberstadt) heiratete, war das Haus seines Schwiegervaters der erste Wohnsitz in Halberstadt. 

1766 erwarb die jüdische Gemeinde das Gebäude. Anfang des 19. Jahrhunderts wird erstmals die Nutzung des Hauses Judenstr. 26 als Gemeindemikwe erwähnt. Das „lebendige“ Wasser ist hier eine Quelle. Da das Wasser nach dem Religionsgesetz nicht durch Röhren fließen darf, tritt es direkt durch ein Loch in einer der Fliesen in das Tauchbecken ein. 1891 wurde die schlichte Kellermikwe zu einem großzügigen Bad mit einem ins Erdgeschoss ragenden Gewölbe umgestaltet. Für die Körperreinigung standen nun zwei Kabinen mit Badewannen zur Verfügung. 1908 wurde mit der Elektrifizierung eine Pumpe zum Wechseln des Wassers im Tauchbecken eingebaut.

Ab 1935 stand die Nutzung der sanitären Einrichtungen im Vordergrund, da Juden der Besuch der öffentlichen Badeanstalt verboten war.

Seit der Vernichtung der jüdischen Gemeinde Halberstadt wurde das Gebäude als Wohnhaus genutzt. In den 1950er Jahren wurde die Mikwe zurückgebaut, so dass das Erdgeschoss wieder Wohnraum wurde. Das Tauchbecken im Keller wurde verfüllt.

2001 wurde mit dem Entstehen des Berend Lehmann Museums das Tauchbecken freigelegt, und die Raumsituation, wie sie bis in 1950er Jahre bestand, wieder hergestellt.