C’est entre 1888 et 1890 que furent entrepris, à la demande de la Communauté israélite de Sarre, les travaux de construction de la synagogue dans le centre-ville de Sarrebruck, près de l’hôtel de ville, selon les plans de l’architecte sarrebruckois Friedrich Mertz. Avec plus de 2 000 fidèles, la communauté israélite de St. Jean et de Sarrebruck s’était, malgré des débuts modestes, imposée à la fin des années 1920 comme une institution de la vie urbaine. Plus de la moitié des Juifs de Sarre y étaient rattachés. La synagogue de style mauresque fut érigée entre 1888 et 1890, à l’angle des rues Futterstraße et Kaiserstraße, selon les plans de l’architecte sarrebruckois Friedrich Mertz. Elle fut entièrement incendiée lors du pogrom du 9 novembre 1938. Les juifs de Sarre furent poussés à l’exil ou déportés le 22 octobre 1940 vers le camp de Gurs puis, jusqu’en mars 1945, acheminés dans les camps d’extermination où ils furent exécutés. En 1946, 40 survivants de l’Holocauste fondèrent la communauté israélite de Sarre à Sarrebruck. En 1947 fut prise la décision d’édifier une nouvelle synagogue. Elle fut inaugurée en 1951 sur la Beethovenplatz.
En 2022, la sculpture « Lien du Souvenir » fut inaugurée sur la « Place du Souvenir » sur le parvis de la synagogue. Le mémorial recense les noms des juifs de Sarre persécutés et assassinés sous le régime national-socialiste. Les noms des juifs de Sarre sont conservés dans les archives municipales de Sarrebruck sous la forme d’un livre commémoratif numérique qui permet de perpétuer le souvenir de la culture juive en Sarre.