La communauté juive de Marmoutier enterrait ses morts à Saverne jusqu'au XVIIIe siècle, moyennant loyer et redevances.
En 1791 les juifs devinrent citoyens à part entière, ce qui leur apporta quelques avantages et leur facilita l’existence. Jusque là, à Marmoutier, ils devaient enterrer leurs morts au cimetière israélite de Saverne mais en 1798 le conseil municipal leur céda un terrain à la lisière du Tannenwald.
Leur cimetière compte encore près de 500 pierres tombales. Il y en avait bien plus, car les juifs pauvres devaient se contenter de plaques en bois qui ne résistèrent pas aux intempéries. La plus ancienne tombe identifiée est celle de Moyses Raphaël, ministre officiant décédé le 27 avril 1799. Contrairement à l'obligation qui leur fut faite (après l'annexion allemande en 1870) de n'utiliser que la langue allemande pour leurs inscriptions, les juifs continuaient l'utilisation de l'hébreux et du français
Sur certaines pierres des mains élevées avec les doigts écartés en un geste de bénédiction indiquent que le défunt dans cette tombe était un Kohanim, un descendant d’Aaron. D’autres décors, des aiguières, vases ou cruches, rappellent le geste des Lévites chargés de verser l’eau sur les mains des Kohanim.
Parmi les tombes, on peut en citer quelques-unes de notables locaux, comme celles de Louis Kahn (1821-1889) père d'Albert Kahn, de Hercule Heimann (instituteur de 1850 à 1898), de Joseph Bloch (maire de 1877 à 1879), du Docteur Joseph Bielski (maire de 1893 à 1914) et de Pierre Katz (1927-2006), le dernier représentant de la communauté juive de Marmoutier.