Nowy cmentarz żydowski został założony w 1800 roku na gruncie kupionym przez gminę żydowską od augustianów.
Podczas II wojny światowej cmentarz był zamknięty, a najcenniejsze pomniki zostały sprzedane przez Niemców kamieniarzom. Po zakończeniu wojny inż. Stending odnalazł w Płaszowie wiele nagrobków i znów umieścił je na cmentarzu. W 1957 roku przeprowadzono uporządkowanie terenu ze środków Joint Distribution Committee. 24 marca 1999 cmentarz oraz dom przedpogrzebowy z 1903 roku został wpisany do rejestru zabytków.
