Cmentarz założono na granicy ówczesnego miasta, gdy zgodnie z edyktem cesarza Józefa II zlikwidowano cmentarze znajdujące się w granicy miasta. Na lokalizację cmentarza wybrano miejsce wcześniejszej nekropolii związanej z kościołem i szpitalem św. Ducha, z fundacji z 1469 roku.



Oficjalnie cmentarz czynny był do 1910 roku, jednak podczas II Wojny Światowej chowano nadal tu ludzi. Nawet po wojnie odbywały się tu sporadyczne pochówki. Cmentarz zaznał wielu ciosów z rąk okupanta (m.in. Niemcy zabrali znaczną część metalowych elementów nagrobków na potrzeby wojenne).



W 1957 roku wydano kolejną decyzję zamknięcia cmentarza. Dopiero w 1968 roku cmentarz uznano za obiekt zabytkowy.



Cmentarz charakteryzuje się dużą różnorodnością form i kształtów nagrobków. Znajdują się tu zarówno murowane grobowce, obeliski, nagrobne pomniki w formie kapliczek, kolumn, sarkofagu czy żelaznych krzyży na kamiennych cokołach. Przeważają dzieła klasycystyczne, jednak wiele jest też z okresu neogotyku czy romantyzmu.

Spotykamy tu dzieła sztuki kamieniarskiej o wysokich walorach artystycznych.



Na cmentarzu znajduje się także pomnik wzniesiony w 1886 roku na cześć powstańców styczniowych oraz Grób Ofiar II Wojny Światowej, wzniesiony w latach 2003 - 2004.



Na cmentarzu znajdują się ogółem 622 nagrobki. Szacuje się, że spoczywa tu ponad 40.000 osób.