Nowy cmentarz żydowski powstał w roku 1820. Zastąpił dotąd używany cmentarz w pobliżu synagogi. Stary cmentarz musiał zostać nie tylko zamknięty ale zapieczętowany. Musiała istnieć wielka niechęć do zmiany tradycyjnego miejsca pochówków używanego być może od wieku XVII lub jeszcze wcześniej. Chmielnik w wieku XIX i w pierwszych dekadach wieku XX w ogromnej większości zamieszkany był przez ludność wyznania mojżeszowego. Chrześcijanie zamieszkiwali na skraju miasta i zajmowali się głównie uprawą roli. Gdy w 1941 roku okupanci niemieccy stworzyli getto (do którego przywieziono także dużą grupę Żydów z Płocka) objęło ono niemal całe miasto. Poza gettem znajdowały się zabudowania przylegające do pól, należące do chrześcijan. W gettcie mieszkało ponad 13 tys. osób do jego likwidacji w roku 1942 - co oznaczało wysłanie jego mieszkańców do obozów zagłady, głównie do Treblinki. Z ponad 6 tys. wyznawców judaizmu po wojnie do Chmielnika powróciło ok. 70. I oni jednak wkrótce miasto opuścili. Zdewastowany w czasie wojny cmentarz stał się też miejscem tragicznym. Tutaj rozstrzeliwano i chowano w masowych grobach Żydów z Chmielnika i okolic. Znana jest relacja o rozstrzelaniu ok. 250 osób. Nie była to zapewne jedyna taka akcja okupantów.
Pokaż Judaika na większej mapie
Cmentarz odnowiono w roku 2008 staraniem jednego z lokalnych stowarzyszeń oraz rodziny Żydów pochodzących z Chmielnika, a obecnie mieszkających w Izraelu. Odnalezione macewy wkopano w ziemię. Fragmenty innych złożono w jednym miejscu tworząc z nich kopiec.