Cmentarz żydowski znajduje się 1,3 km na południowy wschód od centrum miasta, ok. 190 m na południe od ul. Spacerowej, zajmuje działkę geodezyjną numer 260202 4.0008.53 w kształcie trapezu o powierzchni 11181 m kw.
Cmentarz powstał po ukonstytuowaniu się w Jędrzejowie dozoru bóżniczego w 1875 r. , w 1880 r. Według informacji zawartych w Księdze Pamięci Jędrzejowa, pierwszym pochowanym był nieznany z nazwiska żydowski żołnierz armii rosyjskiej. Drugim pochowanym był mieszkaniec Jędrzejowa Berisz Zylbersztajn. Jak wynika z danych zgromadzonych w serwisie JewishGen, Berek Zylbersztajn zmarł w 1878 r. Niewykluczone, że ta właśnie data może być właściwą jesli chodzi o rok założenia cmentarza.
W okresie międzywojennym teren był ogrodzony nieotynkowanym murem, a na terenie cmentarza stał dom przedpogrzebowy. W 1931 r. mur i dom przedpogrzebowy wyremontowano. Podczas II wojny światowej na cmentarzu chowano ciała osób zmarłych i zabitych w getcie - początkowo w indywidualnych grobach, a później w grobie zbiorowym. Jesienią 1942 r. grupa chasydów urządziła na cmentarzu podziemną kryjówkę. Jak wynika z informacji uzyskanych w Muzeum im. Przypkowskich w Jędrzejowie, na rozkaz Niemców część macew wyrwano i użyto do utwardzania ulic w pobliżu dworca kolejowego. Cmentarz niszczyła także okoliczna ludność. Najprawdopodobniej ostatni pogrzeb odbył się w listopadzie 1945 r., w następstwie zamordowania w Jędrzejowie dwóch ocalałych z Zagłady.
Proces dewastacji był kontynuowany w okresie powojennym. Z cmentarza wybierano piach, a niektórzy mieszkańcy wykorzystywali nagrobki do celów budowlanych. Niemal wszystkie naziemne elementy naziemnej infrastruktury cmentarnej uległy zniszczeniu. Granice obszaru grzebalnego są nieczytelne. Teren porastają trawa i krzewy. W obrębie cmentarza znajdują się pojedyncze fragmenty macew oraz betonowe obmurowania grobów. W północno-wschodnim narożniku ustawiono tablicę z napisem: "Cmentarz żydowski założony w I połowie XIX w. Zamknięty do celów grzebalnych".
W 2011 r. odkryto macewy w konstrukcji mostu pod ul. Jasionka. Na moście ustawiono tabliczkę z napisem: "W tym miejscu (tu) znajduje się mostek zbudowany z macew z jędrzejowskiego (nieistniejącego) cmentarza żydowskiego". Kolejne fragmenty nagrobków odnaleziono podczas remontu ul. Reymonta. Nagrobki zostały przewiezione na cmentarz.
W 2014 r. fragment macewy znaleziono w okolicy dworca kolejowego. Nagrobek trafił do zbiorów Muzeum im. Przypkowskich w Jędrzejowie.