Synagoga położona jest w bezpośrednim sąsiedztwie rynku oraz dawnego cmentarza żydowskiego.

Została wzniesiona jako murowany z cegły budynek, na planie prostokąta o wymiarach 17 / 24 m, w stylu neoklasycystycznym. Elewację frontową zrobi czterokolumnowy joński portyk zwieńczony drewnianym szczytem, na środku którego znajdują się trzy ozdobne, półokrągłe zakończone okna. Portyk nawiązuje do rozwiązań stosowanych w architekturze pałaców i dworów epoki klasycyzmu. Drzwi babińca oraz dwa kwadratowe okna z boku zwieńczone są gzymsem, nad którymi umieszczono płyciny.

Elewacje boczne rozczłonkowane są pilastrami, między którymi znajdują się półokrągłe zakończone okna. Dwuosiowa ściana wschodnia przedzielona jest pilastrem. Całość jest nakryta dachem czterospadowym o konstrukcji wieszarowej.

Wewnątrz w zachodniej części znajduje się prostokątny przedsionek, z którego wchodzi się do kwadratowej głównej sali modlitewnej, nakrytej pozornym sklepieniem zwierciadlanym. W jej wnętrzu na wschodniej ścianie zachowała się wnęka po Aron ha-kodesz, która była pierwotnie zwieńczona płaskorzeźbą z wyobrażeniami lwów oraz polichromią przedstawiającą tablice Dekalogu, koronę na Torę i inskrypcje hebrajskie. Na ścianach zachowały się szczątkowe fragmenty bogatych niegdyś malowideł.

Nad przedsionkiem, na piętrze znajduje się babiniec, do którego prowadzą zewnętrzne dwubiegowe schody. Otwarte na salę główną pomieszczenie jest od niej oddzielone parapetem i dwoma kolumnami, które tworzą loggię. Pierwotnie w południowej części przedsionka znajdował się cheder.



Podczas II wojny światowej hitlerowcy doszczętnie zdewastowali wnętrze synagogi i urządzili w niej magazyn.

Po zakończeniu wojny budynek przez wiele lat stał opuszczony i stopniowo popadał w ruinę. W latach 50. urządzono w nim skup warzyw i owoców Spółdzielni Ogrodniczo-Pszczelarskiej w Sandomierzu. Wówczas m.in. podmurowano okna, usunięto bimę i oryginalną posadzkę oraz wydzielono osobne pomieszczenie dla pracownika skupu.