Koncepcje budowy nowej synagogi narodziły się w latach 60. XIX wieku, po tym jak stara synagoga była już niewystarczalna. Po jej rozbiórce, 25 maja 1868 roku na jej miejscu uroczyście wmurowano kamień węgielny pod budowę nowej synagogi.
Projektantem budynku synagogi był berliński architekt Bau-Inspector Freuding, jej budowniczym Paul Jackisch, a wykonawcą bytomska firma Ritter. Uroczyste otwarcie synagogi nastąpiło 2 lipca 1869 roku. W 1889 roku została rozbudowana w kierunku wschodnim pod kierunkiem i według projektu Paula Jackischa.W latach 1897-1901 dokonano przebudowy wnętrza synagogi pod kierunkiem F. E. Neumanna. Między innymi wprowadzono dwa świetliki nad chórem, w tym jeden z podziałem w kształcie gwiazdy Dawida[. Podczas nocy kryształowej, z 9 na 10 listopada 1938 roku, bojówki Schutzstaffel i Sturmabteilung spaliły synagogę. Jej ruiny zostały po tych wydarzeniach rozebrane i prawdopodobnie wsypane do podbytomskich stawów, a teren wyrównany.
9 listopada 2007 roku w 69. rocznicę nocy kryształowej na miejscu gdzie stała synagoga odsłonięto tablicę pamiątkową, upamiętniającą jej istnienie. Została zaprojektowana przez artystę plastyka Stanisława Pietrusę i ufundowana przez Ministerstwo Spraw Zagranicznych Republiki Federalnej Niemiec oraz gminę Bytom, dzięki interwencjom Arkadiusza Chroboka[2]. Treść w języku polskim, angielskim, niemieckim i hebrajskim brzmi:
"W tym miejscu stała wybudowana w 1869 roku bytomska synagoga będąca świadectwem wiekowego pokojowego współistnienia wspólnoty żydowskiej w historii miasta. Została zburzona przez niemieckich nazistów w noc kryształową 9/10 listopada 1938 roku." , żródło: - FM