Początki pierwszego w Żorach kościoła nie są znane, jednakże przekazana tradycja mówi, że wieś żorska posiadała parafialny kościół. Fakt ten potwierdza historyczną dokumentacją z XII wieku. Papież Celestyn III mocą wydanej bulli w Lateranie dnia 9 kwietnia 1193 roku, biorąc pod opiekę klasztor Kanoników Regularnych na Piasku, we Wrocławiu, zatwierdza w jego uposażeniu wieś w Żarach (jak przez wieki było nazywane miasto, także występujące pod słowiańską nazwą „Żale”) z kościołem w łacińskim zapisie “Villam in zarist cum ecelesia”. Identyfikując kościół w Żalach z kościołem w Żarach możemy wnioskować, że mógł on powstać w pierwszych latach chrześcijaństwa Polski Bolesławowskiej. Pierwsze kościoły w Polsce, powstały bowiem w miejscach dawnych kultów pogańskich. Mówi o tym dokument Henryka Brodatego z 1175 r. dotyczący właściciela żarskiego folwarku magnata śląskiego Mikory. Istniejąca tam wzmianka mówi iż ów… “wyposażył kościół fundacji Piotra Własta ziemią, 25 końmi, 6 wołami i 30 świniami”. Kościół usytuowany był w południowym łuku murów obronnych (zbudowany tak jak one z cegły) w pobliżu ówczesnej Bramy Krakowskiej (dzisiejsze okolice Dolnego przedmieścia). Nad kościołem wznosiła się wieżyczka z jednym dzwonem. Przylegały do niego zakrystia i cmentarz[2]. Istnieją przypuszczenia, że z dokumentu dotyczącego zakonu sióstr norbertanek w Rybniku z 25 maja 1223, gdzie wymienia się „ecclesia de Sale”, czyli kościół w miejscowości „Sale”, iż może chodzić o kościół żorski. Są co do tego jednak wątpliwości, gdyż „Sale” może być także Solcą (osada na obecnym obszarze dzielnicy Doły w mieście Karwina).

Parafialny kościół w obecnym miejscu powstał w XIII wieku. Dowodem na to są zachowane w jego murach wątki wendyjskiego układu cegieł, wskazują na to, że budowa kościoła przebiegała równocześnie z fortyfikacyjnymi robotami miasta. Także wezwanie św. Filipa i Jakuba jest szczególną dokumentacją jego narodzin. Fundację kościoła odnosi się do Piastów śląskich, księcia opolsko-raciborskiego Władysława i jego następcy księcia raciborskiego Przemysława. Zlokalizowano go orientacyjnie pośrodku północnej owalnicy miasta. Jego położenie obok obronnych murów, oraz monumentalny gotycki kształt budowli sprawiły, że współdziałał przy obronie miasta w latach 1345, 1433 i 1473.[2]

W swych dziejach kościół był w rękach ewangelików, katolicy gromadzili się wtedy w małej drewnianej świątyni pod wezwaniem Wniebowzięcia Najświętszej Marii Panny. Trwało to od 1569 roku aż do 1629 roku, kiedy to kościół został oddany katolikom. Wiemy, że ówczesny kościół posiadał trzy dzwony, 2 na wieży i 1 nad kościołem. W 1658 roku zakupiono kolejny wielki dzwon „Filip i Jakub”.

Kaplica Matki Bożej Miłosierdzia oraz krzyż Bożej Męki z XVII w.

Kościół ten był niszczony przez liczne pożary. Pierwszy większy był w 1583 roku. W czasie drugiego pożaru z 17 maja 1661 runęły sklepienia kościoła, spłonęły ołtarze, kościół uległ dużym zniszczeniom. Całe miasto zostało w większości spalone. Podjęte dzieło odbudowy ukończono w 1673 roku. W porównaniu z poprzednią budowlą wprowadzono tak wiele zmian, że pod koniec XVII wieku nazwano go - „nowy”. Pożary nawiedzały Żory jeszcze kilkakrotnie. W 1807 roku pożar zniszczył całkowicie kościół Wniebowzięcia NMP który nie został już odbudowany. Był on wówczas kościołem parafialnym, w związku z czym prawa parafialne połączono z kościołem świętych Filipa i Jakuba. Największe zniszczenia kościoła przyniosły nie charakterystyczne dla Żor i trwające przez wieki pożary, ale II wojna światowa. Z końcem tej wojny Żory były jednym z najbardziej zniszczonych miast w Polsce. Zniknęło prawie 80% zabudowy. Niemcy opuszczając miasto wysadzili filary kościoła doprowadzając tę starą gotycką świątynię do całkowitej ruiny. 5 maja 1946 r. biskup Stanisław Adamski wizytował zniszczony kościół. Jego odbudowa nastąpiła w latach 1946-1948, a poświęcony został ponownie 4 czerwca 1950 r. Pierwsza Msza św. w nowo odbudowanym kościele odbyła się w odpust parafialny ku czci Matki Bożej Różańcowej, w październiku 1950 roku. Następnie w 1962 roku bp. Juliusz Bieniek dokonał konsekracji nowego ołtarza i rekonsekracji kościoła. Parafia otrzymała wówczas relikwie świętych Apostołów Filipa i Jakuba.