Parafia św. Zygmunta jest najstarszą parafią w Częstochowie i kościołem – matką (ecclesia matrix) wszystkich kościołów miasta i okolicy. Nie znamy dokładnie daty jej powstania. Najprawdopodobniej powstała w II połowie XIII w. Pierwszą historyczną wzmiankę o niej podaje wykaz świętopietrza z lat 1325-27. Ośrodkiem jej był drewniany kościółek pod wezwaniem NMP na Jasnej Górze. Do Częstochowy parafia przeniosła swą siedzibę w 1382 r., umieszczając ją przy dotychczasowym kościółku p.w. św. Zygmunta, powstałym najprawdopodobniej po roku 1356, tzn. po otrzymaniu przez wieś Częstochowa praw miejskich. Zmiany siedziby dokonał ówczesny proboszcz częstochowski ks. Henryk Biel, herbu Ostoja, za zgodą biskupa krakowskiego Jana Radlicy. Zrzekł się on kościoła na Jasnej Górze na rzecz OO. Paulinów, sprowadzonych do Polski z Węgier przez księcia Władysława Opolczyka, dla opiekowania się Cudownym Obrazem Matki Boskiej, przywiezionym tu przez niego i przy tym kościele umieszczonym.
Parafia św. Zygmunta była w administracji księży diecezjalnych do 1474 r. W tym roku jej proboszcz ks. Piotr z Chorzenic za zgodą biskupa krakowskiego Jana z Rzeszowa zrezygnował z niej, oddając ją w administrację OO. Paulinom, którzy przy niej założyli klasztor i rządzili parafią do 1864 r. tj. do czasu skasowania klasztoru ukazem carskim. Kościół św. Zygmunta był pod rządami OO. Paulinów wielokrotnie przebudowywany i rozbudowywany. Staraniem ks. Władysława Gołąba ufundowano ołtarz soborowy, chrzcielnicę, kaplicę wieczystej adoracji, kaplicę akademicką w podziemiach kościoła, pokryto dach kościoła i plebanii blachą miedzianą, dano posadzkę z białej marianny, odnowiono stacje Drogi Krzyżowej, odwilgocono mury kościoła i plebanii. W 1992 r. zbito tynki na budynkach plebanijnych i parkanach i dano nowe, a w 1993 r. przystąpiono do restauracji zewnętrznych murów świątyni wypełniając specjalną substancją żywiczną pęknięcia ścian, uzupełniając tynki i dając na całą budowlę nową elewację. W 1996 r. ks. Marian Wojcieszak przystąpił do remontu zabytkowej plebanii. Wymieniono instalację elektryczną, wszystkie tynki wewnętrzne, okna, przygotowano pomieszczenia na spotkania formacyjne grup oazowych. Sprawiono nowe nagłośnienie kościoła. W 1998 r. w kościele wymieniono przewody elektryczne, wykonano nową tablicę rozdzielczą prądu, wyremontowano i uruchomiono dzwony, pomalowano wnętrze kościoła, odnowiono i pozłocono pięć ołtarzy. W 2000 r. dokonano przebudowy prezbiterium, położono nową granitową posadzkę, wstawiono w okna prezbiterium 3 witraże.
Przy kościele św. Zygmunta 6 czerwca 1979 odbyło się spotkanie Ojca Świętego Jana Pawła II z wiernymi diecezji częstochowskiej. Dla upamiętnienia tego wydarzenia wmurowana jest specjalna tablica na frontonie kościoła. Od 3 marca 1973 r. w tym kościele trwa całodzienna adoracja Najświętszego Sakramentu (pierwsza w historii diecezji częstochowskiej).
