Powstanie kościoła ściśle wiąże się z bożogrobcami, którzy zostali sprowadzeni do Nysy z Miechowa pod Krakowem już na przełomie XII i XIII wieku. W roku 1346 zakonnicy ci zbudowali na Starym Mieście, przy kościele Maria in Rosis (Matki Boskiej Różańcowej) zespół klasztorno-szpitalny. Po pożarze tej siedziby w wyniku walk z husytami zostali przeniesieni do klasztoru przy Rynku Solnym. Tam następnie wznieśli w XV wieku kościół św. Krzyża.

Świątynia ta została im jednak odebrana w 1622 roku przez biskupa Karola Habsburga i przekazana przybyłym do Nysy jezuitom. Bożogrobcy otrzymali w zamian plac przy ówczesnych murach miejskich, pomiędzy dzisiejszymi ulicami św. Piotra i Bracką. Stał tam opuszczony gotycki kościół franciszkanów pod wezwaniem św. Piotra, który jednak od 1513 roku był ruiną i został rozebrany po roku 1596.

Podupadły po wojnie trzydziestoletniej zakon bożogrobców dopiero na przełomie XVII i XVIII wieku zaczyna odzyskiwać swoją dawną świetność. Stało się to za sprawą biskupa Ludwika Franciszka von Neuburga, który dysponował wówczas specjalnymi cesarskimi funduszami przeznaczonymi na wspieranie kościoła katolickiego na Śląsku. Pochodziły one z rekompensaty za oddane protestantom 122 kościoły, zgodnie z traktatem z Altranstädt, zawartym w 1706 roku.

Dzięki wsparciu biskupa najpierw w latach 1708-1713 powstał nowy budynek klasztorny. Później niedaleko pozostałości po starym kościele bożogrobcy wybudowali w latach 1720-1727 obecną świątynię. Autorem projektu i pierwszym budowniczym był pochodzący z Węgier Michał Klein, a od 1725 prace kontynuował Feliks Antoni Hammerschidt.

Kościół i klasztor przylegały wprost do miejskich murów obronnych, zamykających wylot ulicy Brackiej. Świątynia, dzięki swym dwóm wysokim wieżom, jest widocznym punktem w panoramie miasta.Po sekularyzacji z 1810 roku kościół na krótki czas stał się fabryką mydła. W XIX wieku w klasztorze znajdował się szpital, w latach 1947-1997 był on siedzibą wyższego seminarium duchownego, obecnie mieści się tu Diecezjalne Gimnazjum i Liceum Humanistyczne oraz ośrodek rekolekcyjny.

Kościół odnawiany był w latach 1834-1835 oraz 1929-1930. Szczęśliwie przetrwał pożar Nysy w 1945 roku - zniszczeniu uległy wówczas jedynie szyby i ramy okienne, a ślady po rozpryskujących się wówczas kroplach roztopionego ołowiu są do dziś widoczne na ławkach.W okresie PRL świątynia pełniła funkcję kościoła seminaryjnego, a od 2 sierpnia 1999 roku jest kościołem głównym nowoutworzonej parafii świętych Apostołów Piotra i Pawła, wydzielonej z parafii św. Jakuba. Za wiki