Na początku XX w.poważnym problemem parafii w Rumi były niewielkie rozmiary starego kościoła. Stąd też w obliczu starań o powiększenie parafii, jak i ze względu na zły stan techniczny dotychczasowej świątyni, koniecznością stała się budowa nowego kościoła parafialnego. W związku z tym rumska gmina katolicka wystąpiła z projektem zbudowania w pobliżu starej świątyni nowego kościoła. Już w 1907 r. zgromadzono na ten cel sumę około 32 tysięcy marek. W 1910 projekt nowego kościoła, wykonany przez berlińskiego architekta Oskara Siede, był już gotowy, przy czym koszty budowy oszacowano na 137 300 marek, z czego gmina katolicka miała pokryć 88 tysięcy marek, a jeśli chodzi o resztę w wysokości 49 300 marek - liczono na dotację państwa jako patrona rumskiej parafii. Jednakże w sierpniu 1912 pruski minister wyznań oznajmił, że dotacja taka może sięgać tylko sumy 13 800 marek i taką też kwotę przyznano w marcu 1913. W związku z tym Rada Parafialna zaciągnęła kredyt w wysokości 30 tysięcy marek. Prace budowlane rozpoczęto 22 kwietnia 1913. W październiku 1913 kościół był już gotowy w stanie surowym z dachem i otynkowaniem zewnętrznym. W lutym 1915 pozostały jeszcze do wykończenia prace ślusarskie i stolarskie oraz wyposażenie kościoła. Jednak tocząca się wojna zahamowała tempo prac wykończeniowych i dopiero w czerwcu 1918 zainstalowano w kościele organy. Mimo że budowa kościoła została w tymże roku ostatecznie ukończona, konsekracja świątyni nastąpiła dopiero w trzy lata później, a więc już po powrocie Rumi do Polski. 19 czerwca 1921 biskup sufragan Jakub Klunder uroczyście konsekrował świątynię.

Po ukończeniu budowy kościół otrzymał wezwanie Znalezienia Krzyża Świętego, które później zostało zmienione na Podwyższenia Krzyża Świętego. Pierwotnie świątynia posiadała sygnaturkę, która wieńczyła wieżę kościelną, jednak podczas II wojny światowej Niemcy nakazali ją zdemontować, aby uniemożliwić ewentualną obserwację lotniska w Rumi.

Po II wojnie światowej kościół posiadał gołe, zaniedbane ściany. Jedynie owalny obraz sufitowy przedstawiający Ostatnią Wieczerzę pochodził z okresu międzywojennego. W związku z tym rozpoczęto malowanie (techniką wapienno-temperowaną) świątyni. Prawie wszystkie związane z tym prace, jak i zdobieniem ścian i sufitu wykonano w latach 1954-1956 pod kierunkiem prof. Mariana Schwartza z Poznania. Prof. Schwartz był również autorem obrazów w ołtarzach bocznych, projektantem wcześniejszych witraży, wykonywał złocenia oraz renowację stacji Drogi Krzyżowej.

W latach 1992-1996 przeprowadzono renowację organów, malowideł ściennych i złoceń, polichromii ścian i sufitów, a także pomalowano ławki i chór, dodając elementy zdobnicze w formie płaskorzeźb. Z pomocą fachowców odnowiono zabytkowe ołtarze, ambonę i stacje Drogi Krzyżowej. Dokonano przebudowy całego prezbiterium, łącznie z przesunięciem ołtarza i wyłożeniem posadzki. Wewnątrz kościoła położono nową granitową posadzkę, a filary obłożono marmurem, założono też ogrzewanie gazowe i nową instalację elektryczną.

Z okazji 90. rocznicy konsekracji kościoła (19 czerwca 2011 r.) zainstalowano nowe oświetlenie zewnętrzne kościoła, pomalowano ławki, wyremontowano organy, przeprowadzono renowację malowideł ściennych i sufitowych, oddano do renowacji obraz z ołtarza głównego, odnowiono ołtarze i ambonę, wymieniono oprawę oświetleniową wewnątrz kościoła, założono monitoring oraz instalacje alarmową, uporządkowano zieleń wokół świątyni, odnowiono złocenia, zmodernizowano ogrzewanie oraz wyczyszczono i zakonserwowano elewację zewnętrzną kościoła.



Architektura obecnego kościoła

Kościół parafialny pod wezwaniem Podwyższenia Krzyża Świętego usytuowany jest w północno-zachodniej części Rumi, przy ulicy Kościelnej 20, w niedalekim sąsiedztwie skrzyżowania ulic Dębogórskiej z ulicą Starowiejską i I Dywizji Wojska Polskiego (rondo Jana Pawła II). Teren kościoła ogrodzony jest betonowym murem. Na terenie kościoła znajduje się kapliczka św. Jana Nepomucena (patrona Starej Rumi) i dwa krzyże: jeden drewniany drugi betonowy. Wokół kościoła rosną drzewa mające wartość już zabytkową.

Kościół neorenesansowy typu bazylikowego, trzynawowy z transeptem, wzniesiony na planie krzyża łacińskiego, ma nawę środkową znacznie szerszą i wyższą od naw bocznych. Kościół został zbudowany z cegły pokrytej szarą elewacją tynkową. W nawie głównej znajduje się wejście główne do kościoła z kruchtą oddzielaną od kościoła drzwiami skrzydłowymi. Nad kruchtą znajduje się chór i organy. Po obu stronach nawy głównej znajdują się filary podpierające zwieńczenie konstrukcji dachowej pokrytej blachą miedzianą (1992-1994). Pomiędzy nimi a ścianą boczną są wąskie i niskie nawy boczne z wzdłużnymi ławkami przyściennymi. Do tych ganków prowadzą boczne drzwi wejściowe. W ramionach transeptu znajdują się boczne ołtarze. Wieża kościelna wznosi się nad głównym wejściem. Schody prowadzące na chór i do wieży kościelnej znajdują się przy prawym bocznym wejściu do kościoła. Wejście do zakrystii usytuowane jest po lewej stronie prezbiterium. W 1994 r. przy ścianie wschodniej kościoła za prezbiterium dobudowano przybudówkę, przeznaczoną głównie na pomieszczenia i garderobę dla ministrantów. Wejście do niej znajduje się w zakrystii. Długość świątyni z kruchtą wejściową wynosi 37 m, szerokość 16 m i wysokość ok. 8 m.