Przy obejmowaniu fundacji w Łomży, kapucyni rozumieli konieczność budowy nowego klasztoru i kościoła. Mimo trudności ze znalezieniem funduszów przy powszechnym kryzysie gospodarczym, podjęto się tego zadania. Miejscowy przełożony, którym został zapobiegliwy ojciec Kazimierz z Doloplazów, po urządzeniu życia zakonnego zajął się sprawą wyszukania nowych ofiarodawców i zdobycia środków materialnych na budowę. Pierwszym, który złożył znaczniejszą ofiarę, był Franciszek Straszewski (+ 1765), łowczy dobrzyński. Drugim, hojniejszym dobrodziejem był biskup sufragan pomorski Cyprian Kazimierz Wolicki, oficjał gdański i proboszcz łomżyński, który ofiarował na prośbę ojca Kazimierza pamiątkowy obraz św. Franciszka z Asyżu dla kościoła. Przede wszystkim dzięki jego poparciu kapucyni otrzymali na budowę klasztoru materiały ze zrujnowanego starożytnego kościoła św. Wawrzyńca w Starej Łomży. Biskup płocki wyraził zgodę na rozbiórkę świątyni 3 grudnia 1765 r. O tej decyzji zostały powiadomione władze cywilne w 1766 r. – nie wyraziły zastrzeżeń. Rozbiórki dokonano niebawem. Biskup polecił wystawić w miejscu, gdzie stał kościół św. Wawrzyńca, kapliczkę i umieścić w niej figurę tego świętego, przedtem mieszczącą się w ołtarzu rozebranej świątyni.

Sprawę budowy nowego klasztoru i kościoła popierali zakonni wizytatorzy prowincjalni. Z polecenia prowincjała w styczniu 1767 r. przybył do Łomży warszawski architekt Tański, nie znany bliżej. Dokonał pomiarów terenu i opracował projekt budowli. Następnie w 1770 r. prowincjał Izajasz z Piotrowie (Daniel Barwik), Ślązak, zlecił rozpoczęcie budowy klasztoru pod kierunkiem zakonnego budowniczego, brata Emeryka z Neudorfu (Michał Polak), z pochodzenia Węgra. Jednocześnie urządzano ogród i tarasy na skarpie, kopano studnie. Nie znajdujemy dokładnej daty zakończenia budowy klasztoru, lecz zasadnicze prace dobiegały końca jesienią 1772 r. Zapisy w kronice z tego okresu i z czasów późniejszych potwierdzają, że przy rozkopywaniu ziemi wokół kościoła natrafiono na masy ludzkich kości, co świadczy o istnieniu na tym miejscu cmentarza grzebalnego miasta Łomży.
Budowa klasztornej świątyni również przebiegała wśród trudności materialnych, niekiedy miejscowi przełożeni zawinili nieporadnością. Kamień węgielny pod kościół położono w 1781 r. Do 1787 r. prace niewiele posunęły się naprzód. Dziewiąty z kolei przełożony miejscowy Wacław z Brzeżan (Dionizy Trzecieski) znalazł nowych dobrodziejów i kontynuował budowę świątyni, do czego zachęcał go prowincjał Kajetan z Łucka (Józef Ziller). W 1788 r. majster murarski z Ostrowi Mazowieckiej, Leon Maliszewski mógł przystąpić do robót. W tymże roku cieśla warszawski, Wincenty Krasuski pokrył dach kościoła, l października budowę ukończono. Jesienią 1789 r. ułożono w nim posadzkę z płyt marmurowych sprowadzonych drogą wodną z Gdańska. W tych okolicznościach miejscowy przełożony został podniesiony do rangi gwardiana. Uroczysta konsekracja kościoła pod wezwaniem Matki Boskiej Bolesnej odbyła się 2 września 1798 r., w czasach pruskiego zaboru. Dokonał jej biskup płocki Onufry Kajetan ze Słupowa Szembek, poświęcił pięć ołtarzy, umieszczając w nich relikwie świętych męczenników Specjoza i Kolumbana. Okolicznościowe kazanie głosił ks. Karol Arend proboszcz z Andrzejewa, kanonik, profesor seminarium diecezjalnego z Pułtusku, który wydał je drukiem w Łowiczu.

W klasztorze i kościele kapucyńskim Łomża otrzymała rozmiarami niewielki, lecz architektonicznie doskonały obiekt sakralny Jego opis, z uwzględnieniem dokonanych zmian, pióra Marii Kałamajskiej-Saeed, znajdujemy w katalogu zabytków sztuki w Polsce. Po szczegóły odsyłamy czytelnika do tego fachowego inwentarza. Tutaj jedynie nadmieniamy, iż na obiekt składa się klasztor murowany z cegły, tynkowany, piętrowy, podpiwniczony, na rzucie prostokąta o trzech skrzydłach wokół wirydarza. W skrzydle południowym znajduje się rozmównica, w zachodnim refektarz, zaś w północnym na osi prezbiterium kościoła chór zakonny. Zabudowania gospodarcze od strony zachodniej zostały wzniesione pod koniec XVIII oraz w XIX w. Klasztor przylega od zachodu do kościoła zwróconego fasadą na południe, wzniesionego po wyburzeniu gotyckiego kościoła Rozesłańców, ustawionego względem niego prostopadle. Budowę świątyni rozpoczęto od pomieszczeń chóru zakonnego i zakrystii, ukończonych w 1784 r. Kościół murowany z cegły, tynkowany. W latach 1856-58 po stronie wschodniej dobudowano doń kaplicę, w której mieści się krucyfiks z kościoła jezuitów w Połocku. Kościół na planie prostokąta jest złożony z dwuprzęsłowej nawy i węższego, jednoprzęsłowego, wyodrębnionego tylko we wnętrzu prezbiterium zamkniętego ścianą prostą. Pod nim mieszczą się dwie krypty sklepione kolebkowo, dostępne z klasztoru, w jednej znajduje się sarkofag biskupa podlaskiego, kapucyna, Beniamina Szymańskiego, zmarłego tu na wygnaniu w 1868 r. Za prezbiterium od północy mieści się chór zakonny. Wyposażenie kościoła jednolite, wykonane w latach 1790-8 przez stolarza łomżyńskiego, znanego snycerza Jana Żołdykowskiego (+ 1810), polskiego wójta Łomży za pruskiej okupacji i syndyka, czyli prawnego opiekuna klasztoru kapucynów. Ołtarz główny późnobarokowy z ornamentami rokokowymi z roku 1794, fundacji Franciszka Barzykowskiego. W polu głównym ołtarza obraz „Opłakiwanie pod krzyżem”, fundacji Jana Klemensa Branickiego z Białegostoku, hetmana wielkiego koronnego, sprzed 1771 r., namalowany przez Augustyna Mirysa, Szkota, niestety całkowicie przemalowany przez osiadłego w Łomży po II wojnie światowej Węgra nazwiskiem Lórinczy Gyarfas Jeno. W kościele znajdują się trzy ołtarze boczne, w których obrazy malowane przez A. Mirysa wymieniono w 1844 r. Obraz ze św. Franciszkiem otrzymującym odpust Porcjunkuli jest pędzla Szymona Izechowicza, polskiego Fra Angelico. Ambona wykonana przed 1798 r. Obraz nieołtarzowy Adoracja Trójcy św., barokowy, jest z połowy XVII w., zaś Wizja św. Kajetana posiada sygn. 1844 M. L. Vars.

Dziedziniec przed fasadą na planie elipsy w 1815 r. otoczono murem tynkowanym, ożywionym wnękami zamkniętymi odcinkowo, nad bramą umieszczono figurkę Matki Boskiej, którą w 1859 r. zastąpiono dużą figurą Najśw. Maryi Panny Niepokalanej zostawioną w środku dziedzińca, ufundowaną z ofiar wiernych. Podczas okupacji sowieckiej młody polski komunista strącił figurze głowę – uszkodzenie naprawiono, jak relacjonuje ojciec Atanazy Niziołek. Na jej miejscu w 1966 r. umieszczona została figura Matki Bożej Częstochowskiej dłuta Ferdynanda Jarochy, zaś poprzednią przyniesiono przed klasztor do ogrodu.

W 1925 r. wzniesiono kolegium św. Fidelisa, kapucyna, męczennika, w którym do 1939 r. mieściło się prywatne gimnazjum zakonne i niższe seminarium dla kandydatów do zakonu kapucynów prowincji warszawskiej i dla misji obrządku bizantyjskiego z siedzibą w Lubieszowie na Polesiu. Projekt budynku kolegium opracował znany architekt Stefan Szyller.

Kościół i klasztor odnowione w 1991 r. z okazji IV-ej pielgrzymki papieża Jana Pawła II do Polski i Łomży, mieszczące w swoich prostych murach liczne obrazy religijne j portrety, czynią wrażenie franciszkańskiego sanktuarium, miejsca zadumy i religijnego skupienia. W katakumbach oprócz biskupa Beniamina Szymańskiego, spoczywają: pierwszy przełożony klasztoru Krzysztof z Wąsosza; Sabinian z Lubartowa (Mikołaj Derecki), on to towarzyszył jako kapelan Romualdowi Trauguttowi przy śmierci w Cytadeli Warszawskiej; świątobliwy ojciec Łukasz z Zaklikowa (Leopold Zaczyński), który się doczekał wyzwolenia Polski w 1918 r.; Teresa z Trzasków Staniszewska wraz z mężem Tomaszem, z rodziny fundatorów i inni.