Sobór został rozebrany nie mniej niż 15 lat po ukończeniu budowy. Podzielił los wielu świątyń prawosławnych w Warszawie wybudowanych w okresie rozbiorów i rozebranych po odzyskaniu niepodległości. Decyzja spowodowana była nastrojami antyrosyjskimi i antyprawosławnymi w II Rzeczypospolitej, wynikającymi głównie ze stosowanej w okresie zaborów przez państwo rosyjskie polityki rusyfikacji w stosunku do Polaków. W ocenie ówczesnego społeczeństwa sobór był symbolem nacisku zaborców. Dodatkowym argumentem było to, że świątynia zajmowała jeden z najważniejszych placów Warszawy, a po opuszczeniu miasta przez urzędników i wojska rosyjskie, tak wielki budynek sakralny nie był już potrzebny wiernym prawosławnym w mieście. Uważano także, że sobór reprezentujący wschodnią architekturę nie pasuje do Warszawy. Ponadto budowla uległa uszkodzeniu podczas I wojny światowej, a źle przeprowadzone naprawy dodatkowo pogorszyły jej stan.

Ostatecznie, mimo kilku protestów, świątynia została rozebrana w latach 1924–1926, razem z większością cerkwi w Warszawie – pozostawiono jedynie dwie: cerkiew pw. Świętej Równej Apostołom Marii Magdaleny (na warszawskiej Pradze) i cerkiew pw. św. Jana Klimaka (na Woli, w granicach cmentarza prawosławnego). Z rozbiórki uczyniono wydarzenie polityczne i narodowe, wypuszczono obligacje, aby „dać każdemu Polakowi szansę uczestniczenia w rozbiórce.. Papiery były zabezpieczone wartością materiałów odzyskanych z budynku. Przeciwko rozbiórce protestowała część polskiej elity kulturalnej, m.in. Antoni Słonimski. Próby ratowania soboru były podejmowane nawet wtedy, gdy rozbiórka już trwała. 

Sama rozbiórka była dość skomplikowana i wymagała prawie 15 tys. kontrolowanych wybuchów. Większość wysokiej jakości marmuru posłużyło jako ozdoba innych warszawskich gmachów. Materiały z rozebranego soboru wykorzystano także do budowy kilku pomników, m.in. cokołów pomnika Syreny przy ulicy Solec oraz pomnika Jana Kilińskiego na placu Krasińskich. Sześć jaspisowych kolumn wykorzystano do budowy baldachimu nad wyjściem z krypt królewskich na Wawelu[29][30]. Stopnie z czerwonego granitu posłużyły do budowy schodów prowadzących do głównego wejścia gmachu Państwowego Instytutu Geologicznego (od strony ulicy Batorego). Z marmuru pochodzącego z soboru, który pierwotnie został użyty do budowy kościoła Matki Boskiej Częstochowskiej przy ulicy Łazienkowskiej (zniszczonego w 1944), wykonano elementy ołtarzy, ambony oraz kolumny kościoła Świętych Apostołów Piotra i Pawła w warszawskich Pyrach. Fragmenty mozaik zostały zdemontowane i część z nich trafiła m.in. do soboru Opieki Matki Bożej w Baranowiczach oraz kościoła Najświętszego Zbawiciela w Warszawie. Fragment mozaiki ołtarzowej wyeksponowano także na półpiętrze gmachu Wydziału Architektury Politechniki Warszawskiej przy ul. Koszykowej 55. Po wielu latach przechowywania w Muzeum Narodowym inne fragmenty w 1985 przekazano parafii i umieszczono w dolnej kaplicy Męki Pańskiej w soborze metropolitarnym św. Marii Magdaleny na warszawskiej Pradze. Między ikonami w ikonostasie kaplicy umieszczono także kolumny pochodzące z rozebranego soboru. Z kolei wykonany z białego marmuru fragment dekoracyjnego fryzu obiegającego elewację świątyni, pochodzący z placu budowy kościoła św. Stanisława Kostki, został włączony do zbiorów Muzeum Warszawy.