W początkach swojego istnienia ulica prowadziła od ul. Podwale i kończyła się na wysokości dzisiejszego nasypu kolejowego. Nosiła wtedy jeszcze nazwę Gabitzerstr. Na początku lat 70. XIX wieku w związku z budową gmachu Śląskiego Muzeum Sztuk Pięknych odcinek od ul. Podwale do ul. Kościuszki nazwano Museumstr. (ul. Muzealna). W tym samym czasie zmieniono też nazwę obecnej ul. Zielińskiego na Höfchenstr. Wywodziła się ona od nazwy dawnej wsi Höfchen (Dworek) włączonej do Wrocławia w 1886 r. Rozwój ulicy na południe ąż do pl. Hirszfelda nastąpił po 1880 r. za sprawą działalności spółki Schlesische Immobilien Aktien Gesellschaft. Zabudowę zdominowały wtedy kamienice czynszowe.

Ulica mocno ucierpiała w czasie walk od Festung Breslau. Ze zwartej zabudowy ocalało jedynie kilka kamienic. Po 1945 r. patronem ulicy został Tadeusz Zieliński (1859-1944), badacz i fililog klasyczny. W połowie lat 60. XX w. likwidacji uległ odcinek ulicy między ul. Kościuszki i ul. Piłsudskiego.

Plany założenia ulicy pojawiły się w 1856 r. w związku potrzebą zastąpienia ul. Nasypowej, która została zdegradowana podczas budowy linii kolejowej. Wytyczona została w latach 1864-1887 w czterech osobnych odcinkach przez różnych inwestorów. Odcinek zachodni do ul. Zielińskiego zakładali murarz Meinecke i inspektor budowlany Lutz, odcinek od ul. Zielińskiego do ul. Powstańców Śląskich spółka Schottländer-Kuvecke-Oscar Cohn, od ul. Powstańców Śląskich do ul. Komandorskiej mistrz ciesielski Kuvecke, a ostatni fragment od ul. Komandorskiej do ul. Hubskiej założyli w 1885 r. Machol i Schaps. Nowa ulica otrzymała nazwę Sadowastr. dla upamiętnienia bitwy pod wsią Sadowa (3 lipca 1866) niedaleko Königgrätz (Hradec Králové). W 1925 r. z wschodniego odcinka ulicy (od ul. Hubskiej do ul. Borowskiej) utworzono nową ulicę An der Teichäckern (dziś ul. Sucha). Zabudowa powstała głównie w latach 1871-1880, przy czym wyróżniały się dwa gmachy. Jeden to powstała w latach 1885-88 szkoła elementarna na rogu z ul. Zielińskiego proj. Roberta Mende i Richarda Plüddemana, oraz pierwszy wrocławski dom opieki społecznej proj. Karla Klimma i Richarda Plüddemana, oddany do użytku 1 października 1909 r.
W wyniku działań wojennych w 1945 r. zniszczona została niemal cała zabudowa ulicy oprócz wspomnianej szkoły i budynku biurowego w pobliżu ul. Powstańców Śląskich (zburzonego w 2004 r.).