Ulica powstała pod koniec XIX wieku. Jej najstarszy odcinek biegł od ul. Wielkiej na południe do nieistnijącej dziś drogi zwanej Kräuterweg. Przedłużenie dalej na południe aż do ul. Sztabowej nastąpiło w pierwszych latach XX wieku. Mniej więcej w tym samym czasie powstała zabudowa ulicy. Patronem został Johannes Gensfleisch zum Gutenberg (ok. 1396-1468), złotnik i drukarz, wynalazca ruchomej czcionki.

W czasie II wojny światowej cała zabudowa ulicy została zrównana z ziemią. Po wojnie wprowadzono obecną nazwę w pewnym stopniu nazwiązującą do przedwojennej. W kolejnych latach w miejscu przedwojennych domów wzniesiono nowe bloki z wielkiej płyty.

Pierwsze plany wytyczenia nowej ulicy pojawiły się w 1895 r. w projekcie urbanistycznym Przedmieścia Południowego. Od początku napotykano spore trudności w realizacji tych planów, w związku z niechęcią właścicieli do oddawania terenu, przez które miała przebiegać ulica. Pierwszy, dwupasmowy odcinek od pl. Powstańców Śląskich do ul. Drukarskiej powstał ok. 1900 r. Drugi odcinek, od ul. Ślężnej do ul. Bardzkiej powstawał od 1915 r. Obie części łączyła Kräuterweg (do 1900 r. pod nazwą Am Neudorfer Weg) biegnąca od ul. Drukarskiej do ul. Ślężnej tuż przy ogrodzeniu obecnej Akademii Ekonomicznej.
Właściwą ulicę nazwano Steinstr. dla upamiętnienia pruskiego ministra, barona Karla von und zum Stein.

W 1945 r. zabudowa ulicy została niemal doszczętnie zniszczona. Wtedy też zmieniono nazwę na ul. Kamienną, tłumacząc na polski nazwisko niemieckiego patrona tej ulicy.