Ulica nabrała miejskiego charakteru po 1807 r., co związane było z wyburzeniem fortyfikacji miejskich. Jednak już wcześniej w tym miejscu biegła jedna z głównych dróg Przedmieścia Świdnickiego. W 1823 r. do ulicy przyłączono odcinek między ul. Dworcową i ul. Pułaskiego zwany Małym Wygonem. Wtedy też oficjalnie wprowadzono nazwę Tauentzienstr. Patronem został pruski generał Friedrich Bogislav von Tauentzien (1710-1791). W 1863 r. do ulicę ponownie przedłużono, tym razem do połączenia z ul. Traugutta i ul. Krakowską. Nowy odcinek dla odróżnienia od starszego nazwano Neue Tauentzien Strasse. Posiadał ona także odrębną numerację. Stan taki trwał do pierwszych lat XX wieku. Wtedy zdecydowano się na połączenie całej ulicy pod jedną nazwą i z jedną numeracją.

W 1945 roku zdecydowana większość zabudowy uległa zniszczeniu. Trochę mniej zniszczeń zanotowano we wschodnim odcinku ulicy. Ulica jako jedna z pierwszych po wojnie otrzymała nowego patrona. 25 lipca 1945 r. został nim generał, bojownik o niepodległość Polski Andrzej Tadeusz Bonawentura Kościuszko (1746-1817). W kolejnych latach w mijscu zniszczonych w czasie wojny kamienic wzniesiono bloki.

Ulica założona została przez zduna Wurmsera i ślusarza Richarda Palma w 1849 r. W tym czasie kończyła się na ul. Dąbrowskiego i dopiero w 1869 r. przedłużono ją do ul. Pułaskiego na podstawie kontraktu z murarzem Illnerem. Niemiecka nazwa ulicy upamiętniała jednego z współzałożycieli ulicy.

W 1945 r. wiele kamienic przy tej ulicy zostało zniszczonych, nie tylko w wyniku nalotów, lecz także wskutek celowego niszczenia przez niemieckich żołnierzy. Dziś w wyniku wojny, bądź późniejszych wyburzeń (także w ostatnich latach) nie zobaczymy już kamienic pod nr 16 róg Dąbrowskiego, 42 do rogu z Pułaskiego po stronie północnej oraz 19-37, 41 do rogu z Pułaskiego po stronie południowej. Obecna nazwa upamiętnia gen Karola Kniaziewicza (1762-1842), dyplomaty i polityka, żołnierza legionów Dąbrowskiego.