Umownie przyjęto, że południowy fragment granicy polsko-niemieckiej obejmował siedem sekcji granicznych od H do O (w oznaczaniu sekcji pominięto literę I). Jako początek przyjęto główny kamień graniczny H 001 usytuowany w pobliżu wsi Langenau (obecnie Łęgoń) położonej po stronie niemieckiej na wschód od Wschowy, a koniec w miejscu trójstyku granic polsko-niemiecko-czechosłowackiego wyznaczonego przy ujściu Olzy do Odry. Na całym tym odcinku Polska graniczyła z pruską prowincją Schlesien. Po zajęciu przez Polskę Zaolzia granica wydłużyła się o fragment dotychczasowej granicy czechosłowacko-niemieckiej długi na ok. 16 km.
Po odzyskaniu przez Polskę niepodległości w listopadzie 1918 r. do czasu podpisania Traktatu Wersalskiego granicą z Niemcami była dawna granica niemiecko-rosyjska i niemiecko-austriacka (na południu). Zasięg tej ostatniej nie był określony aż do podziału Śląska Cieszyńskiego w lipcu 1920 r. 27 grudnia 1918 r. wybuchło powstanie w pruskiej prowincji poznańskiej, które w ciągu tygodnia ogarnęło jej większość. Na południu powstańcom udało się opanować tereny siegające granicy z prowincją śląską, ale bez Wschowy, Leszna, Rawicza i Kępna. 16 lutego Najwyższa Rada państw Ententy zawarła w Trewirze układ z Niemcami o przedłużeniu rozejmu, który objął też walki w Wielkopolsce.
28 czerwca 1919 r. podpisany został Traktat Wersalski, który określił zasięg terenów należących m.in. do prowincji poznańskiej i śląskiej przyznanych Polsce, w tym terenów opanowanych wcześniej w wyniku powstania wielkopolskiego. Artykuł 27 III rozdziału Traktatu przewidywał następujący przebieg granicy polsko-niemieckiej na odcinku południowo-zachodnim. Od styku wschodniej granicy powiatu wschowskiego z południową granicą prowincji poznańskiej (odzwierciedlającą przebieg przedrozbiorowej granicy Polski), wzdłuż tej granicy do miejsca w okolicy miejscowości Bogdaj położonej na pd-zach od Odolanowa, z jednym wyjątkiem. Kilkunastokilometrowy odcinek w pobliżu Bojanowa i Rawicza został nieco skorygowany w celu pozostawienia po stronie polskiej fragmentu linii kolejowej prowadzącej przez Rawicz do Poznania. Dalszy ciąg był już nową granicą poprowadzoną na zachód od granicy między prowincjami w celu przyłączenia do Polski znacznej części śląskiego powiatu sycowskiego i północnego fragmentu powiatu namysłowskiego. Ten nowy fragment kończył się na południe od wsi Skoroszów, gdzie stykał się z granicą obszaru plebiscytowego na Górnym Sląsku. Od tego miejsca do czasu podjęcia rozstrzygnięć w oparciu o wynik plebiscytu tymczasową granicę poprowadzono na wschód do południowej granicy powiatu kępińskiego prowincji poznańskiej i dalej wzdłuż niej do dotychczasowej granicy polsko-niemieckiej na Prośnie.
Traktat Wersalski zaczął obowiazywać od 10 stycznia 1920 r. po ratyfikowaniu go przez Niemcy. Wycofywanie wojsk niemieckich z terenów przyznanych Polsce i przekazywanie ich administracji polskiej (tereny za linią demarkacyjną) trwało etapami od 17 do 28 stycznia. Tymczasowa granica polsko-niemiecka stała się nową linią demarkacyjną do czasu szczegółowej delimitacji przez komisję międzynarodową, która rozpoczęła prace w sierpniu 1920 r.
Plebiscyt na Górnym Śląsku przeprowadzono 20 marca 1921 r. Mimo że ogólny jego wynik był niekorzystny dla Polaków (40,4 % głosów za Polską), to biorąc pod uwagę zasięg rozmieszczenia gmin z przewagą głosów polskich przewodniczący Polskiej Komisji Plebiscytowej Wojciech Korfanty postulował przyłączenie do Polski ok. 60 % terenów objętych plebiscytem, w tym całego okręgu przemysłowego, i ograniczonych w przybliżeniu linią poprowadzoną od południa wzdłuż Odry, na północ od Gogolina skręcającą na wschód do miejscowości Fosowskie, następnie na północ do granicy w okolicy wsi Bodzanowice. Na skutek nacisków przedstawiciela Wielkiej Brytanii w Komisji Międzysojuszniczej mającej przygotować rekomendację rozgraniczenia ustalono przyznanie Polsce tylko powiatów rybnickiego i pszczyńskiego z niewielkim fragmentem katowickiego i bez głównego okręgu przemysłowego. W dniu 2 maja tuż przed ogłoszeniem tej decyzji rozpoczeło się powstanie (III powstanie śląskie). W ciągu tygodnia opanowano tereny do Odry i na północy po Gogolin, Olesno i Gorzów Śląski. Na skutek ofensywy niemieckiej rozpoczetej 21 maja utracono jednak rejon Góry św. Anny. Ostatecznie walki zakończyły się 5 lipca rozejmem i wycofaniem się wojsk obu walczących stron z obszaru plebiscytowego. 20 paździenika 1921 r. Rada Ambasadorów określiła przebieg granicy polsko-niemieckiej na Górnym Śląsku, przyznając Polsce ok. 1/3 tego obszaru, w tym znaczną część okręgu przemysłowego. W wyniku tego dalszym ciągiem granicy ustalonej już wcześniej w Traktacie Wersalskim pozostała dotychczasowa granica polsko-niemiecka, czyli dawna niemiecko-rosyjska, wzdłuż rzeki Prosny i prowadząca dalej na południowy wschód do punktu styku z granicą poplebiscytową położonego na wschód od Olesna.
Przejęcie przyznanych terenów Górnego Śląska przez władze polskie trawało od 20 lipca do końca sierpnia 1921 r. Od listopada rozpoczęła prace nad delimitacją granicy komisja międzynarodowa. Najtrudniejszy do wyznaczenia w terenie był fragment granicy przypadający na obszar górnośląskiego okręgu przemysłowego. Granica przebiegała przez obszary górnicze i pola wydobywcze należące do poszczególnych kopalń, przecinała połączenia komunikacyjne pomiędzy kooperującymi zakładami, bocznice kolejowe, linie tramwajowe, sieci wodociagowe i energetyczne itd. Każda ze stron dążyła do takiego jej wytyczenia, aby jak najmniej utrudniało to funkcjonowanie podmiotów gospodarczych po obu jej stronach. 15 maja 1922 r. podpisana została w Genewie polsko-niemiecka konwecja dotycząca Górnego Śląska, która szczegółowo określała wzajemne stosunki prawne i gospodarcze na obszarze plebiscytowym w celu maksymalnego ograniczenia negatywnego wpływu ustanowienia nowej granicy na życie gospodarcze i społeczne na tym terenie. Unormowania tam zawarte były wyjątkowe i generalnie niestosowane były w przypadku innych terenów, na których wytyczona musiała być nowa granica polsko-niemiecka. Delimitację w terenie wraz z rozmieszczeniem znaków granicznych zakończono w październiku 1923 r.