Umownie przyjęto, że południowy fragment granicy polsko-niemieckiej obejmował siedem sekcji granicznych od H do O (w oznaczaniu sekcji pominięto literę I). Jako początek przyjęto główny kamień graniczny H 001 usytuowany w pobliżu wsi Langenau (obecnie Łęgoń) położonej po stronie niemieckiej na wschód od Wschowy, a koniec w miejscu trójstyku granic polsko-niemiecko-czechosłowackiego wyznaczonego przy ujściu Olzy do Odry. Na całym tym odcinku Polska graniczyła z pruską prowincją Schlesien. Po zajęciu przez Polskę Zaolzia granica wydłużyła się o fragment dotychczasowej granicy czechosłowacko-niemieckiej długi na ok. 16 km.

Po odzyskaniu przez Polskę niepodległości w listopadzie 1918 r. do czasu podpisania Traktatu Wersalskiego granicą z Niemcami była dawna granica niemiecko-rosyjska i niemiecko-austriacka (na południu). Zasięg tej ostatniej nie był określony aż do podziału Śląska Cieszyńskiego w lipcu 1920 r. 27 grudnia 1918 r. wybuchło powstanie w pruskiej prowincji poznańskiej, które w ciągu tygodnia ogarnęło jej większość. Na południu powstańcom udało się opanować tereny siegające granicy z prowincją śląską, ale bez Wschowy, Leszna, Rawicza i Kępna. 16 lutego Najwyższa Rada państw Ententy zawarła w Trewirze układ z Niemcami o przedłużeniu rozejmu, który objął też walki w Wielkopolsce. 

28 czerwca 1919 r. podpisany został Traktat Wersalski, który określił zasięg terenów należących m.in. do prowincji poznańskiej i śląskiej przyznanych Polsce, w tym terenów opanowanych wcześniej w wyniku powstania wielkopolskiego. Artykuł 27 III rozdziału Traktatu przewidywał następujący przebieg granicy polsko-niemieckiej na odcinku południowo-zachodnim. Od styku wschodniej granicy powiatu wschowskiego z południową granicą prowincji poznańskiej (odzwierciedlającą przebieg przedrozbiorowej granicy Polski),  wzdłuż tej granicy do miejsca w okolicy miejscowości Bogdaj położonej na pd-zach od Odolanowa, z jednym wyjątkiem. Kilkunastokilometrowy odcinek w pobliżu Bojanowa i Rawicza został nieco skorygowany w celu pozostawienia po stronie polskiej fragmentu linii kolejowej prowadzącej przez Rawicz do Poznania. Dalszy ciąg był już nową granicą poprowadzoną na zachód od granicy między prowincjami w celu przyłączenia do Polski znacznej części śląskiego powiatu sycowskiego i północnego fragmentu powiatu namysłowskiego. Ten nowy fragment kończył się na południe od wsi Skoroszów, gdzie stykał się z granicą obszaru plebiscytowego na Górnym Sląsku. Od tego miejsca do czasu podjęcia rozstrzygnięć w oparciu o wynik plebiscytu tymczasową granicę poprowadzono na wschód do południowej granicy powiatu kępińskiego prowincji poznańskiej i dalej wzdłuż niej do dotychczasowej granicy polsko-niemieckiej na Prośnie. 

Traktat Wersalski zaczął obowiazywać od 10 stycznia 1920 r. po ratyfikowaniu go przez Niemcy. Wycofywanie wojsk niemieckich z terenów przyznanych Polsce i przekazywanie ich administracji polskiej (tereny za linią demarkacyjną) trwało etapami od 17 do 28 stycznia. Tymczasowa granica polsko-niemiecka stała się nową linią demarkacyjną do czasu szczegółowej delimitacji przez komisję międzynarodową, która rozpoczęła prace w sierpniu 1920 r. 

Plebiscyt na Górnym Śląsku przeprowadzono 20 marca 1921 r. Mimo że ogólny jego wynik był niekorzystny dla Polaków (40,4 % głosów za Polską), to biorąc pod uwagę zasięg rozmieszczenia gmin z przewagą głosów polskich przewodniczący Polskiej Komisji Plebiscytowej Wojciech Korfanty postulował przyłączenie do Polski ok. 60 % terenów objętych plebiscytem, w tym całego okręgu przemysłowego, i ograniczonych w przybliżeniu linią poprowadzoną od południa wzdłuż Odry, na północ od Gogolina skręcającą na wschód do miejscowości Fosowskie, następnie na północ do granicy w okolicy wsi Bodzanowice. Na skutek nacisków przedstawiciela Wielkiej Brytanii w Komisji Międzysojuszniczej mającej przygotować rekomendację rozgraniczenia ustalono przyznanie Polsce tylko powiatów rybnickiego i pszczyńskiego z niewielkim fragmentem katowickiego i bez głównego okręgu przemysłowego. W dniu 2 maja tuż przed ogłoszeniem tej decyzji rozpoczeło się powstanie (III powstanie śląskie). W ciągu tygodnia opanowano tereny do Odry i na północy po Gogolin, Olesno i Gorzów Śląski. Na skutek ofensywy niemieckiej rozpoczetej 21 maja utracono jednak rejon Góry św. Anny. Ostatecznie walki zakończyły się 5 lipca rozejmem i wycofaniem się wojsk obu walczących stron z obszaru plebiscytowego. 20 paździenika 1921 r. Rada Ambasadorów określiła przebieg granicy polsko-niemieckiej na Górnym Śląsku, przyznając Polsce ok. 1/3 tego obszaru, w tym znaczną część okręgu przemysłowego. W wyniku tego dalszym ciągiem granicy ustalonej już wcześniej w Traktacie Wersalskim pozostała dotychczasowa granica polsko-niemiecka, czyli dawna niemiecko-rosyjska, wzdłuż rzeki Prosny i prowadząca dalej na południowy wschód do punktu styku z granicą poplebiscytową położonego na wschód od Olesna.

Przejęcie przyznanych terenów Górnego Śląska przez władze polskie trawało od 20 lipca do końca sierpnia 1921 r. Od listopada rozpoczęła prace nad delimitacją granicy komisja międzynarodowa. Najtrudniejszy do wyznaczenia w terenie był fragment granicy przypadający na obszar górnośląskiego okręgu przemysłowego. Granica przebiegała przez obszary górnicze i pola wydobywcze należące do poszczególnych kopalń, przecinała połączenia komunikacyjne pomiędzy kooperującymi zakładami, bocznice kolejowe, linie tramwajowe, sieci wodociagowe i energetyczne itd. Każda ze stron dążyła do takiego jej wytyczenia, aby jak najmniej utrudniało to funkcjonowanie podmiotów gospodarczych po obu jej stronach. 15 maja 1922 r. podpisana została w Genewie polsko-niemiecka konwecja dotycząca Górnego Śląska, która szczegółowo określała wzajemne stosunki prawne i gospodarcze na obszarze plebiscytowym w celu maksymalnego ograniczenia negatywnego wpływu ustanowienia nowej granicy na życie gospodarcze i społeczne na tym terenie. Unormowania tam zawarte były wyjątkowe i generalnie niestosowane były w przypadku innych terenów, na których wytyczona musiała być nowa granica polsko-niemiecka. Delimitację w terenie wraz z rozmieszczeniem znaków granicznych zakończono w październiku 1923 r.    

Zakończenie I wojny światowej i sytuacja, w jakiej znalazły się państwa, które niegdyś dokonały rozbiorów Polski, umożliwiła powrót państwa polskiego na mapę Europy i realizację dążenia do odzyskania terenów obejmujących każdy z trzech zaborów. Rozpadające się Austro-Węgry i Rosja opanowana przez rewolucję bolszewicką, której wojska na skutek działań wojennych zepchnięte zostały daleko na wschód, nie były w stanie przeciwstawić się temu. Inaczej było w przypadku Niemiec, które mimo trudnej sytuacji wewnętrznej nie zakładały dobrowolnego oddania ziem zabranych kiedyś przez Prusy, dominujący kraj Rzeszy niemieckiej. Wobec słabości militarnej odrodzonej Polski zbrojny konflikt z Niemcami nie wchodził w rachubę. Pozostawały tylko działania na drodze dyplomatycznej. Polska uznana jako kraj sprzymierzony z państwami dawnej Ententy miała w swoich dążeniach poparcie z ich strony.

Zaraz po zakończeniu wojny Niemcy liczyli jeszcze na to, że uda się im zachować status quo. Na ziemiach, które przed rozbiorami należały do Polski, stanowili już znaczny odsetek ludności sięgający 40-50 %. Dominowali w wśród właścicieli ziemskich i mieli znaczną przewagę w klasie uprzywilejowanej ekonomicznie. W związku z tym przypuszczano, że być może wystarczy przyznanie ludności polskiej pełni swobód obywatelskich, ale sukces powstania wielkopolskiego zaakceptowany przez mocarstwa zachodnie rozwiał te nadzieje. Próbowano jeszcze wynegocjować zachowanie połączenia terytorialnego z Prusami Wschodnimi. Jednak stanowisko Stanów Zjednoczonych, których przystąpienie do udziału w wojnie miało zdecydowany wpływ na jej wynik, odwołujące się do postulatu przydenta USA Wilsona zawartego w 13 punkcie jego programu pokojowego mówiącym o przyznaniu Polsce niepodległości z wolnym dostępem do morza przekreśliło i te oczekiwania. Mocarstwa zachodnie uznały za słuszne nie tylko dążenie strony polskiej do odzyskania ziem zabranych, ale też rozpatrzenie możliwości przekazania terenów Mazur i Śląska zamieszkanych przez ludność deklarującą narodowość polską.

Przedstawiciele Niemiec pod groźbą wznowienia działań wojennych na froncie zachodnim zdecydowali się podpisać w dniu 28 czerwca 1919 r. traktat pokojowy zwany Traktatem Wersalskim. W części dotyczącej granic wschodnich Niemiec, w tym granicy z Polską, w traktacie zdecydowano o przyznaniu Polsce większości pruskiej prowincji poznańskiej, znacznej części Pomorza Gdańskiego bez Gdańska (Prusy Zachodnie) i południowej części wschodniopruskiego powiatu nidzickiego z Działdowem oraz niewielkiego fragmentu prowincji śląskiej. Obszar ten obejmował ok. 70 % ziem Polski przedrozbiorowej należących dotychczas do Niemiec. Na przebieg granicy miało wpływ przyjęcie jako wiodącego kryterium narodowościowego, dlatego w Niemczech pozostały tereny, na których Polacy stanowili niewielki odsetek mieszkańców. Z tych samych powodów Gdańsk pozostał poza Polską, chociaż jako Wolne Miasto Gdańsk też nie pozostał w Niemczech. Dodatkowo o ewentualnym odzyskaniu dawnego polskiego Powiśla i południowej Warmii miał przesądzić wynik plebiscytu obejmującego też Mazury. Nowa granica, której przebieg wstępnie opisano w traktacie, wydłużyła granicę polsko-niemiecką w stosunku do dotychczasowej zgodnej z przebiegiem dawnych granic niemiecko-rosyjskiej i niemiecko-austriackiej o ok. 70 %. Taki kształt granicy polsko-niemieckiej zaspokoił w znacznym stopniu oczekiwania strony polskiej, jednak obiektywnie nie był korzystny pod względem strategicznym na wypadek konflitu zbrojnego z Niemcami głównie z powodu istnienia Prus Wschodnich, które szczątkowo stanowią dla Polski problem do dziś w postaci rosyjskiej eksklawy obwodu królewieckiego. Jednocześnie z powrotem na ziemie należące do Polski przed 1772 r. ponownie aktualne stały się zagrożenia związane z historycznymi konsekwencjami niezałatwienia kwestii pruskiej przez dawnych władców polskich.

Przekazanie terenów przyznanych Polsce nastapiło po 10 stycznia 1920 r. po ratyfikacji traktatu przez Niemcy. 11 lipca odbył sie plebiscyt na Mazurach, Warmii i Powiślu, w którym za przynależnością do Polski opowiedziało się zaledwie kilka procent głosujących. Skutkiem takiego wyniku było przyłaczenie do Polski tylko ośmiu miejscowości nadgranicznych. Odrębną kwestią stało się rozstrzygnięcie na drodze plebiscytu o przynależności terenów Górnego Śląska, który wieleset lat przed rozbiorami nie był już polski, ale nadal zamieszkiwała go ludność polskojęzyczna. W plebiscycie przeprowadzonym 21 marca 1921 r. ok. 40 % głosujących optowało za Polską. Jednak rozkład terytorialny gmin z przewagą takich głosów nie był równomierny. Obu stronom szczególnie zależało na okręgu przemysłowym, gdzie Niemcy generalnie zwyciężyli. Komisja Międzysojusznicza administrująca obszarem plebiscytowym zdecydowała o przyznaniu Polsce tylko powiatów rybnickiego, pszczyńskiego i południowego fragmentu katowickiego, bez miast okręgu przemysłowego. Wybuch w dniu 2 maja 1921 r. III powstania ślaskiego i jego sukces zmusił mocarstwa zachodnie do zmiany decyzji. Ostateczne określenie przebiegu granicy na Górnym Śląsku nastąpiło 20 października 1921 r. Delimitacja, czyli dokładne wytyczenie całej granicy polsko-niemieckiej w terenie przez międzynarodową komisję, z utrwaleniem za pomocą znaków granicznych rozpoczęta w sierpniu 1920 r. zakończyła się w październiku 1924 r. 

Od początku granica ustalona w sposób określony w Traktacie Wersalskim była, choć początkowo nieoficjalnie, kwestionowana przez Niemców, którzy nie uważali się za pokonanych militarnie, a warunki traktatu odbierali jako niesprawiedliwy dyktat, i z postanowieniami którego nie potrafili się pogodzić, nie uznając swojej odpowiedzialności za wywołanie I wojny światowej. Z tego powodu późniejsze stosunki polsko-niemieckie niepozbawione były napięć. Konsekwencją przesunięcia granic było przeniesienie się z terenów objętych przez państwo polskie prawie 900 tys. osób narodowości niemieckiej, które dobrowolnie zrezygnowały z obywatelstwa polskiego lub nie mogły go otrzymać z mocy prawa. Władze niemieckie prowadziły akcje nakłaniające takie osoby do pozostania licząc na to, że nowe granice nie będą trwałe. Wśród wyjeżdżających wielu było urzędników, policjantów, pocztowców, czy kolejarzy, którzy we wcześniejszych latach przybyli na te ziemie z głębi Niemiec zachęcani specjalnymi dodatkami do wynagrodzenia. Zapotrzebowanie na uszczuplone z powyższych powodów kadry urzędnicze, które wystąpiło szczególnie na Pomorzu, spowodowało napływ ok. 200 tys. osób przeważnie z terenów Galicji. W stosunkach pomiędzy elementem napływowym a ludnością autochtoniczną nierzadko dochodziło później do sytuacji konfliktowych.

Po zajęciu Zaolzia przez Polskę w październiku 1938 r. granica polsko-niemiecka wydłużyła się o fragment dotychczasowej granicy czechosłowacko-niemieckiej na wysokości Bogumina, a dalej na południe była granicą z tzw. Krajem Hulczyńskim przyłączonym przez Niemcy w tym samym czasie na powrót do Śląska podczas zajmowania Kraju Sudetów. Granica ta biegła wzdłuż Odry. Po agresji niemieckiej na Polskę we wrześniu 1939 r. polsko-niemiecka granica państwowa formalnie dla Niemiec przestała być obowiązująca 8 października po wydaniu przez Hitlera dekretu o organizacji administracji terenów wschodnich. Jedynie około stukilometrowy odcinek granicy od rzeki Pisy do okolic Augustowa stał się od 28 września granicą Niemiec ze Związkiem Radzieckim. Z kolei już od początku 1945 r. w związku ze stopniowym wyzwalaniem ziem Polski spod okupacji niemieckiej przedwojenna granica z Niemcami nie była traktowana przez marionetkowy rząd polski jako w pełni obowiązująca w obliczu wcześniejszych ustaleń Stalina z przywódcami wielkich mocarstw co do przyszłej granicy zachodniej opartej o Odrę i Nysę Łużycką. Istniała tylko formalnie do czasu ustalenia na konferencji pokojowej nowej granicy.