Północny fragment granicy polsko-niemieckiej długi na 607 km oddzielał terytorium Polski od prowincji Prusy Wschodnie powiększonej w 1920 r. o wschodnią część dawnej prowincji Prusy Zachodnie po przekazaniu Polsce Pomorza Gdańskiego na mocy Traktatu Wersalskiego. Na zachodzie fragment ten kończył się trójstykiem polsko-niemiecko-gdańskim koło Białej Góry (po stronie miemieckiej), a na wschodzie trójstykiem polsko-niemiecko-litewskim w pobliżu Wiżajn. Podzielony został na pięć sekcji granicznych oznaczonych cyframi rzymskimi. W około 2/3 pokrywał się z dawną granicą niemiecko-rosyjską (część wschodnia jako sekcja V). W miejscu przecięcia starej granicy przez drogę z Mławy do Nidzicy w okolicy Napierek zaczynała się nowa granica (sekcje I-IV).

Zaraz po odzyskaniu przez Polskę niepodległości w listopadzie 1918 r. do czasu ustalenia na konferencji pokojowej w Wersalu nowych granic Niemiec na wschodzie obowiązywała granica polsko-niemiecka zgodna z dawną granicą niemiecko-rosyjską. Jednak z powodu przedłużającej się ewakuacji wojsk niemieckich z Ukrainy i Białorusi możliwej tylko przez Prusy Wschodnie dostęp do granicy w okolicy Grajewa Polacy uzyskali dopiero z końcem lutego 1919 r. W rejonie Augustowa i Suwałk nastąpiło to z końcem sierpnia po wyparciu z niego wojsk litewskich, którym odchodzący Niemcy wcześniej przekazali całą Suwalszczyznę. Linia demarkacyjna polsko-litewska oparta została o tzw. Linię Focha zaproponowaną przez Radę Najwyższą państw Ententy jeszcze w lipcu 1919 r. W przyszłości linia ta stała się podstawą do wytyczenia granicy polsko-litewskiej.

Podpisany 28 czerwca 1919 r. Traktat Wersalski w artykule 28 określał przebieg granic Prus Wschodnich. Na odcinku polskim granica miała prowadzić od styku z granicą Wolnego Miasta Gdańska głównym korytem żeglownym Wisły, następnie wzdłuż południowej granicy powiatów kwidzyńskiego i suskiego w Prusach Zachodnich, dalej wzdłuż granicy pomiędzy powiatem ostródzkim Prus Wschodnich i lubawskim Prus Zachodnich i odcinać południowo-zachodnią część wschodniopruskiego powiatu nidzickiego z Działdowem dochodząc do dotychczasowej granicy na północ od Mławy. Dalszy ciąg granicy odpowiadał dawnej granicy niemiecko-rosyjskiej. Granica na wschód od Wisły w przybliżeniu odpowiadała przedrozbiorowej granicy województwa chełmińskiego z Prusami. Decyzję o włączeniu wschodniopruskiego Działdowa z okolicą podjęto ze względów ekonomicznych dla umożliwienia połączenia kolejowego Warszawy z Pomorzem Gdańskim przez Brodnicę i Grudziądz.

Postanowienia Traktatu Wersalskiego weszły w życie z dniem 10 stycznia 1920 r. Do czasu zakończenia prac delimitacyjnych nowa granica traktowana była jako tymczasowa linia demarkacyjna. Wycofywanie się niemieckich wojsk z powiatów sąsiadujących z nową granicą i przekazywanych polskiej administracji trwało od 17 do 28 stycznia 1919 r. 

11 lipca 1920 r. przeprowadzono plebiscyt na Mazurach,Warmii i Powiślu, w wyniku którego zdecydowano o przyłączeniu do Polski tylko pięciu miejscowości położonych na wschodnim brzegu Wisły i trzech położonych przy granicy w powiecie ostródzkim. W tym samym czasie ruszyła ofensywa bolszewicka na wschodzie i w sierpniu wojskom bolszewickim działającym wzdłuż granicy z Prusami Wschodnimi udało sie dotrzeć aż pod Toruń i zająć Brodnicę. 18 sierpnia w decydującej bitwie pod Brodnicą zmuszono wroga do odwrotu. Sukces wojsk polskich w bitwie warszawskiej umożliwił stopniowe odzyskanie dostępu do granicy. Do końca września zdołano też wyprzeć Litwinów z Suwalszczyzny, którzy ponownie zajęli ją w końcu lipca.

Międzynarodowa komisja delimitacyjna rozpoczęła pracę w październiku 1920 r. Przy ustalaniu szczegółowego przebiegu granicy komisja miała prawo dokonywania niewielkich korekt, co najczęściej próbowali wykorzystywać Niemcy. Sporny okazał sie też odcinek wzdłuż Wisły, ponieważ artykuł 97 traktatu przewidywał pozostawienie Polsce pełnego nadzoru nad rzeką. Wobec oporu ze strony Niemców ustalono przebieg granicy po wewnetrznej stronie wałów przeciwpowodziowych na wschodnim brzegu, bez samych wałów, o co walczyła strona polska. Ostateczne przekazanie wytyczonej granicy do obsadzenia wojsku polskiemu i niemieckiej straży granicznej nastapiło 31 marca 1922 r.

Zakończenie I wojny światowej i sytuacja, w jakiej znalazły się państwa, które niegdyś dokonały rozbiorów Polski, umożliwiła powrót państwa polskiego na mapę Europy i realizację dążenia do odzyskania terenów obejmujących każdy z trzech zaborów. Rozpadające się Austro-Węgry i Rosja opanowana przez rewolucję bolszewicką, której wojska na skutek działań wojennych zepchnięte zostały daleko na wschód, nie były w stanie przeciwstawić się temu. Inaczej było w przypadku Niemiec, które mimo trudnej sytuacji wewnętrznej nie zakładały dobrowolnego oddania ziem zabranych kiedyś przez Prusy, dominujący kraj Rzeszy niemieckiej. Wobec słabości militarnej odrodzonej Polski zbrojny konflikt z Niemcami nie wchodził w rachubę. Pozostawały tylko działania na drodze dyplomatycznej. Polska uznana jako kraj sprzymierzony z państwami dawnej Ententy miała w swoich dążeniach poparcie z ich strony.

Zaraz po zakończeniu wojny Niemcy liczyli jeszcze na to, że uda się im zachować status quo. Na ziemiach, które przed rozbiorami należały do Polski, stanowili już znaczny odsetek ludności sięgający 40-50 %. Dominowali w wśród właścicieli ziemskich i mieli znaczną przewagę w klasie uprzywilejowanej ekonomicznie. W związku z tym przypuszczano, że być może wystarczy przyznanie ludności polskiej pełni swobód obywatelskich, ale sukces powstania wielkopolskiego zaakceptowany przez mocarstwa zachodnie rozwiał te nadzieje. Próbowano jeszcze wynegocjować zachowanie połączenia terytorialnego z Prusami Wschodnimi. Jednak stanowisko Stanów Zjednoczonych, których przystąpienie do udziału w wojnie miało zdecydowany wpływ na jej wynik, odwołujące się do postulatu przydenta USA Wilsona zawartego w 13 punkcie jego programu pokojowego mówiącym o przyznaniu Polsce niepodległości z wolnym dostępem do morza przekreśliło i te oczekiwania. Mocarstwa zachodnie uznały za słuszne nie tylko dążenie strony polskiej do odzyskania ziem zabranych, ale też rozpatrzenie możliwości przekazania terenów Mazur i Śląska zamieszkanych przez ludność deklarującą narodowość polską.

Przedstawiciele Niemiec pod groźbą wznowienia działań wojennych na froncie zachodnim zdecydowali się podpisać w dniu 28 czerwca 1919 r. traktat pokojowy zwany Traktatem Wersalskim. W części dotyczącej granic wschodnich Niemiec, w tym granicy z Polską, w traktacie zdecydowano o przyznaniu Polsce większości pruskiej prowincji poznańskiej, znacznej części Pomorza Gdańskiego bez Gdańska (Prusy Zachodnie) i południowej części wschodniopruskiego powiatu nidzickiego z Działdowem oraz niewielkiego fragmentu prowincji śląskiej. Obszar ten obejmował ok. 70 % ziem Polski przedrozbiorowej należących dotychczas do Niemiec. Na przebieg granicy miało wpływ przyjęcie jako wiodącego kryterium narodowościowego, dlatego w Niemczech pozostały tereny, na których Polacy stanowili niewielki odsetek mieszkańców. Z tych samych powodów Gdańsk pozostał poza Polską, chociaż jako Wolne Miasto Gdańsk też nie pozostał w Niemczech. Dodatkowo o ewentualnym odzyskaniu dawnego polskiego Powiśla i południowej Warmii miał przesądzić wynik plebiscytu obejmującego też Mazury. Nowa granica, której przebieg wstępnie opisano w traktacie, wydłużyła granicę polsko-niemiecką w stosunku do dotychczasowej zgodnej z przebiegiem dawnych granic niemiecko-rosyjskiej i niemiecko-austriackiej o ok. 70 %. Taki kształt granicy polsko-niemieckiej zaspokoił w znacznym stopniu oczekiwania strony polskiej, jednak obiektywnie nie był korzystny pod względem strategicznym na wypadek konflitu zbrojnego z Niemcami głównie z powodu istnienia Prus Wschodnich, które szczątkowo stanowią dla Polski problem do dziś w postaci rosyjskiej eksklawy obwodu królewieckiego. Jednocześnie z powrotem na ziemie należące do Polski przed 1772 r. ponownie aktualne stały się zagrożenia związane z historycznymi konsekwencjami niezałatwienia kwestii pruskiej przez dawnych władców polskich.

Przekazanie terenów przyznanych Polsce nastapiło po 10 stycznia 1920 r. po ratyfikacji traktatu przez Niemcy. 11 lipca odbył sie plebiscyt na Mazurach, Warmii i Powiślu, w którym za przynależnością do Polski opowiedziało się zaledwie kilka procent głosujących. Skutkiem takiego wyniku było przyłaczenie do Polski tylko ośmiu miejscowości nadgranicznych. Odrębną kwestią stało się rozstrzygnięcie na drodze plebiscytu o przynależności terenów Górnego Śląska, który wieleset lat przed rozbiorami nie był już polski, ale nadal zamieszkiwała go ludność polskojęzyczna. W plebiscycie przeprowadzonym 21 marca 1921 r. ok. 40 % głosujących optowało za Polską. Jednak rozkład terytorialny gmin z przewagą takich głosów nie był równomierny. Obu stronom szczególnie zależało na okręgu przemysłowym, gdzie Niemcy generalnie zwyciężyli. Komisja Międzysojusznicza administrująca obszarem plebiscytowym zdecydowała o przyznaniu Polsce tylko powiatów rybnickiego, pszczyńskiego i południowego fragmentu katowickiego, bez miast okręgu przemysłowego. Wybuch w dniu 2 maja 1921 r. III powstania ślaskiego i jego sukces zmusił mocarstwa zachodnie do zmiany decyzji. Ostateczne określenie przebiegu granicy na Górnym Śląsku nastąpiło 20 października 1921 r. Delimitacja, czyli dokładne wytyczenie całej granicy polsko-niemieckiej w terenie przez międzynarodową komisję, z utrwaleniem za pomocą znaków granicznych rozpoczęta w sierpniu 1920 r. zakończyła się w październiku 1924 r. 

Od początku granica ustalona w sposób określony w Traktacie Wersalskim była, choć początkowo nieoficjalnie, kwestionowana przez Niemców, którzy nie uważali się za pokonanych militarnie, a warunki traktatu odbierali jako niesprawiedliwy dyktat, i z postanowieniami którego nie potrafili się pogodzić, nie uznając swojej odpowiedzialności za wywołanie I wojny światowej. Z tego powodu późniejsze stosunki polsko-niemieckie niepozbawione były napięć. Konsekwencją przesunięcia granic było przeniesienie się z terenów objętych przez państwo polskie prawie 900 tys. osób narodowości niemieckiej, które dobrowolnie zrezygnowały z obywatelstwa polskiego lub nie mogły go otrzymać z mocy prawa. Władze niemieckie prowadziły akcje nakłaniające takie osoby do pozostania licząc na to, że nowe granice nie będą trwałe. Wśród wyjeżdżających wielu było urzędników, policjantów, pocztowców, czy kolejarzy, którzy we wcześniejszych latach przybyli na te ziemie z głębi Niemiec zachęcani specjalnymi dodatkami do wynagrodzenia. Zapotrzebowanie na uszczuplone z powyższych powodów kadry urzędnicze, które wystąpiło szczególnie na Pomorzu, spowodowało napływ ok. 200 tys. osób przeważnie z terenów Galicji. W stosunkach pomiędzy elementem napływowym a ludnością autochtoniczną nierzadko dochodziło później do sytuacji konfliktowych.

Po zajęciu Zaolzia przez Polskę w październiku 1938 r. granica polsko-niemiecka wydłużyła się o fragment dotychczasowej granicy czechosłowacko-niemieckiej na wysokości Bogumina, a dalej na południe była granicą z tzw. Krajem Hulczyńskim przyłączonym przez Niemcy w tym samym czasie na powrót do Śląska podczas zajmowania Kraju Sudetów. Granica ta biegła wzdłuż Odry. Po agresji niemieckiej na Polskę we wrześniu 1939 r. polsko-niemiecka granica państwowa formalnie dla Niemiec przestała być obowiązująca 8 października po wydaniu przez Hitlera dekretu o organizacji administracji terenów wschodnich. Jedynie około stukilometrowy odcinek granicy od rzeki Pisy do okolic Augustowa stał się od 28 września granicą Niemiec ze Związkiem Radzieckim. Z kolei już od początku 1945 r. w związku ze stopniowym wyzwalaniem ziem Polski spod okupacji niemieckiej przedwojenna granica z Niemcami nie była traktowana przez marionetkowy rząd polski jako w pełni obowiązująca w obliczu wcześniejszych ustaleń Stalina z przywódcami wielkich mocarstw co do przyszłej granicy zachodniej opartej o Odrę i Nysę Łużycką. Istniała tylko formalnie do czasu ustalenia na konferencji pokojowej nowej granicy.