Są dwie różne teorie powstania cmentarza w Pietnej. Są one ustnie przekazywane przez mieszkańców Pietnej z pokolenia na pokolenie. Pierwsza z nich mówi, że cmentarz powstał w czasie wielkiej epidemii dżumy, która w latach 1348-1352 dziesiątkowała Europę. Chowano wtedy martwe ciała w masowych grobach poza wioską, układając ciała w stosy, zasypywano je ziemią i pokrywano ciężkimi kamieniami, co miało nie do puścić do wydostania się zarazy spod ziemi. Na tak usypanej mogile stawiano drewniany krzyż. Pierwotna cmentarna kaplica posiadała kamienną posadzkę, co może wskazywać na powstanie cmentarza właśnie w tym okresie. 

Druga wersja przedstawia utworzenie wzgórza w czasie wojny trzydziestoletniej na Śląsku w latach 1618-1648, jako kopca pod armaty, które były tu ustawione przez wojska szwedzkie.

Najstarszą pamiątką z kaplicy cmentarnej jest drewniany krzyż, pochodzący z 1728 roku, który obecnie znajduje się w kaplicy wiejskiej.

Pierwszy, odnotowany w księgach parafialnych kościoła pw. św. Mikołaja w Krapkowicach, pochówek na tym cmentarzu jest zapisany w 1769 roku.

W 1822 roku została wybudowana murowana, prostokątna kaplica, z siodłowym dachem i trójkątnym szczytem, ujętym esownicami. Na nim uwypuklona mała dzwonnica, przypominająca lukarnę, zwieńczona attyką. Taki motyw dzwonnicy jest rzadko spotykanym elementem architektury w śląskim krajobrazie. We wnętrzu kaplicy znajduje się betonowy ołtarz, nad nim drewniany krzyż, a po bokach tablice upamiętniające ofiary I i II wojny światowej. Na ścianie zawieszony jest obraz Matki Boskiej Częstochowskiej, który został namalowany w połowie XIV w. przez nieznanego malarza z Góry św. Anny. Namalował go, po ustnym przekazie sennej wizji niewidomego żebraka Alojzego Kasperka, przesiadującego pod drewnianym krzyżem w Pietnej. Po śmierci zebrak pochowany został na Górze św. Anny.

Obok kaplicy znajduje się grobowiec wikarego z Krapkowic, ks. Walentego Czudeya (ur. 14.02.1841 r.) pochodzącego z Gliwic. Był to ksiądz, który w czasie kulturkampfu uczył miejscowe dzieci religii w piwnicy prywatnego domu państwa Lazarów (obecnie dom państwa Jasików z ul. Łąkowej). Jego życzeniem było pochowanie go po śmierci na miejscowym cmentarzu. Zmarł 10.12. 1876 roku, prawdopodobnie na suchoty. Zgodnie z jego wolą spoczął na tutejszym cmentarzu.

Wśród mogił można spotkać kilka przedwojennych nagrobków, które nadają temu miejscu szczególnego charakteru i podkreślają jego wiekowość. Uroku także dodają stare dęby szypułkowe - pomniki przyrody, którymi obsadzone jest cmentarne wzgórze. Mieszkańcy Pietnej zawsze otaczali cmentarz szczególną opieką, dbając o porządek i czystość tego miejsca. W 1968 roku, za sprawą ówczesnego sołtysa i rady sołeckiej odnowiono elewację kaplicy, we wschodniej części cmentarza wybudowano grotę Matki Boskiej z Lourdes, wymurowano grobowiec ks. Czudeya. 

W 1996 roku umieszczono granitowe tablice Drogi Krzyżowej ufundowane przez dwie miejscowe rodziny z Pietnej z okazji obchodów 700-lecia Pietnej. Wykonano nowe ławki oraz częściowe ogrodzenie. W 2001 roku na kaplicy wymieniono więźbę dachową wraz z dachówkami. Do ściany czołowej dobudowano wiatę z granitową posadzką, pełniącą funkcję ochronną dla ołtarza w czasie nabożeństw. Odrestaurowano ściany wewnątrz kaplicy nakładając nowy tynk. W kolejnych latach powstał przed cmentarzem parking, dokończono ogrodzenie.