Cmentarz francuski w Jemielnicy pierwotnie przeznaczony był dla pochówków epidemicznych, które najstarsze pochodziły z 1572 r., kiedy w okolicy panowała zaraza. Kolejne pochówki odnotowano w XVII i XVIII w. Po klęsce wojsk francuskich w dniu 26 sierpnia 1813 r. nad Kaczawą do Jemielnicy trafiło około 1200 schorowanych jeńców wojennych. Wśród żołnierzy wybuchła śmiertelna epidemia tyfusu. Z tego powodu na cmentarzu pochowano około 500 zmarłych. W tej grupie byli jeńcy francuscy oraz mieszkańcy wsi, którzy zarazili się od żołnierzy. Kolejne pochówki miały miejsce w 1824 i 1834 r.

W 1921 r. podczas plebiscytu na Górnym Śląsku w pobliskich Strzelcach Wielkich stacjonował oddział żołnierzy francuskich z 46 Dywizja Strzelców Alpejskich. Francuzi ci postawili na cmentarzu stellę z napisem: Aux soldats de la Grande Armee morts en 1812-1813 którego tłumaczenie brzmi: Żołnierzom Wielkiej Armii zmarłym 1812-1813. W styczniu 1945 r. pochowano tu 17 żołnierzy radzieckich, których następnie w 1947 r. ekshumowano i pogrzebano na cmentarzu wojskowym w Kędzierzynie – Koźlu. W 2015 r. staraniem Stowarzyszenia Odnowy Wsi w Jemielnicy i władz gminy cmentarz odnowiono: postawiono nowy krzyż, wytyczono alejkę. Zachowano 100-letnią francuską stellę.