Urodził się 20 listopada 1903 r. w Rożdżałowie powiat Chełm Lubelski jako syn Mikołaja i Konstancji z domu Dżaman. Absolwent Wyższego Seminarium Duchownego w Lublinie, święcenia kapłańskie przyjął w 1930 r.
Po prymicji w latach 1930-1935 pracował jako wikariusz w Wożuczynie, gdzie pod jego kierownictwem odnowiono główny ołtarz w kościele parafialnym, zbudowano szkołę podstawową, sklep spółdzielczy i dom dla organisty. W połowie 1935 r. został przeniesiony do parafii Częstoborowice, a potem do Zakrzówka. Na początku grudnia 1935 r. został mianowany proboszczem w parafii Czartowiec, gdzie w czasie jego pracy duszpasterskiej dach kościoła pokryto blachą, zakupiono wiele paramentów religijnych oraz 1 hektar ziemi na powiększenie cmentarza i zakończono budowę domu dla organisty.
Jako mądry kapłan okazał się dobrym gospodarzem i energicznym organizatorem życia religijnego w Czartowcu i Wożuczynie, co podkreślali parafianie w listach chwalebnych, pisanych do biskupa lubelskiego.
W marcu 1939 r. został powołany na kapelana rezerwy duszpasterskiej Wojska Polskiego ze starszeństwem z dnia 1.01.1939 r. w stopniu kapitana, z obowiązkiem stawienia się do wyznaczonej jednostki wojskowej w przypadku wybuchu wojny.
Na początku września 1939 r. po agresji wojsk niemieckich na Polskę, ksiądz Czemerajda otrzymawszy kartę mobilizacyjną pożegnał się z parafianami i pojechał do wojska, ale nie wiadomo gdzie był skierowany do służby religijnej dla żołnierzy na froncie. W dniu pożegnania odprawił mszę świętą w kościele w Czartowcu, w której uczestniczyło bardzo dużo wiernych. Po mszy chłopi wyprzęgli konie i na ramionach nieśli bryczkę z księdzem Czemerajdą do głównej drogi, a za nimi szła procesja zapłakanych ludzi, którzy jak później mówiono, mieli przeczucie że ostatni raz widzą kochanego księdza proboszcza.
Po kampanii wrześniowej ksiądz Józef Czemerajda dostał się do sowieckiej niewoli w okolicznościach nieznanych i przez jakiś czas był w podobozie w Szepietówce, a stamtąd został odesłany przez NKWD do oficerskiego obozu w Starobielsku, gdzie zapisany był w ewidencji jeńców jako „ksiądz, kapelan rezerwy, kapitan”. Ale jego nazwisko przekręcono i jako „Czmyrajda” figuruje na Katyńskiej Liście Wywozowej z obozu w Starobielsku, sporządzonej w 1940 r. przez komendanta tego obozu, pod numerem 3678. W maju 1940 r. został wywieziony do więzienia NKWD w Charkowie i tam zamordowany.
Biogram ks. Józefa Czemerajdy zamieszczono na stronie 80 w Polskiej Księdze Cmentarnej Charków, ale przez pomyłkę napisano, że miał stopień porucznika, co spowodowało, że w październiku 2007 r. w ramach akcji Katyń pamiętamy – uczcijmy pamięć bohaterów powielono tę pomyłkę i został mianowany na stopień kapitana, taki sam jaki otrzymał w 1939 r. jako kapelan rezerwy.
W grudniu 2009 r. był zgłoszony w grupie 24 księży kapelanów pomordowanych w 1940 r. w Katyniu, Charkowie i Twerze na kandydata do procesu beatyfikacyjnego męczenników wschodu (1918-1989) z okresu drugiej wojny światowej.
Dla jego pamięci posadzono Dąb Katyński w Chełmie Lubelskim oraz w Alei 33 Dębów Pamięci Kapelanów Katyńskich w Kalwarii Pacławskiej. Upamiętniony jest na tablicach memorialnych: w kościele w Czartowcu i Chełmie Lub., w katedrze WP w Warszawie oraz na tablicach 33 kapelanów katyńskich w Sanktuariach: w Kalwarii Pacławskiej na Podkarpaciu, Wąwolnicy na Lubelszczyźnie, Grodowcu na Dolnym Śląsku i na szczycie Św. Krzyż w Górach Świętokrzyskich.