Urodzony 25 października 1903 roku w Rożdżałowie w powiecie chełmskim. Syn rolników, Mikołaja i Konstancji z domu Dżaman. W 1917 roku podjął naukę w prywatnym gimnazjum w Chełmie Lubelskim, które w wolnej Polsce zostało upaństwowione i przyjęło nazwę Państwowe Gimnazjum Koedukacyjne im. Stefana Czarnieckiego. Klasę VII i VIII ukończył w Liceum Biskupim Męskim w Lublinie. We wrześniu 1925 roku wstąpił do Seminarium Duchownego w Lublinie. 22 czerwca 1930 roku w katedrze lubelskiej przyjął święcenia kapłańskie. 2 października 1930 roku rozpoczął pracę duszpasterską jako wikariusz w parafii pw. Nawiedzenia Najświętszej Maryi Panny w Wożuczynie w dekanacie tyszowieckim. Prowadził w parafii sprawy gospodarcze. W ciężkich warunkach kryzysu ekonomicznego lat trzydziestych wraz z parafianami odrestaurował główny ołtarz w kościele parafialnym i wybudował organistówkę.
Mimo ubóstwa parafian umiał wzbudzić w nich chęć do solidarnego wysiłku, dzięki czemu w Wożuczynie wybudowano szkołę i sklep spółdzielczy. 21 czerwca 1935 roku objął wikariat w parafii pw. Świętych Apostołów Piotra i Pawła w Częstoborowicach należących do dekanatu Krasnystaw. 20 września 1935 roku został wikariuszem w parafii pw. Świętego Mikołaja w Zakrzówku w dekanacie kraśnickim.
5 grudnia 1935 roku został mianowany proboszczem parafii pw. Przemienienia Pańskiego w Czartowcu w dekanacie tomaszowskim. Stało się to na prośbę wiernych tej parafii, którzy po śmierci zmarłego przedwcześnie proboszcza, ks. Walentego Machonia, zwrócili się do biskupa lubelskiego Mariana Fulmana o wyznaczenie na jego miejsce ks. Czemerajdy, którego znali dobrze z pięcioletniej pracy duszpasterskiej w sąsiednim Wożuczynie. Już po pół roku, 5 lipca 1936 roku, parafianie czartowcy wysłali list dziękczynny do Kurii Biskupiej, w którym o swoim nowym proboszczu napisali:
W 1935 r. zwróciliśmy się z gorącą prośbą do Waszej Eminencji jako dzieci Ojca, by raczył nam łaskawie przydzielić dobrze znanego i całym sercem ukochanego przewielebnego księdza Józefa Czemerajdę, byłego pasterza z parafii Wożuczyn. Znany był nam wszystkim nie tylko ze swej cichej, szlachetnej, pełnej dobroci i poświęcenia pracy kapłańskiej, lecz także jako najlepszy gospodarz, pełen zapału i energii, kroczący w tak ciężkich i krytycznych warunkach gospodarczych i materialnych. Widzieliśmy go wszędzie. Widzieliśmy go na czele wieśniaczego ludu i inteligencji, przodując w pracy z niespodziewanym i nadzwyczajnym wysiłkiem wybudował organistówkę w Wożuczynie, która może służyć za wzór jako jedna z najpiękniejszych w powiecie tomaszowskim. Jego to wyczyn i zasługa, iż Wożuczyn posiada dwa budynki społeczne, w których mieści się szkoła i sklep spółdzielczy. Jego to myśl przewodnia, iż ołtarz wożuczyński znajdujący się w opłakanym stanie, postanowiono odrestaurować i doprowadzić do godnego stanu.
Ksiądz Czemerajda okazał się gorliwym duszpasterzem i dobrym gospodarzem. Mimo ubóstwa swoich parafian, dokonał remontu znajdującej się w opłakanym stanie pounickiej świątyni. Dach kościoła pokryto blachą. Dokończono budowę organistówki. Zakupiono hektar ziemi na powiększenie cmentarza. 28 kwietnia 1939 roku zarządzeniem Prezydenta RP Ignacego Mościckiego został mianowany kapelanem rezerwy (ze starszeństwem z 1 stycznia 1939 roku).
W sierpniu lub wrześniu 1939 roku został zmobilizowany do Wojska Polskiego. Bolesław Cisło w opracowaniu Czartowiec i okolice opisał jego wyjazd z parafii: Pamiętam odjazd ks. Józefa Czemerajdy z Czartowca do punktu zbornego. Po mszy ks. Józef pożegnał się z tłumem wiernych, którzy szlochali i płakali. Była to manifestacja smutna. Ksiądz proboszcz posadzony na bryczce po sprytnym wyprzęgnięciu koni przez wiernych, niesiony był wraz z bryczką aż do głównej drogi, a z tyłu szedł tłum i płakał. Tak parafianie żegnali swojego proboszcza. Jakby przeczuwali, że widzą go ostatni raz.
Nie jest znana jednostka do której otrzymał przydział. Po 17 września 1939 roku w nieznanych okolicznościach dostał się do niewoli sowieckiej. Osadzono go w punkcie zdawczo-odbiorczym NKWD w Szepietówce, skąd w listopadzie 1939 roku został odesłany do obozu specjalnego NKWD w Starobielsku. Prawdopodobnie nie został wywieziony z obozu przed Wigilią Bożego Narodzenia 1939 roku, tak jak inni kapelani, co może świadczyć o tym, że udało mu się ukryć przed funkcjonariuszami NKWD swój stan kapłański.
Między 5 kwietnia a 12 maja 1940 roku, na podstawie wykazu NKWD sporządzonego w Moskwie, został przekazany do dyspozycji naczelnika Zarządu NKWD Obwodu Charkowskiego. Jego nazwisko figuruje w wykazie akt ewidencyjnych jeńców wojennych, którzy opuścili obóz w Starobielsku, pozycja 3678. Został zamordowany przez funkcjonariuszy NKWD w budynku Obwodowego Zarządu NKWD w Charkowie. Ciało kapłana oprawcy wrzucili do dołu śmierci w Piatichatkach pod Charkowem – obecnie Polski Cmentarz Wojenny w Charkowie.
Decyzją numer 439/MON z dnia 5 października 2007 roku minister obrony narodowej Aleksander Szczygło awansował go pośmiertnie na stopień kapitana. Awans ogłoszono 9 listopada 2007 roku w trakcie uroczystości „Katyń Pamiętamy – Uczcijmy Pamięć Bohaterów”. W jego awansie nastąpiła pomyłka. Powinien otrzymać awans na stopień majora, ponieważ stopień kapitana posiadał od 28 kwietnia 1939 roku.
17 grudnia 2009 roku został zgłoszony przez Rodzinę Katyńską w Warszawie razem z 23 kapelanami Wojska Polskiego, jako kandydat do procesu beatyfikacyjnego Męczenników Wschodu (1917–1989).
Bogusław Szwedo, Wierni do końca. Kapelani wojskowi ofiary Zbrodni Katyńskiej, Warszawa 2020, s.34.
