Urodził się w dniu 5 lipca 1900 we wsi Ujezna parafii Przeworsk jako syn Jana (rolnika z Woli Buchowskiej) i Marii z domu Bartnik.
Uczestnik wojny polsko-bolszewickiej w szeregach 14 pułku piechoty. Po zakończeniu działań wojennych obrał karierę podoficera zawodowego i nadal pełnił służbę w 14 pułku piechoty, dyslokowanym w 1921 do Włocławka.
W dniu 23 kwietnia 1922 we włocławskiej parafii rzymskokatolickiej pw. Św. Jana kapral Józef Cebulak zawarł związek małżeński z panną Franciszką Sawicką (ur. 15 stycznia 1903 we wsi Piotrów parafii Białotarsk, zm. 4 marca 1971 we Włocławku), córką Andrzeja i Teofili Pniewskiej. Ich świadkami byli kaprale 14 pp – Franciszek Stybel i Antoni Jakubas. Zgodę nowo zaślubionemu na zawarcie małżeństwa wydało Dowództwo 4 Dywizji Piechoty w dniu 27 marca 1922.
Na dzień 3 grudnia 1922 Józef Cebulak posiadał już rangę plutonowego. W tym samym stopniu został odnotowany (jako podoficer 14 pp) w dniu 15 stycznia 1926. Następnie awansowany do rangi sierżanta – stopień ten posiadał na dzień 22 lipca 1928.
Rozkazem organizacyjnym Nr 1 Dowództwa 14 pułku piechoty z dnia 1 kwietnia 1932 sierżant zawodowy Józef Cebulak otrzymał przydział służbowy do 5. kompanii strzeleckiej, natomiast mocą rozkazu organizacyjnego Nr 3 z 1 września 1933 został przydzielony do 7. kompanii strzeleckiej włocławskiego pułku.
W okresie powojennym zatrudniony był jako magazynier.
Józef Cebulak zmarł 13 grudnia 1954 we włocławskim szpitalu i spoczywa na włocławskim cmentarzu komunalnym – sektor: 25, rząd: 4, grób: 65.
Ze związku Józefa i Franciszki narodzili się synowie: Stefan Henryk (ur. 19 listopada 1922 we Włocławku, zm. 21 stycznia 1983 tamże), Zbigniew Mieczysław (ur. 1 stycznia 1926 we Włocławku, zm. 25 listopada 1985 tamże) i Zenon (ur. 2 lipca 1928 we Włocławku, zm. 27 kwietnia 1932 tamże) – jego ojcem chrzestnym został st. sierż. 14 pp Józef Olszański.