Urodził się w dniu 12 stycznia 1902 w Żubardziu (obecnie dzielnica Łodzi) jako syn Stanisława i Marianny Bienieckiej (rodzice związek małżeński zawarli 10 listopada 1895 w Szłapach parafii Siedlec). Ochrzczony został w łódzkiej parafii pw. Wniebowzięcia Najświętszej Maryi Panny. Jego rodzeństwem byli: Michał (ur. 1896), Stefan (ur. 1898), Marianna (ur. 1900), Feliks (ur. i zm. 1904) i Walenty (ur. 1905).
W okresie Dwudziestolecia, po odbyciu zasadniczej służby wojskowej, obrał karierę podoficera zawodowego w Wojsku Polskim, a jego jednostką macierzystą został 14 pułk piechoty z Włocławka.
W dniu 29 lipca 1929 we włocławskiej parafii wojskowej pw. św. Michała plutonowy Józef Chmielecki zawarł związek małżeński z 21-letnią panną Janiną Urbańską (ur. w 1908 we Włocławku), córką Stanisława i Stanisławy Matzanke. Ich świadkami byli podoficerowie 14 pp – st. sierż. Michał Defée i sierż. Feliks Janecki. Sakramentu małżeństwa udzielił proboszcz parafii wojskowej ks. kpt. Antoni Kosiba, a zgodę panu młodemu na ślub wydał dowódca 14 pułku piechoty w dniu 19 lipca 1929. W dniu 13 listopada 1929 przyszła we Włocławku na świat ich córka Jadwiga Teresa, której ojcem chrzestnym został plutonowy 14 pp Zygmunt Sarnowski.
Mocą Rozkazu Organizacyjnego Nr 1 Dowództwa 14 pułku piechoty z 16 września 1930 plutonowy Józef Chmielecki przydzielony został na stanowisko instruktora w szkolnej kompanii karabinów maszynowych, którą dowodził wówczas kpt. Mieczysław Sanak (kompania ta wchodziła w skład batalionu szkolnego dowodzonego przez mjr. dypl. Leona Bączkiewicza).
Rozkaz organizacyjny Nr 1 z dnia 1 kwietnia 1932 przydzielił go do 3. kompanii ckm, a rozkaz organizacyjny Nr 3 z 1 września 1933 nadał plut. Chmieleckiemu przydział do 1. kompanii ckm. W listopadzie 1938 nadal służył czynnie w 14 pułku piechoty – w randze plutonowego.
Dalsze losy Józefa Chmieleckiego pozostają nieznane. Być może poległ jako żołnierz 14 pułku piechoty w dniu 11 września 1939 pod Walewicami i spoczywa na cmentarzu w Bielawach (aczkolwiek poległy tam żołnierz wykazywany jako w stopniu strzelca 14 pp).
