Dzimis 1886. gada 25. oktobrī Ludzas apriņķaZaļmuižas pagasta Lūziniekos. Mācījās Ludzas apriņķa skolā (1900-1902). 1902. gadā devās uz Pēterpili, kur sagatavojās abitūrijai Kronštates ģimnāzijā, ko beidza kā eksterns. No 1904. līdz 1908. gadam mācījās Pēterpils Garīgajā seminārā, pēc kura beigšanas kā stipendiāts uzņemts Garīgajā akadēmijā, ko beidza 1911. gadā ar teoloģijas maģistra grādu. 1911. gada 31. maijā arhibīskaps Vincents Kļučinskis Pēterpils Jaunavas Marijas prokatedrāles baznīcā Rancānu iesvētīja par priesteri. 1918. gadā Mogiļevas arhibīskapa uzdevumā vairākas reizes ieradās vācu okupētajā Latgalē, lai Aglonā organizētu Garīgo semināru. Tautas padomes loceklis. 1919. gadā devās pie pāvesta Benedikta XV, lai panāktu Latvijas neatkarības atzīšanu.[2] No 1919. līdz 1920. gadam bija Latvijas valdības pārstāvis pie pāvestaRomā. Ilgus gadus bijis Rīgas Garīgā semināra profesors un rektors (1920—1938). 1922. gadā Jāzepu Rancānu ievēlēja Saeimā, 1923. gada 24. oktobrī kļuva par pāvesta prelātu. 1924. gada 4. maijā Rīgas Svētā Jēkaba katedrālē konsekrēts par bīskapu, kļūdams par Rīgas arhibīskapa palīgbīskapu sufraganu un Markopoles titulārbīskapu. Bīskapu konsekrēja Svētā Krēsla apustuliskais delegāts arhibīskaps Antonins Cekīni, asistējot Viļņas bīskapam Jurim Matulēvičam un Mogiļevas arhibīskapam Eduardam de Roppam. Vairākas reizes arhibīskapa uzdevumā 1928., 1933. un 1938. gadā devies uz Romu ar ziņojumiem pāvestam. No 1938. gada bija Latvijas UniversitātesLU Romas Katoļu Teoloģijas fakultātes dekāns. Bija latviešu studentu korporācijasLacuania biedrs.
Ogtrā pasaules kara laikā 1944. gada 9. septembrī devās bēgļu gaitās uz Vāciju, apmetās kapucīnuklosterīBurghauzenāBavārijā. Beidzoties karam, devies uz Romu pie pāvesta Pija XII, kuram ziņoja par latviešu bēgļu un karagūstekņu likteni, apmeklēja prominentus EiropasBaznīcas vadītājus, valstsvīrus, sabiedroto okupācijas armiju virspavēlniecības. Bīskapam bija lieli nopelni latviešu karagūstekņu atbrīvošanā.[3] Būdams Francijā, Beļģijā, Šveicē, Holandē, Itālijā, Īrijā un Anglijā, informēja par latviešu un Latvijas likteni.[4]
1946. gada 10. jūnijā bīskaps Rancāns bija vizītē pie Romas pāvesta un Parīzes Miera konferencē, apmeklējot arī ANO Ģenerālo asambleju. 1947. gadā viņš kļuva par Latvijas Valsts prezidenta vietas izpildītāju. 1964. gadā II Vatikāna koncila laikā panāca Rīgas ģenerālvikāra prelāta Julijana Vaivoda iecelšanu par bīskapu. Viņš turpināja būt Rīgas arhidiecēzes sēdekļa palīgbīskaps ad sedes, pilntiesīgs bīskaps arī laikā, kad Latvijā nebija ne arhibīskapa, ne apustuliskā administratora. Pāvests izrādīja labvēlību Latvijas Baznīcai, tāpēc bīskaps vienmēr bijis visas pasaules bīskapu un Romas kūrijas amatpersonu sarakstā Annuario Pontificio. 1949. gada 8. maijā Vācijā Altetingā bija bīskapa 25 gadu konsekrācijas jubilejas dievkalpojums, drīz vien viņš pārcēlās uz dzīvi ASV, kur divdesmit gadus pildīja kapelāna pienākumus Karmela māsu klostera veco ļaužu mītnē Grandrepidsā. 1969. gada 16. novembrī J. Rancānam pasniedza Eizenhauera Apspiesto nāciju piemiņas rakstu un medaļu.
Miris 1969. gada 2. decembrī, sēru Svētā Mise notika Grandrapidsas Svētā Andreja katedrālē, celebrējot Marketas diecēzes bīskapam Šarlam Galatkai, asistējot lietuviešu bīskapam U. Brizgim, Grandrapidu palīgbīskapam Jāzepam Makkinejam, kā arī piedaloties visiem latviešu priesteriem un vairāk kā 100 dominikāņu priesteriem. Jāzepu Rancānu apbedīja Grandrepidsas Augšāmcelšanās kapsētas bīskapu nodalījumā.[5] Atgūstot Latvijai neatkarību, 1995. gada 31. maijā viņa mirstīgās atliekas atveda uz Rīgu. Pārapbedīšanas ceremonija sākās 3. jūnijā Rīgas Svētā Jēkaba katedrālē, turpinājās pie Saeimas nama un noslēdzās Aglonas bazilikā, kur šķirstu novietoja bazilikas kriptā līdzās bīskapam Boļeslavam Sloskānam un Julijanam Vaivodam.[6]
Latvija
Zaļmuižas pagasts, Ludzas apriņķis, Vitebskas guberņa, Krievijas impērija
Grandrepidsa, Mičigana, ASV
