Jāzeps Rancāns dzimis 1886. gada 25. oktobrī Ludzas apriņķaZaļmuižas pagasta Lūziniekos (tagad Nautrēnu pagasts). Mācījies no 1900. līdz 1902. gadam Ludzas apriņķa skolā, kuru beidzis ar izcilību. 1902. gadā devies uz Pēterpili, kur sagatavojies abitūrijai Kronštates ģimnāzijā, ko beidza kā eksterns. No 1904. līdz 1908. gadam mācījies Pēterpils Garīgajā seminārā, pēc kura beigšanas kā stipendiāts uzņemts Garīgajā akadēmijā, ko beidzis 1911. gadā ar teoloģijas maģistra grādu. 1911. gada 31. maijā arhibīskaps Vincents Kļučinskis Pēterpils Jaunavas Marijas prokatedrāles baznīcā Rancānu iesvētīja par priesteri. Līdz Latvijas neatkarības proklamēšanai strādājis Pēterburgā. 1918. gadā Mogiļevas arhibīskapa uzdevumā vairākas reizes ieradies vācu okupētajā Latgalē, lai Aglonā organizētu Garīgo semināru. Tautas padomes loceklis. 1919. gadā devies pie pāvesta Benedikta XV, lai panāktu Latvijas neatkarības atzīšanu.[2] No 1919. līdz 1920. gadam bijis Latvijas valdības pārstāvis pie pāvestaRomā. Ilgus gadus bijis Garīgā semināra un Teoloģijas augstskolas profesors un rektors (1920—1938). 1922. gadā Jāzepu Rancānu ievēlēja Saeimā, kuras pārstāvis bijis līdz 1934. gada 15. maijam. 1923. gada 24. oktobrī kļuvis pāvesta prelāts. 1924. gada 4. maijā Rīgas Svētā Jēkaba katedrālē konsekrēts par bīskapu, kļūdams par Rīgas arhibīskapa palīgbīskapu sufraganu un Markopoles titulārbīskapu. Bīskapu konsekrēja Svētā Krēsla apustuliskais delegāts arhibīskaps Antonins Cekīni, asistējot Viļņas bīskapam Jurim Matulēvičam un Mogiļevas arhibīskapam Eduardam de Roppam. Vairākas reizes arhibīskapa uzdevumā 1928., 1933. un 1938. gadā devies uz Romu ar ziņojumiem pāvestam. No 1938. gada stādājis Latvijas Universitātes Teoloģijas fakultātē, kur bijis profesors un dekāns.
1944. gada 9. septembrī, Gestapo spiests, kopā ar citiem Latvijas bīskapiem devās uz Vāciju, kur apmeties Bavārijā, kapucīnuklosterīBurghauzenā. Beidzoties karam, devies uz Romu pie pāvesta Pija XII, kuram ziņojis par latviešu bēgļu un karagūstekņu likteni. Latviešu tautas tiesības aizstāvējis, apmeklējot prominentus EiropasBaznīcas vadītājus, valstsvīrus , sabiedroto okupācijas armiju virspavēlniecības. Bīskapam ir lieli nopelni karagūstekņu atbrīvošanā.[3] Būdams Francijā, Beļģijā, Šveicē, Holandē, Itālijā, Īrijā un Anglijā, informējis par latviešu un Latvijas likteni.[4] 1946. gada 10. jūnijā bijis vizītē pie pāvesta un Parīzes Miera konferencē, apmeklējot arī ANO Ģenerālo asambleju. II Vatikāna koncila laikā, 1964. gadā rūpējies par bīskapa iecelšanu un konsekrāciju Latvijas Baznīcai, kā rezultātā Rīgas ģenerālvikāru prelātu Julijanu Vaivodu pāvests Pāvils VI iecēla par bīskapu. Neskatoties uz to, ka bīskaps atradās trimdā, turpināja būt Rīgas arhidiecēzes sēdekļa palīgbīskaps, tas ir, ad sedes, pilntiesīgs bīskaps arī laikā, kad Latvijā nebija ne arhibīskapa, ne apustuliskā administratora. Pāvests izrādīja labvēlību Latvijas Baznīcai, tāpēc bīskaps vienmēr bijis visas pasaules bīskapu un Romas kūrijas amatpersonu sarakstā jeb Annuario Pontificio. 1949. gada 8. maijā Vācijā Altetingā bija bīskapa 25 gadu konsekrācijas jubilejas dievkalpojums. Vēlāk bīskaps pārcēlās uz dzīvi ASV, kur divdesmit gadus pildījis kapelāna pienākumus Karmela māsu klostera veco ļaužu mītnē Grandrepidsā. 1969. gada 16. novembrī bīskapam pasniedza Eizenhauera Apspiesto nāciju piemiņas raksts un medaļa. Jāzeps Rancāns miris 1969. gada 2. decembrī. Sēru Svētā Mise notika Grandrapidsas Svētā Andreja katedrālē, celebrējot Marketas diecēzes bīskapam Šarlam Galatkai, asistējot lietuviešu bīskapam U. Brizgim, Grandrapidu palīgbīskapam Jāzepam Makkinejam, kā arī piedaloties visiem latviešu priesteriem un vairāk kā 100 dominikāņu priesteriem. Jāzepu Rancānu apbedīja Grandrepidsas Augšāmcelšanās kapsētas bīskapu nodalījumā.[5] Atgūstot Latvijai neatkarību, 1995. gadā bīskapa mirstīgās atliekas ekshumēja un pārveda uz Latviju, pirms tam 24. maijā no bīskapa atvadoties Grandrapidsas Arsuloviča bēru kapelā. 1995. gada 31. maijā mirstīgās atliekas tika atvestas uz Rīgu. Pārapbedīšanas ceremonija sākās 3. jūnijā Rīgas Svētā Jēkaba katedrālē, turpinājās pie Saeimas nama un noslēdzās Aglonas bazilikā, kur šķirsts tika novietots bazilikas kriptā līdzās bīskapam Boļeslavam Sloskānam un Julijanam Vaivodam.[6] Bijis latviešu studentu korporācijasLacuania biedrs.