Dzimis šļahtas izcelsmes zemnieku ģimenē. Bērnībā iemācījās arī poļu un krievu valodu. 1853. gadā pēc skolas beigšanas strādāja par rakstvedi vairākās pilsētās, kur iepazinās ar dzejnieci Karolīnu Praņevsku, kura iedrošināja Baranausku rakstīt arī lietuviski. 1856. gadā iestājās garīgajā seminārā Varņos. Šeit mācoties, sāka lietuviešu valodas pētīšanu, kā arī rakstīt dzeju lietuviski un radīja klasisko dzejoli "Anīkšču sils" (Anykščių šilelis). Leģenda vēsta, ka Baranauks sarakstīja dzejoli, sadusmojoties uz pasniedzēju, kurš apgalvojis, ka lietuviešu valoda ir pārāk primitīva, lai tajā varētu rakstīt dzeju.
No 1858. līdz 1862. gadam studēja teoloģijuSanktpēterburgas Garīgajā akadēmijā, vēlāk papildinājās vairākās Eiropas katoļu universitātēs. No 1871. gada pasniedza lietuviešu valodu Kauņas katoļu seminārā. 1897. gadā tika norīkots par Sejnubīskapu, kur mira un apglabāts. Dzīves pēdējā periodā idejiski pieslējās Krajovcu (Krajowcy) kustībai, tāpēc tika nelabvēlīgi uzlūkots gan no poļu, gan lietuviešu nacionālistiem.
Baranausks ir viens no redzamākajiem darbiniekiem, kas pavēra iespēju lietuviešu valodas publiskā atdzimšanā, jo līdz tam publiskā sfērā Lietuvā dominēja poļu un krievu valoda. Maironis kādā lekcijā teicis — „bez viņa, iespējams, nebūtu arī mūs”.