Jānis Šmits beidzis Rīgas 8. vidusskolu.[1] 1997. gadā absolvējis Latvijas UniversitātesTeoloģijas fakultāti. Kalpojis kā luterāņu mācītājs vairākās Latvijas evaņģēliski luteriskajās draudzēs. No 1994. līdz 1996. gadam bija viens no atjaunoto Latvijas Republikas Aizsardzības Spēku militārkapelāniem. No 1997. līdz 2004. gadam bija Luterisma Mantojuma fonda prezidents. Pazīstams ar savu konservatīvo nostāju tradicionālo kristīgo vērtību aizsardzībā[2] un homoseksualitātes kritiku.[3]
2002. gadā J. Šmits bija viens no Latvijas Pirmās partijas dibināšanas iniciatoriem.[4] Pēc partijas dibināšanas viņš ir bijis LPP valdes loceklis, Ministru prezidenta biedra Aināra Šlesera padomnieks reliģiskajos jautājumos, kā arī Garīgo lietu padomes sekretārs.[5] Aktīvi iesaistījies un veicinājis valsts un baznīcas attiecību regulējošo normatīvo aktu sakārtošanu.[6] 2002. gadā nesekmīgi kandidēja 8. Saeimas vēlēšanās no LPP saraksta, taču iekļuva 8. Saeimā 2004. gadā, ieņemot Ērika Jēkabsona vietu. 8. Saeimā bijis tās sekretārs un Nacionālās drošības komisijas priekšsēdētājs.[7] No 2005. līdz 2006. gadam bijis arī LPP Saeimas frakcijas priekšsēdētājs.[8][9] Sasaukuma laikā 2005. gadā uz īsu brīdi vēlreiz zaudēja mandātu, bet ieņēma Dzintara Jaundžeikara vietu Saeimā.
2006. gadā J. Šmits nesekmīgi kandidēja 9. Saeimas vēlēšanās no LPP un "Latvijas Ceļa" apvienības, bet ieņēma vietu 9. SaeimāOskara Kastēna vietā. Ievēlēts par tās Cilvēktiesību un sabiedrisko lietu komisijas priekšsēdētāju. J. Šmita ievēlēšana komisijas vadītāja amatā izraisīja virknes liberālo organizāciju kritiku.[10] 2009. gada 15. janvārī zaudēja deputāta mandātu līdz ar mandāta atjaunošanu O. Kastēnam, kura vadītā īpašu uzdevumu ministrija tika likvidēta.[11][12]