Dzimis 1765. gada 15. (pēc vecā stila — 3.) oktobrī Sanktpēterburgā. Mācījās Akadēmiskajā ģimnāzijā (Sanktpēterburgā), pēc tam — Getingenes Universitātē. Pēc atgriešanās Krievijā 1790. gadā kļuva par Pēterburgas Zinātņu akadēmijasadjunktu, 1798. gadā — par tās akadēmiķi vispārīgās ķīmijas jomā. Vēl Zaharovs bija Krievijas Akadēmijas (tā bija valodniecības iestāde) loceklis un veidoja amatniecības un rokdarbu vārdnīcu. 1804. gada 12. jūlijā (30. jūnijā) Pēterburgas Zinātņu akadēmija sarīkoja gaisa balona lidojumu no Pēterburgas līdz Gatčinai, tajā piedalījās Zaharovs un Etjēns Gaspārs Robērs. Nomira 1836. gada 14. (2.) oktobrī Pēterburgā.
