1585. gadā tagadējās pilsētas vietā pēc Stefana Batorija rīkojuma tika uzcelts cietoksnis, kuru nodēvēja par godu Zamojsku dzimtas dibinātājam Florianam Šari (Florian Szary). 1588. gadā Sigismunds III Vāsa piešķīra Šarhorodai (Szarogród) Magdeburgas tiesības un ģerboni. No 1672. līdz 1699. gadam pilsēta bija turku varā un tika dēvēta par Mazo Stambulu. 19. gadsimtā pilsēta izveidojās par hasīdisma centru. 1923. gadā Šarhoroda kļūst par rajona centru. 1986. gadā tai piešķirts pilsētas statuss.