Apdzīvotā vieta tagadējās Čuhujivas vietā pastāvēja jau 13. gadsimtā un piederēja Perejaslavļas un Čerņihivas kņazistēm. Nosaukums, domājams, cēlies vai nu no austrumu vīriešu ceļojumu tērpa «čuga», vai no tjurku «čugune» — pierobeža.[2]
1638. gadā senpilsētas vietā uzbūvēja nocietinājumu, pie kura vēlāk izauga apmetne. 1765. gadā Čuhujiva kļuva par Belgorodas guberņas apriņķa centru, bet 1780. gadā tai piešķīra pilsētas statusu. Tā attīstījās kā kazaku karaspēka apmetne, kurā bija karaskola. Pēc 1857. gada Čuhujiva zaudēja savu nozīmi un apriņķa pilsētas statusu. Sāka attīstīties rūpniecība un 1938. gadā Čuhujivai atkārtoti piešķīra pilsētas tiesības.