Apdzīvotā vieta vēstures avotos pirmoreiz minēta Pečeru paterikā, kas datēts starp 1074. un 1088. gadu. Minēta arī 1144. gadā, kad kņazs Vsevolods Oļgovičs dibinājis Svētā Jura baznīcu. 12. gadsimtā bijusi ievērojama apdzīvota vieta, kalpojusi kā Kijivas kņazu un polovciešu sūtņu oficiālā tikšanās vieta. Pilsēta vairākkārt nopostīta. 1320. gadā Kaņivu ieņēma lietuviešu kņazs Ģedimins un no 1362. gada tā bija Lietuvas Lielkņazistes pakļautībā. 16. gadsimtā Kaņiva kļuva par savdabīgu kazaku svētvietu, kur netālu no klostera apmetās tie Zaporožjes kazaki, kas vairs nevarēja piedalīties kaujās. 1601. gadā Kaņivai piešķīra Magdeburgas tiesības. 1667. gadā Kaņiva nonāca Polijas sastāvā, bet no 1672. gada — Turcijas valdījumā. 1793. gadā, pēc Polijas otrās dalīšanas, Kaņiva nonāca Krievijas Impērijas sastāvā. Strauja pilsētas industriālā attīstība sākās 1964. gadā sakarā ar Kaņivas HES būvniecību. Mūsdienās pārtikas rūpniecības un enerģētikas centrs. Četrus kilometrus no pilsētas centra atrodas Ševčenko nacionālais rezervāts, kur 1861. gadā apglabāts ukraiņu dzejnieks Tarass Ševčenko.[2]