Kosovas Olimpiskā komiteja tika oficiāli izveidota 1992. gadā.[1]Apvienoto Nāciju vadītā Kosovas administrācija vispirms izveidoja darba grupu sadarbībai ar SOK, lai sportisti varētu piedalīties olimpiskajās spēlēs. Kosovas statusa dēļ tās sportistiem neļāva piedalīties sacensībās ar Kosovas karogu līdz atzīšanai 2014. gadā. Tāpēc 2012. gada vasaras olimpiskajās spēlēs pasaules čempionei Kosovas džudistei Majlindai Kelmendi nācās pārstāvēt Albāniju. Kosovas etnisko serbu sportisti sacensībās piedalījās Serbijas un Melnkalnes, vēlāk Serbijas sastāvā.
2013. gada aprīlī starp Serbijas un Kosovas valdībām tika noslēgts Briseles nolīgums. Starptautiskā Olimpiskā komiteja 2014. gada oktobrī provizoriski atzina Kosovas Olimpisko komiteju un 2014. gada 9. decembrī tai piešķīra pilntiesīgu dalību.[2][3] Tajā laikā Kosova nebija Apvienoto Nāciju Organizācijas locekle vai novērotāja, bet 112 no 193 ANO dalībvalstīm to bija atzinušas par suverēnu valsti. Kosova pirmo reizi piedalījās 2016. gada vasaras olimpiskajās spēlēsRiodežaneiro,[4] kur ieguva savu pirmo olimpisko zelta medaļu. Medaļu ieguva džudiste Majlinda Kelmendi kategorijā līdz 52 kg.
No 1920. — 1992. gadam (VOS) Kosovas sportisti startēja Dienvidslāvijas sastāvā • 1992. gada ZOS Kosovas sportisti startēja kā Neatkarīgie olimpiskie dalībnieki • No 1996. — 2006. gadam Kosovas sportisti startēja Serbijas un Melnkalnes sastāvā • No 2008. — 2012. gadam Kosovas sportisti startēja Serbijas sastāvā.