13. gadsimtā dāņi Narvas upes šķērsošanas vietā uzcēla koka pili, ap kuru sāka veidoties Narvas pilsēta, kas 14. gadsimtā ieguva Lībekas tiesības. 14. gadsimta sākumā tika sākta mūra pils celtniecība. 1347. gadā Dānijas karalis Valdemārs IV pārdeva Dāņu Igauniju, arī Narvas pili, Livonijas ordenim. 1492. gadā iepretim Narvas pilij pēc Ivana III rīkojuma tika sākt celt Ivangorodas pils. 1558. gadā, Livonijas kara sākumā, pili ieņēma Krievijas karaspēks. Krievi pili kontrolēja līdz 1581. gadam, kad to ieņēma zviedri Pontusa de la Gardi vadībā. 17. gadsimta beigās pils nocietinajumi tika pārbūvēti pēc Ērika Dālberga plāna. Ziemeļu kara laikā 1700. gadā krievi aplenca Narvas pili, tomēr Narvas kaujas rezultātā tika sakauti. 1704. gadā krieviem Pētera I vadībā izdevās pili ieņemt. Igaunijai iekļaujoties Krievijas sastāvā, pils savu militāro nozīmi pamazām zaudēja. 1863. gadā ap pili sāka ierīkot parku. Pils, tāpat kā Narvas pilsēta, cieta Otrā pasaules kara kauju laikā, tomēr no 1950. gada tika restaurēta.