Rakstos pirmoreiz minēta 1654. gadā kā Lietuvas Lielkņazistē ietilpstoša apdzīvotā vieta. Pievienota Krievijas Impērijai pēc Polijas otrās dalīšanas 1793. gadā. No 1919. gada - KPFSR, no 1924. gada Baltkrievijas PSR sastāvā. 1925. gadā tai tika piešķirtas pilsētas tiesības. Otrā pasaules kara laikā no 1941. gada 3. jūlija līdz 13. jūlijam un no 1941. gada 14. augusta līdz 1944. gada 26. jūnijam Žlobina atradās vācu okupācijā. 1984. gadā Žlobinā rietumu kompānijas uzbūvēja lielu metalurģisko kombinātu, kas mūsdienās ir pilsētas ekonomikas pamats. 1991. gadā, sabrūkot PSRS, Žlobina kļuva par neatkarīgās Baltkrievijas pilsētu.