Otrā pasaules kara laikā 1943. gadā darbojās Ģenerālštāba akadēmijā Maskavā, no 1944. gada aprīļa komandēja 182. strēlnieku divīziju, no 7. jūlija 43. gvardes latviešu strēlnieku divīziju. 1944. gada 13. septembrī paaugstināts par ģenerālmajoru.
Pēc kara A. Kalniņš no 1946. līdz 1951. gadam bija Latvijas PSR kara komisārs.