Otrā pasaules kara laikā tika izlaupīta Rubinšteina māja Parīzē un viņa darbība koncentrējās ASV. 1946. gadā kļuva par ASV pilsoni. 1970. gadā sāka pasliktināties Rubinšteina redze, un 1976. gadā viņš uzstājās pēdējā koncertā, kas notika Londonā, Vigmoras zālē, kur viņš pirmoreiz uzstājās gandrīz pirms 70 gadiem. Miris 1982. gadā Šveicē. Pēc viņa vēlēšanās urna ar Rubinšteina pelniem tika apglabāta Jeruzālemē.