En 1931 il a remplacé Arturo Toscanini au pied levé pour un concert avec l'orchestre de Philadelphie; la même année il se retrouvait à la tête de l'orchestre de Minneapolis. Puis il a pris, avec Leopold Stokowski, la direction de l'orchestre de Philadelphie, dont il sera le seul chef de 1938 à 1979. Il en fera au cours de cette période un des meilleurs orchestres du monde.