L'année suivante, et de nouveau à Salzbourg, Karajan a dirigé le Philharmonique de Vienne pour la première fois, et de 1934 à 1941, Karajan a donné des concerts d'opéra et de symphonie à l'opéra d'Aix-la-Chapelle.
En 1929, il dirige le Philharmonique de Vienne pour la première fois à la Festspielhaus, à Salzbourg.