Walter retourne ensuite en 1900 à Berlin, où il occupe le poste de chef d'orchestre prussien royal au Staatsoper Unter den Linden, succédant à Franz Schalk. Parmi ses collègues se trouvaient Richard Strauss et Karl Muck.
Il se rendit ensuite à Riga et retourna à Berlin en 1900 où il dirigea le Staatsoper Unter den Linden, où il a travaillé avec des personnes célèbres telles que Richard Strauss et Karl Muck.