Musicalement, Kertész a été le plus influencé par László Somogyi, Bruno Walter et Otto Klemperer, alors directeur de l'Opéra de Budapest.
Il s'est vite intéressé à la direction et a beaucoup appris de Bruno Walter, et Otto Klemperer, alors directeur de l'Opéra de Budapest.