Né à Thunder Bay, en Ontario, de parents immigrants russes, il a grandi dans une ferme en Saskatchewan et a fréquenté l'Université McGill, où il a obtenu un baccalauréat en chimie et un doctorat en chimie physique.
Cependant, en 1959, lorsque la première épouse du Dr Palls, Joséphine, mourut d'anémie aplastique, il commença à travailler sur le filtre Pall.