Kiefer, J., Wolfowitz, J., Stochastic Estimation of the Maximum of a Regression Function., Annals of Mathematical Statistic, Vol. 23, número 3, 1952, pp. 462-466. Kulkarni, S.R., Horn, C.S., An Alternative Proof for Convergence of Stochastic Approximation Algorithms., IEEE Transactions on Automatic Control, Vol. 41, número 3, 1996, pp 419-424.
Además se concluye que es un algoritmo simple dado que no requiere un conocimiento profundo sobre el proceso, ni de la verdadera relación funcional entre la variable de respuesta y los factores controlables, además de ser fácil de usar ya que no requiere ser operado por personal altamente calificado.