renato alves ferreira - Universidade Estadual de Feira de Santana

Segundo Braga et al (2000), o algoritmo back-propagation utiliza a primeira
derivada parcial do erro total referente a cada peso para ajustar cada um dos pesos. Esta
informação possibilita realizar um gradiente descendente no espaço de pesos. A descida do
gradiente utilizando passos infinitesimais garante a chegada a um mínimo local que, para
vários problemas, pode ser um mínimo global ou uma solução aceitável. O problema é o
tempo que o treinamento pode levar para convergir, por isso foram criadas várias alterações
no algoritmo de retro-propagação que diminuem o tempo de treinamento e melhora seu
desempenho na classificação de padrões. Dessas variações as mais utilizadas são: back-
propagation com momentum de Rumelhart (1986), Quickprop de Fahlman (1988), Levenberg
Marquardt de Hagan (1994), momentum de segunda ordem de Pearlmutter (1992), Newton de
Battiti (1991) e o Rprop de Riedmiller (1994).
47