Actas JP2011 - Universidad de La Laguna

Actas XXII Jornadas de Paralelismo (JP2011) , La Laguna, Tenerife, 7-9 septiembre 2011Métodos no lineales basados en el gradienteconjugado para GPUsH. Migallón, 1 V. Migallón 2 y J. Penadés 2Resumen— En este artículo se presentan algoritmos paralelospara resolver sistemas no lineales, diseñados para GPUs (GraphicsProccesing Unit), para lo cual se hecho uso de CUDA (ComputeUnified Device Architecture). Los algoritmos propuestos estánbasados tanto en la versión de Fletcher-Reeves del método del gradienteconjugado, como en precondicionadores polinomiales construidosmediante el método por bloques en dos etapas. Se analizandiversas estrategias para la paralelización de dichos algoritmos,así como diferentes formatos de almacenamiento/compresión de lasmatrices dispersas consideradas en este trabajo. Expondremos resultadosnuméricos comparando la ejecución en plataformas paralelasde grano fino (GPU) con la ejecución en plataformas paralelasbasadas en hilos (multiprocesadores de memoria compartida o multicores).Palabras clave—GPGPU, librerías GPU, gradiente conjugado nolineal, precondicionadores paralelos, factorizaciones ILU, métodospor bloques en dos etapas.I. INTRODUCCIÓNSE considera la resolución del sistema no linealAx = Φ(x), (1)donde A ∈ R n×n es una matriz simétrica y definida positiva,y Φ : R n → R n es una función no lineal con ciertaspropiedades. Sea Ψ : R n → R una aplicación no lineal, ysea 〈x, y〉 = x T y el producto interno en R n . El problemade minimización consistente en encontrar x ∈ R n tal queJ(x) = min J(y), (2)y∈Rn donde J(x) = 1 2〈Ax, x〉 − Ψ(x), es equivalente a encontrarx ∈ R n tal que F (x) = Ax − Φ(x) = 0, dondeΦ(x) = Ψ ′ (x).Un método efectivo para resolver el sistema (1), teniendoen cuenta la conexión con el problema de minimización(2), es la versión de Fletcher-Reeves [1] del método delgradiente conjugado no lineal (NLCG), que se detalla acontinuación:Algoritmo 1: (GC no lineal (Fletcher-Reeves))Dado un vector inicial x (0)r (0) = Φ(x (0) ) − Ax (0)p (0) = r (0)Para i = 0, 1, . . . , hasta convergenciaα i =→ (ver a continuación)x (i+1) = x (i) + α i p (i)r (i+1) = r (i) − Φ(x (i) ) + Φ(x (i+1) ) − α i Ap (i)Test de convergenciaβ i+1 = − 〈r(i+1) ,r (i+1) 〉〈r (i) ,r (i) 〉p (i+1) = r (i+1) − β i+1 p (i)1 Dpto. de Física y Arquitectura de Computadores, UniversidadMiguel Hernández, e-mail: hmigallon@umh.es.2 Dpto. de Ciencia de la Computación e InteligenciaArtificial, Universidad de Alicante, e-mail:violeta,jpenades@dccia.ua.es.En el Algoritmo 1 la elección de α i debe minimizar lafunción asociada J en la dirección p (i) . Esto es equivalentea resolver el problema unidimensional de punto cerodJ(x (i) +α ip (i) )dα i12= 0. De la definición de J, se deduce queJ(x (i) + αp (i) ) =〈A(x (i) + α ip (i) ), x (i) + α ip (i)〉 − Ψ(x (i) + α ip (i) ).Por tanto, diferenciando respecto a α i se obtienedJ(x (i) + α ip (i) )dα i=α i〈Ap (i) , p (i)〉 〈− r (i) , p (i)〉 〈+ Φ(x (i) ) − Φ(x (i) + α ip (i) ), p (i)〉 ,donde r (i) = Φ(x (i) ) − Ax (i) es el residuo no lineal.Por otra parte, puede verse que la segunda derivada respectoa α i esd 2 J(x (i) + α ip (i) )dα 2 =i〈Ap (i) , p (i)〉 〈− Φ ′ (x (i) + α ip (i) )p (i) , p (i)〉 .Por lo tanto, si se usa el método de Newton para resolverel problema de punto cero para α i , se obtiene α (k+1)α (k)i− δ (k) , donde (siendo γ = (x (i) + α (k)i p (i) ))δ (k) =dJ(x(i) + α (k)i p (i) )/dα id 2 J(x (i) + α (k)i p (i) )/dα 2 i=i =〈α (k)i Ap (i) , p (i)〉 〈− r (i) , p (i)〉 +〈Φ(x (i) ) − Φ(γ), p (i)〉〈Ap (i) , p (i)〉 − 〈 Φ ′ (γ)p (i) , p (i)〉 .Hay que remarcar que para obtener δ (k) , los productosinternos 〈Ap (i) , p (i) 〉 y 〈r (i) , p (i) 〉 pueden computarseúnicamente en la iteración inicial del método de Newton.Además Ap (i) ha sido calculado en la iteración correspondientedel método del gradiente conjugado.El objetivo del precondicionamiento es mejorar elnúmero de condición (cond) de la matriz del sistema aresolver. Supongamos que M es una matriz simétricay definida positiva que aproxima a A, y fácilmente invertible.Entonces, podemos resolver indirectamente elsistema Ax = Φ(x) resolviendo el sistema M −1 Ax =M −1 Φ(x). Si cond(M −1 A)