Actas JP2011 - Universidad de La Laguna

Actas XXII Jornadas de Paralelismo (JP2011) , La Laguna, Tenerife, 7-9 septiembre 2011quitectura. Actualmente, los SMs están compuestospor treinta y dos SPs en las arquitecturas Fermi másextendidas [19], [20].Para optimizar la explotación de la arquitecturaGPU de NVIDIA, el programador tiende a maximizar:(1) el ratio entre el número de warps activospor multiprocesador y el número máximo de (posibles)warps activos; este propósito se puede lograr:eligiendo el valor óptimo de BS, balanceando la cargade trabajo de los hilos y evitando las instrucciones decontrol de flujo que podrían causar la divergencia delos hilos, (por ejemplo, manteniendo los multiprocesadoresen el dispositivo tan ocupados como sea posible);y (2) el ancho de banda de memoria; el manejode la memoria se optimiza cuando el patrón de accesode los diferentes hilos pertenecientes a cada halfwarp(16 hilos) verifica las condiciones de coalescenciay alineamiento. Los accesos a memoria puedenllevarse a cabo en paralelo y la latencia de memoriasería la misma que para un solo acceso. Además, elhecho de utilizar la cache de texturas como memoriacache mejora el rendimiento [19].Aparte de CUDA, NVIDIA proporciona un conjuntode rutinas básicas o librerías (CuBLAS yCuFFT) que aceleran de forma óptima una ampliavariedad de operaciones con matrices sobre GPUs.Se han desarrollado múltiples implementaciones delSpMV basadas en CUDA [6], [7], [8], [9], [10] ya quela operación SpMV es, en realidad, la clave en el desarrollodel método BCG utilizando GPUs.Nosotros hemos seleccionado dos implementacionesCUDA para computar el SpMV con el finde implementar el método BCG sobre GPUs: (1)el kernel incluido en la librería CUSPARSE [6] y(2) el kernel ELLR-T que está basado en el formatoELLPACK-R [10], [11]. La evaluación comparativadescrita en [10] muestra que ELLR-T alcanza unrendimiento mejor que otras aproximaciones para laoperación SpMV sobre GPUs. Sin embargo, la rutinapara computar el SpMV de la librería CUSPARSEno está incluida en el mencionado estudio. En nuestrotrabajo, hemos seleccionado ambos kernels paracomputar la operación SpMV y poder desarrollar elmétodo BCG sobre GPUs.La clave de este artículo es el desarrollo y evaluaciónde las implementaciones del BCG basadasen ambos kernels. En adelante, la implementaciónbasada en la librería CUSPARSE será referenciadacomo CuBCG CS , y la implementación basada en larutina ELLR-T se denominará CuBCG ET . A continuaciónse describen ambas aproximaciones con detalle:• CuBCG CS se basa en la librería CUSPARSEla cual proporciona un conjunto de subrutinasbásicas de álgebra lineal para el manejo de matricesdispersas. El formato utilizado para compactarlas matrices es el de almacenamientocomprimido por fila (CRS). El paradigma dela librería CUSPARSE es el siguiente: se definenmúltiples bloques, B i , en función de la dimensiónde A, donde cada bloque está encargadode procesar un grupo de filas, (G j ). Y acada fila se le asignada un grupo de hilos, T k .Además, se han tenido en cuenta una serie deconsideraciones adicionales para incrementar elrendimiento: (1) ajustar el número de hilos porfila para evitar el desequilibrio entre hilos; (2)alinear hilos por fila para favorecer la coalescenciay (3) utilizar tanto la memoria compartidacomo la memoria de texturas [6].• CuBCG ET se basa en la rutina de ELLR-T cuyoformato es el ELLPACK-R, el cual permite almacenarla matriz dispersa de una forma regular.Para el formato ELLR-T, cada conjuntode T hilos calcula un elemento del vector desalida. El acceso de la matriz a la memoriaglobal es coalescente y alineado. Según el mapeadode los hilos en la computación de cada fila,se pueden ejecutar múltiples configuraciones delformato ELLR-T. Para optimizar el rendimientodel método, los valores de dos parámetros. elnúmero de hilos (T ) y el tamaño de bloque delos hilos (BS), deben modificarse para cada tipode matrices dispersasEn la siguiente sección se muestran los rendimientosobtenidos al evaluar la operación SpMV sobrelos formatos CUSPARSE y ELLR-T, así comopara nuestras implementaciones del método BCG:CuBCG CU y CuBCG ET .IV. EvaluaciónPara evaluar los tiempos de ejecución de nuestrosdesarrollos, hemos empleado dos conjuntos distintosde matrices dispersas sobre la plataforma GPUGeForce GTX 480. Estas matrices de testeo procedende un amplio espectro de disciplinas relacionadascon la ciencia y la ingeniería. Por lo tanto, podemosencontrar tanto matrices regulares y bien estructuras,como matrices con una gran irregularidady desequilibrio en el número de elementos no nulospor fila. La Tabla I ilustra los principales parámetrosde estas matrices: número de filas (N), número totalde elementos no nulos (nz) y promedio de entradaspor fila (Av). Resulta de interés destacar que la dimensiónde todas las matrices es N x N.En los experimentos realizados para evaluar elrendimiento de los kernels CUSPARSE y ELLR-T, para cada matriz de prueba, se ha consideradola configuración óptima de los parámetros T yBS. Además, los productos escalares se han aceleradogracias a la librería CUBLAS. En cuanto alos conjuntos de matrices de tipo real y complejo,los elementos han sido almacenados como uno o dosnúmeros reales, respectivamente.La figura 1 muestra el rendimiento (GFLOPs)de la operación SpMV sobre la plataforma GPUGeForce GTX 480, utilizando los kernels CUS-PARSE y ELLR-T (para tipos de datos reales y complejos).Cada prueba ha consistido en 1000 ejecucionesde la rutina SpMV, obteniendo así tiempos deejecución fiables. Los lenguajes de programación utilizadospara diseñar los códigos han sido C y CUDA.JP2011-137