Implementación en GPU del algoritmo K-Means para ... - UMBC

Implementación en GPU del algoritmo K-Means para procesamiento paralelo
de imágenes de satélite disponibles en la herramienta Google Maps
8.6. Técnicas de Optimización.
Es un apartado a tener en cuenta cuando estamos implementando un código en
CUDA para después aplicarlo en una arquitectura paralela como puede ser el caso de
una GPU. Para ello, comentamos los principales problemas que nos encontraremos
cuando un código se encuentra sin optimizar:
• Paralelización + implementación en CUDA:
o Intensidad aritmética (cálculos frente al BW): a veces resulta
necesario tener que re-calcular un dato antes que re-acceder al dato.
Por ello, es importante optimizar las transferencias de Memoria.
o Maximizar paralelismo a nivel de datos: minimizar la dependencia
entre hilos. Por ello, es importante evitar la divergencia de threads
en un warp.
o Maximizar la utilización de HW: hay que prestar atención en la
elección de los tamaños de bloque y de grid. Además hay que tener
cuidado con la Ocupancia (ocultar latencia memoria).
De los tres problemas señalados anteriormente, que podrán encontrarse
fácilmente cuando nos encontrarnos programando en CUDA, pasaremos a describir
una serie de indicaciones para poderlos contrarrestarlos.
1) Optimizar las transferencias de Memoria.
Reducir la penalización de transferencias de memoria según el tipo de memoria
utilizado:
Memoria global: copias entre memoria CPU – GPU y viceversa. En este tipo de
copias tendremos que simultanear las copias con los cálculos en CPU, es decir,
cuando estemos utilizando la primitiva cudaMemcpy(…) devuelve el control a CPU
sólo al finalizar:
Trabajo Fin de Máster -94- Sergio Bernabé García