Técnicas de Otimização de Código para Placas de ... - UFMG

__global__ void matSumKernel
( f l o a t∗ S, f l o a t∗ A, f l o a t∗ B, i n t side ) {
i n t i = b l o c k I d x . y∗blockDim . y + threadIdx . y ;
i n t j = b l o c k I d x . x∗blockDim . x + threadIdx . x ;
i n t i j = i∗side + j ;
i f ( i j < side∗side ) {
S [ i j ] = A [ i j ] + B [ i j ] ;
}
}
Figura 1.7. Kernel CUDA equivalente ao programa
C da figura 1.5
milar pode ser feito em CUDA.
A figura 1.7 mostra o kernel que é responsável por realizar
a soma matricial. Uma constante em nossos exemplos será a
forma de representar matrizes: estas serão sempre linearizadas.
Conforme ficará mais claro adiante, a transmissão de dados
entre CPU e GPU é por demais lenta. Por isto, é preferível
enviar estes dados em uma única viagem, em vez de termos
de transmitir para a GPU as muitas colunas que compõem uma
matriz alocada dinamicamente.
O programa da figura 1.5 descreve um problema embaraçosamente
paralelo, uma vez que não há dependências entre as
iterações do laço. Este tipo de aplicação é mais comum que a
princípio poderíamos imaginar; porém, existem também muitas
aplicações em que as dependências temporais estão presentes.
Consideremos, por exemplo, o programa da figura 1.8, cujo
espaço de iterações está representado na figura 1.9. As setas
mostram a direção das dependências entre as iterações. Este
programa não é tão paralelo quanto aquele na figura 1.5, uma
vez que a iteração (i, j) depende da iteração (i, j−1). No modelo
PRAM, poderíamos atribuir uma linha deste espaço para cada
processador; desta forma, convertendo um algoritmo de complexidade
quadrática para um algoritmo equivalente de complexidade
linear. Isto sem que aumentássemos a carga de trabalho
total necessária para a solução do problema; isto é, cada algoritmo
totaliza uma quantidade quadrática de somas.
A figura 1.10 nos dá o programa CUDA que corresponde
12