NVIDIA CUDA 计算统一设备架构

中
个
线
线 声
的
设
的
和
相
次 语
语 (declaration 使 specifier),
个
block)。 这
是
是
的
中 变
和
z)
相
语 。
此 ID。
x,D y ) 的
第 2 章 编 程 模 型
CUDA 允
言 的 一 种 扩 展 , 在 调 用 此 类 函
言 函 数 只 执 行 一 次 的 方 式 不 同
的
// Kernel definition
__global__ void vecAdd(float* A, float* B, float* C)
{
}
符 定 限 明
(kernel)
许 程 序 员 定 义 被 称 为 内 核
C
int main()
{
}
// Kernel invocation
vecAdd(A, B, C);
C 数 , 这 是 对 函 言
N , 它 将 由 时 数
CUDA 的 同 不
N 行 执 行 并 程
C 与 普 通 的 这 ,
__global__ 义 内 核 时 , 需 要 使 用 定 在
:
种 全 新 的 一 用
__global__ void vecAdd(float* A, float* B, float* C)
{
int i = threadIdx.x;
C[i] = A[i] + B[i];
}
可
CUDA 定 每 次 调 用 的 指 法
数 : 程
int main()
{
// Kernel invocation
vecAdd(A, B, C);
}
) 每 个 线 程 都 会 执 行 一 次 两 两 相 加 运 算 的
行 内 核 的 每 个 线 程 都 会 被 分 配 一 个 独 特 的 线 程 ID, 执
threadIdx 内 置 的 过 通
量 在 内 核 中 访 问
2.1 线 程 层 次 结 构
执
线 程 层 次 结 构
N 示 例 代 码 将 大 小 为 下 以
A 量 向
B 量 向
C 并 将 结 果 存 储 在 向 量 , 加
行 vecAdd(
__global__ void matAdd(float A[N][N], float B[N][N],
float C[N][N])
{
int i = threadIdx.x;
int j = threadIdx.y;
C[i][j] = A[i][j] + B[i][j];
}
int main()
{
// Kernel invocation
dim3 dimBlock(N, N);
matAdd(A, B, C);
}
:
(thread
C
构 成 一 维 、 二 维 或 三 维 线 程 块 储 在 矩 阵 , 程 线
有
。
供 了 一 种 自 然 的 方 法 , 可 为 一 个 域 中 的 各 元 素 提
threadIdx 便 起 见 , 我 们 将 方 为
3 一 个 包 含 为 置
分 量 的 向 量 , 因 而 可 使 用 一 维 、 二 维 或 三 维 索 引 标 识
y, z)
+ yD
+ yD x + zD x D y)。 x);
x,D y,
4 CUDA 编
NxN 计 算 , 如 向 量 、 矩 阵 或 字 段 。 下 面 的 示 例 代 码 将 大 小 为 用 调
A 阵 矩
B 阵 矩
加 , 并 将 结 果 存
(x,y) 块 来 说 , 索 引 为 维 二
ID 的 程 线
(x
(D 大 小 为 于 对
D
的 三 维 块 来 说 , 索
2.0 南 , 版 本 指 程
ID 的 索 引 与 其 线 程 程 线
(D 接 的 对 应 关 系 : 对 于 一 维 块 来 说 , 两 者 是 相 同 的 ; 对 于 大 小 为 直 着
(x, 为 引
ID 程 的 线 的
(x