NVIDIA CUDA 计算统一设备架构

块
和
展
个 的 位
,warp
块 块 块
位
位
是
展
块
等
时
节
是
(stride)
位
块
和
是 时
__shared__ float shared[32];
float data = shared[BaseIndex + s * tid];
存
的 和 访 的 是
位
tid 进
的
块
的
突 。
存 储 体 冲 突 。 为 了 获 得 最 大 化 的 性 能 , 有 必 要 理 解 存 储 器 地 址 如 何 映 射 到 存 储 体 以 调 度 存 储 器 请 求 , 以 最 小 化 存 储 体 冲
(n-way)
32 共 享 存 储 器 空 间 , 存 储 体 采 用 了 这 样 一 种 组 织 方 式 : 为 连 续 的 存 储 体 分 配 连 续 的 于 对
字 , 每 个 存 储
32 带 宽 都 是 的 体
/2
钟 周 期 。 时
1.x 计 算 能 力 为 于 对
设 备
大 小 是 32, 的
体 的 数 量 为 16( 储
5.1 第 见
);warp
的 共
参
为
warp 储 器 请 求 将 分 割 为 一 个 针 对 存 享
warp 部 分 的 请 求 和 一 个 针 对 半 上
下 半 部 分 的 请 求 。 因 而 , 属
于 warp
warp 部 分 的 线 程 和 属 于 一 第
二 部 分 的 线 程 之 间 不 可 能 出 现 存 储 体 冲 突 。 第
32 常 见 的 情 况 就 是 各 线 程 访 问 数 组 中 的 种 一
ID 使 用 线 程 , 字
行 索 引 , 步 幅
s:
是
的
s*n 例 中 , 只 要 本 在
m 体 储 存
n , 或 者 说 只 要 数 倍
m/d
d ( 其 中 数 倍
m
s
最 大 公
char 数
__shared__ char shared[32];
char data = shared[BaseIndex + tid];
, 则 将 出 现 存 储 体 冲 突 : 组
和
位
属
tid ), 线 程 数 约
tid+n
warp 就 是 同 一 个 存 储 体 。 因 而 , 只 有 在 的 问
m/d 半 大 小 小 于 等 于 一 的
,
1.x 会 存 在 存 储 体 冲 突 。 对 于 计 算 能 力 是 不 才
d , 可 以 说 只 有 在 备 设
于 1
s 者 说 只 有 在 或 ,
图 5-5
图 5-6
5-7 无 冲 突 存 储 器 访 问 的 示 例 , 图 了 示
了 导 致 存 储 体 冲 突 的 存 储 器 访 问 示 例 。 示
char data = shared[BaseIndex + 4 * tid];
double
__shared__ double shared[32];
double data = shared[BaseIndex + tid];
位 数
突 , 但 若 通 过 以 下 方 式 访 问 同 一 个 数 组 : 路 冲
操
m 时 , 才 不 会 存 在 存 储 体 冲 突 , 因 为 数 奇
2
。 幂
shared[0]、shared[1]、shared[2] 来 说 , 由 于 例 举
shared[3]
于 同 一 个 存 储 体 。 因 此 不 存 在 存 储 体
32 值 得 注 意 的 情 况 还 包 括 在 各 线 程 访 问 小 于 或 大 于 他 其
元 素 时 。 举 例 来 说 , 如 果 通 过 以 下 方 式 访 问 的
__shared__ int shared_lo[32];
__shared__ int shared_hi[32];
double dataIn;
shared_lo[BaseIndex + tid] = __double2loint(dataIn);
shared_hi[BaseIndex + tid] = __double2hiint(dataIn);
double dataOut =
__hiloint2double(shared_hi[BaseIndex + tid],
shared_lo[BaseIndex + tid]);
数 分 割 为 两 部 分 , 如 以 下 示 例 代 码 所 示 : 作
2 存 在 将 组
储 体 冲 突 : 存
__shared__ struct type shared[32];
struct type data = shared[BaseIndex + tid];
这 种 做 法 并 非 总 是 能 够 提 高 性 能 , 在 未 来 的 架 构 中 可 能 表 现 更 差 。 结 构 体 赋 值 将 在 必 要 时 编 译 为 针 对 结 构 体 中 各 成 员 的 多 个 存 储 器 请 求 , 因 此 , 以 下 代 码 : 但
32 存 储 器 请 求 将 编 译 为 两 个 独 立 的 于 由
double 。 在 本 例 中 避 免 存 储 体 冲 突 的 方 法 之 一 就 是 将 求 请
如
定
struct type {
:
};
float x, y, z;
如
得 到 以 下 结 果 将
定
struct type {
float x, y;
};
如
定
struct type {
CUDA 编
45
果 type
如 下 , 则 进 行 两 次 有 存 储 体 冲 突 的 存 储 器 读 取 : 义
果 type
如 下 , 则 进 行 三 次 无 存 储 体 冲 突 的 存 储 器 读 取 : 义
32 因 为 每 个 成 员 都 是 使 用 三 个 是 这
作 为 步 幅 访 问 的 。 字
32 因 为 每 个 成 员 都 是 使 用 两 个 是 这
作 为 步 幅 访 问 的 。 字
2.0 南 , 版 本 指 程
果 type
如 下 , 则 进 行 两 次 有 存 储 体 冲 突 的 存 储 器 读 取 : 义