[问题] CUDA Stream, Hyper-Q方法

楼主: v00623 (阿哩他命EX PLUS)   2017-06-20 15:07:56
开发平台(Platform): (Ex: Win10, Linux, ...)
Linux GPGPU-Sim
CUDA
问题(Question):
最近在练习stream时看到一个Hyper-Q的东西
官方文件说这个可以让不同stream中的kernel达到真正的concurrent execution
而这功能是在kepler架构之后才有的
我的问题是在fermi架构下
使用stream的语法不也可以同时把多个kernel放到GPU跑吗
请问我的理解有错吗? 还请各位前辈指导
作者: hn12404988 (Willy)   2017-06-20 16:27:00
我之前也思考过类似的问题,我在猜他所指的真正并发是指(一次同时触发”的意思,因为很多时候的并发是是接二连三出去平行执行,并不是真正的同时触发
作者: jun0325 (俊)   2017-06-20 19:58:00
stream是一个software queue的概念 如果你把两个kernel bound在同一个stream 那就会sequential执行 如果在不同stream就会用spatial的方式来将两个kernel 绑到SM上建议直接爬gpu-sim怎么运作的会更清楚
作者: hn12404988 (Willy)   2017-06-20 20:42:00
你可能没抓到我的意思,执行时期当然是同时执行我刚指的是(发射时期),一般人是不需要去要求到(同时发射),只需要接二连三发射就可以,差别很小我在猜他所指的(real)是这个意思吧我也有在看官方文件,我有印象看到这段

Links booklink

Contact Us: admin [ a t ] ucptt.com