找回密码
 立即注册
daxiaoyuyu 该用户已被删除
发表于 2013-7-19 17:18:00
6350
本帖最后由 daxiaoyuyu 于 2013-7-19 18:22 编辑

家好,我现在遇到一个非常棘手的问题:

我写的一个光线跟踪的程序,把float全部改成double后,编译通过,但是运行出问题了,最后算出的结果是一个很大的负值。如果把迭代的次数加大,也会出现这样的问题。请问有什么好的解决方案吗?

配置如下:
显卡:660ti
VS2010
cuda 5.0
编译 compute_30 sm_30

1.数据类型全部是float时,运行结果是正确的,跟单纯在cpu上运行一样。
2把float改成double后,结果出现很大的负值。
3.用Nsight调试出现 “CUDA Debugger detected data stack overflow on 4 threads.






本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
使用道具 举报 回复
发新帖
您需要登录后才可以回帖 登录 | 立即注册

zzczczxczxczx