pytorch运行错误:RuntimeError: cuDNN error: CUDNN_STATUS_INTERNAL_ERROR
解决方法:网络
代码中添加: app
torch.cuda.set_device(0)
训练RNN网络loss出现Nan解决办法
(1). 梯度爆炸的缘由能够经过梯度裁决解决ide
GRAD_CLIP = 5 loss.backward() torch.nn.utils.clip_grad_norm_(model.parameters(), GRAD_CLIP) optimizer.step()
(2)testModel和evaluate中须要使用函数
with torch.no_grad():
(3) 学习率调小一点学习
RuntimeError: Expected object of device type cuda but got device type cpu for argument #1 'self' in call to _th_addmm
在代码中由三个位置须要进行cuda()转换:lua
- 模型是否放到了CUDA上
model = model.to(device)
- 输入数据是否放到了CUDA上
data = data.to(device)
- 模型内部新建的张量是否放到了CUDA上
p = torch.tensor([1]).to(device)
关于第一条中model = model.to(device)只对model中实例化在__init__()中的函数有效,若是在forward中实例化并直接使用则不会将model放置到cuda中。spa
下面给出一个错误的代码:code
import torch import torch.nn as nn data = torch.rand(1, 10).cuda() class TestMoule(nn.Module): def __init__(self): super(TestMoule, self).__init__() # self.linear = torch.nn.Linear(10, 2) def forward(self, x): # return self.linear(x) return torch.nn.Linear(10, 2)(x) model = TestMoule() model = model.cuda() print(model(data))
RuntimeError: CUDA error: an illegal memory access was encountered
出现上面问题一种状况是某些nn模块下的函数传入了gpu类型的数据,以下错误代码:orm
import torch data = torch.randn(1, 10).cuda() layernorm = torch.nn.LayerNorm(10) # layernorm = torch.nn.LayerNorm(10).cuda() re_data = layernorm(data) print(re_data)
RuntimeError: CUDA error: device-side assert triggered
分类的类别target与模型输出softmax的值不是一一对应的,如三分类问题:ip
targets 为 1-3的值,可是softmax计算的值是0-2,所以提示上面的错误。
df = pd.read_csv('data/reviews.csv') def to_sentiment(score): score = int(score) if score <= 2: return 0 elif score == 3: return 1 else: return 2 df['sentiment'] = df.score.apply(to_sentiment)