PyTorch reduction的作用是什么

这篇文章主要讲解了“PyTorch reduction的作用是什么”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“PyTorch reduction的作用是什么”吧!

损失函数的reduction有三种模式,它们的作用分别是什么?

当inputs和target及weight分别如以下参数时,reduction=’mean’模式时,loss是如何计算得到的?

inputs = torch.tensor([[1, 2], [1, 3], [1, 3]], dtype=torch.float)

target = torch.tensor([0, 1, 1], dtype=torch.long)

weights = torch.tensor([1, 2]

加权交叉熵 Loss

import torch
import torch.nn as nn


inputs = torch.tensor([[1, 2], [1, 3], [1, 3]], dtype=torch.float)
target = torch.tensor([0, 1, 1], dtype=torch.long)
# def loss function
weights = torch.tensor([1, 200], dtype=torch.float)

loss_f_none_w = nn.CrossEntropyLoss(weight=weights, reduction='none')
loss_f_sum = nn.CrossEntropyLoss(weight=weights, reduction='sum')
loss_f_mean = nn.CrossEntropyLoss(weight=weights, reduction='mean')

# forward
loss_none_w = loss_f_none_w(inputs, target)
loss_sum = loss_f_sum(inputs, target)
loss_mean = loss_f_mean(inputs, target)

# view
print("/nweights: ", weights)
print(loss_none_w, loss_sum, loss_mean)

感谢各位的阅读,以上就是“PyTorch reduction的作用是什么”的内容了,经过本文的学习后,相信大家对PyTorch reduction的作用是什么这一问题有了更深刻的体会,具体使用情况还需要大家实践验证。这里是亿速云,小编将为大家推送更多相关知识点的文章,欢迎关注!

原创文章,作者:745907710,如若转载,请注明出处:https://blog.ytso.com/225021.html

(0)
上一篇 2022年1月7日
下一篇 2022年1月7日

相关推荐

发表回复

登录后才能评论