PyTorch如何实现更新部分网络,其他不更新

这篇文章给大家分享的是有关PyTorch如何实现更新部分网络,其他不更新的内容。小编觉得挺实用的，因此分享给大家做个参考，一起跟随小编过来看看吧。

torch.Tensor.detach()的使用

detach()的官方说明如下：

Returns a new Tensor, detached from the current graph.
The result will never require gradient.

假设有模型A和模型B，我们需要将A的输出作为B的输入，但训练时我们只训练模型B. 那么可以这样做：

input_B = output_A.detach()

它可以使两个计算图的梯度传递断开，从而实现我们所需的功能。

pytorch的优点

1.PyTorch是相当简洁且高效快速的框架；2.设计追求最少的封装；3.设计符合人类思维，它让用户尽可能地专注于实现自己的想法；4.与google的Tensorflow类似，FAIR的支持足以确保PyTorch获得持续的开发更新；5.PyTorch作者亲自维护的论坛 供用户交流和求教问题6.入门简单

感谢各位的阅读！关于“PyTorch如何实现更新部分网络,其他不更新”这篇文章就分享到这里了，希望以上内容可以对大家有一定的帮助，让大家可以学到更多知识，如果觉得文章不错，可以把它分享出去让更多的人看到吧！