PyTorch在Linux上的调试技巧有哪些

以下是PyTorch在Linux上的调试技巧：

1. 代码级调试
   • pdb/ipdb：插入import pdb; pdb.set_trace()或import ipdb; ipdb.set_trace()设置断点，支持交互式调试。
   • IDE调试：使用PyCharm、VSCode等IDE的图形化调试功能，支持断点、单步执行、变量监控。
2. 日志与异常追踪
   • logging模块：记录程序执行流程和变量状态，如logging.basicConfig(level=logging.DEBUG)。
   • assert语句：检查关键条件，如assert tensor.shape == expected_shape, "Shape mismatch"。
3. 性能分析与可视化
   • PyTorch Profiler：分析模型性能瓶颈，支持CPU/GPU时间、内存占用等，结果可导出至TensorBoard。
   • TensorBoard：可视化训练指标（损失、准确率）、模型图及Profiler结果，命令tensorboard --logdir=logs。
4. 环境与依赖管理
   • 虚拟环境：用Conda/venv隔离项目依赖，避免版本冲突，如conda create -n pytorch_env python=3.8。
   • 版本匹配：通过nvidia-smi确认CUDA版本，安装对应PyTorch版本以确保兼容性。
5. 系统资源监控
   • nvidia-smi：实时查看GPU使用率、内存占用等，命令watch -n 1 nvidia-smi。
   • htop/top：监控CPU、内存等系统资源，定位资源瓶颈。
6. 工具辅助调试
   • torchsnooper：自动记录函数内张量的维度、设备等信息，装饰器@torchsnooper.snoop()即可使用。
   • cProfile：分析代码性能，定位耗时操作，如import cProfile; cProfile.run('your_function()')。