光说不练假把式，现在我们已经积累了那么多的 PyTorch 知识，让我们实践一下吧！

本文从简单的手写数字识别入手，参考了若干文章：

• Handwritten Digit Recognition Using PyTorch — Intro To Neural Networks
• Building Your First PyTorch Solution

1. PyTotch 使用总览

使用 PyTorch 进行深度学习的步骤主要分以下七步：

1. 准备数据，包括数据的预处理和封装；
2. 模型搭建；
3. 选择损失函数；
4. 选择优化器；
5. 迭代训练；
6. 评估模型；
7. 保存模型。
   阅读全文 »

1. 优化器

优化器就是根据导数对参数进行更新的类，不同的优化器本质上都是梯度下降法，只是在实现的细节上有所不同。类似的，PyTorch 里的所有优化器都继承自 torch.optim.Optimizer 这个基类。

1

torch.optim.Optimizer(params, defaults)

params 是优化器要优化的权重，是一个迭代器；defaults 是优化器在参数以外的默认参数，根据所被继承的类有所不同。

1. 损失函数总览

PyTorch 的 Loss Function（损失函数）都在 torch.nn.functional 里，也提供了封装好的类在 torch.nn 里。PyTorch 里有关有 18 个损失函数，常用的有 5 个，分别是：

1. 回归模型：

• torch.nn.L1Loss
• torch.nn.MSELoss

2. 分类模型：

• torch.nn.BCELoss
• torch.nn.BCEWithLogitsLoss
• torch.nn.CrossEntropyLoss
• torch.nn.NLLLoss
  阅读全文 »