Pytorch模型参数如何保存和加载
这篇文章主要介绍“Pytorch模型参数如何保存和加载”,在日常操作中,相信很多人在Pytorch模型参数如何保存和加载问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”Pytorch模型参数如何保存和加载”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!
一、前言
在模型训练完成后,我们需要保存模型参数值用于后续的测试过程。由于保存整个模型将耗费大量的存储,故推荐的做法是只保存参数,使用时只需在建好模型的基础上加载。通常来说,保存的对象包括网络参数值、优化器参数值、epoch值等。
二、参数保存
在这里我们使用 torch.save() 函数保存模型参数:
import torchpath = './model.pth'torch.save(model.state_dict(), path)
model——指定义的模型实例变量,如model=net( )
state_dict()——state_dict( )是一个可以轻松地保存、更新、修改和恢复的python字典对象, 对于model来说,表示模型的每一层的权重及偏置等参数信息;对于 optimizer 来说,其包含了优化器的状态以及被使用的超参数(如lr, momentum,weight_decay等)
path——path是保存参数的路径,一般设置为 path='./model.pth' , path='./model.pkl'等形式。
此外,如果想保存某一次训练采用的optimizer、epochs等信息,可将这些信息组合起来构成一个字典保存起来:
import torchpath = './model.pth'state = {'model': model.state_dict(), 'optimizer': optimizer.state_dict(), 'epoch': epoch}torch.save(state, path)
三、参数的加载
使用 load_state_dict()函数加载参数到模型中, 当仅保存了模型参数,而没有optimizer、epochs等信息时:
model.load_state_dict(torch.load(path))
model——事先定义好的跟原模型一致的模型
path——之前保存的模型参数文件
如若保存了optimizer、epochs等信息,我们这样载入信息:
# 使用torch.load()函数将文件中字典信息载入 state_dict 变量中state_dict = torch.load(path)# 分布加载参数到模型和优化器model.load_state_dict(state_dict['model'])optimizer.load_state_dict(state_dict['optimizer'])epoch = state_dict(['epoch'])
我们还可以在每n个epoch后保存一次参数,以观察不同迭代次数模型的表现。此时我们可设置不同的path,如 path='./model' + str(epoch) +'.pth',这样,不同epoch的参数就能保存在不同的文件中。
四、保存和加载整个模型
使用上文提到的方法即可:
torch.save(model, path)model = torch.load(path)
到此,关于“Pytorch模型参数如何保存和加载”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注编程网网站,小编会继续努力为大家带来更多实用的文章!
免责声明:
① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。
② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341