체크포인트에서 nn.Module을 불러올 때 유용한 팁
- 원글 : Tips for Loading an nn.Module from a Checkpoint
- 저장된 체크포인트로부터 로드하여서, 가능한 한 연산과 메모리를 줄이고 싶을 때, 사용할 수 있는 몇가지 유용한 실행방법을 추천한다.
- (1) torch.load에서 mmap 인자의 사용
- (2) torch.device()를 포함한 with 구문(=컨텍스트 매니저 context manager) 사용
- (3) nn.Module.load_state_dict()에서 assign 키워드의 사용
- 단, 이 글은 파이토치 2.1.0 이후 버전에서만 실행할 수 있다.
댓글