A.I./PyTorch14 PyTorch 문서) PyTorch Recipes - How to use TensorBoard with PyTorch 파이토치와 함께 텐서보드를 사용하는 방법원글 : How to use TensorBoard with PyTorch텐서보드(Tensorboard)는 머신러닝 실험에 사용되는 시각화 툴킷이다.손실값, 정확도와 같은 평가 메트릭을 시각화(visualization)하거나 추적(tracing)할 수 있고모델 구조를 모델 그래프(model graph)로써 시각화할수 있으며그외에 히스토그램, 이미지 표시 등 다양한 기능을 제공한다.이 글에서는 텐서보드 설치에서부터 파이토치와 함께 활용하는 기본 사용법, 로그로 기록한 데이터를 텐서보드 UI에서 시각화 하는 방식을 설명한다.Installation우선 파이토치가 설치되어서, 모델과 메트릭에 대한 로그를 텐서보드 로그 디렉토리(Tensorboard log directory).. 2024. 11. 13. PyTorch 문서) PyTorch Recipes - Extension points in nn.Module for load_state_dict and tensor subclasses nn.Module의 확장 기능들원글 : Extension points in nn.Module for load_state_dict and tensor subclasses이 글은 nn.Module에 통합된 두 가지 확장 기능들과 새로운 유틸리티 함수인 torch.utils.swap_tensors를 소개한다.nn.Module에 통합된 기능은 (1) nn.Module.to()와 관련 메소드, (2) nn.Module.load_state_dict()다.단, 이 글에 나온 기능은 PyTorch 2.3.0 이후의 버전에서만 사용 가능하다.torch.utils.swap_tensorstorch.utils.swap_tensors (이하 swap_tensors)는 두 개의 파이썬 텐서를 입력 받아, 두 값을 바꾸는(스왑 s.. 2024. 11. 12. PyTorch 문서) PyTorch Recipes - Tips for Loading an nn.Module from a Checkpoint 체크포인트에서 nn.Module을 불러올 때 유용한 팁원글 : Tips for Loading an nn.Module from a Checkpoint저장된 체크포인트로부터 로드하여서, 가능한 한 연산과 메모리를 줄이고 싶을 때, 사용할 수 있는 몇가지 유용한 실행방법을 추천한다. (1) torch.load에서 mmap 인자의 사용(2) torch.device()를 포함한 with 구문(=컨텍스트 매니저 context manager) 사용(3) nn.Module.load_state_dict()에서 assign 키워드의 사용단, 이 글은 파이토치 2.1.0 이후 버전에서만 실행할 수 있다. 2024. 11. 11. PyTorch 문서) PyTorch Recipes - Reasoning about Shapes in PyTorch 파이토치에서 텐서의 모양에 대해서 추론하기원글 : Reasoning about Shapes in PyTorch파이토치에서 모델을 정의하여 사용할 때, 한 레이어의 매개변수는 이전 레이어의 출력 형태와 깊은 관련을 갖게 된다.nn.Linear 레이어에 입력되는 특성 개수를 의미하는 in_features는 입력의 맨 마지막 차원의 크기인 size(-1)과 일치해야 한다.컨볼루션 연산과 같은 경우에는 모양에 대한 계산을 위해 복잡한 수식이 필요하기도 하다.레이어의 모양에 대해 알기 위해서, 무작위로 생성된 입력 텐서에 대해서 포워드 패스(forward pass) 연산을 수행해 볼 수도 있지만, 이는 메모리와 연산 측면에서 낭비이다.즉, 어떤 데이터를 생성하고 직접 입력하는 대신에, 레이어의 출력 형태를 결정하.. 2024. 11. 10. 이전 1 2 3 4 다음