반응형

딥러닝 3

[PyTorch] Random seed 고정하기

PyTorch에서 Random seed 고정하는 방법입니다. 저도 까먹고 있다가 맨날 찾고 싶은데 찾기 귀찮아서 공유해둡니다. 여러가지 방법이 있겠지만, 모르겠다 싶을 때는 랜덤적인 요소들은 모두 찾아서 고정해버리는게 방법이죠. import os import random import numpy as np import torch def set_random_seed(seed=42): os.environ["PYTHONHASHSEED"] = str(seed) random.seed(seed) np.random.seed(seed) torch.manual_seed(seed) torch.cuda.manual_seed(seed) torch.cuda.manual_seed_all(seed) torch.backends.cud..

딥러닝 2024.03.07

[PyTorch] 간단한 Hooking 사용법

안녕하세요 성민석입니다. 딥러닝을 하다보면, 모델 내부 구조에서 어떤 연산이 되는지 궁금하게 됩니다. 현재 Conv 연산에서 어떤 필터가 학습되어 사용되고 있는지, 혹은 그에 따른 결과는 어떻게 나오는지 다양한 부분들이 궁금합니다. 다만, 사용자가 모델 내부를 들여다보긴 쉽지 않습니다. PyTorch에서는 Hook은 모델의 forward 및 backward pass 중에 실행되는 사용자 정의 함수입니다. 이를 통해 우리는 모델이 학습되는 중간 계산 과정이나 그래디언트를 참조하거나 수정할 수 있습니다. 여기에서는 MNIST 숫자 데이터 중 하나를 가지고 예시를 들어보겠습니다. MNIST의 가장 첫 번째 데이터인 숫자 5 이미지를 가져와보겠습니다. 1. Forward Hook Forward Hook은 모듈의..

딥러닝 2023.07.28

[PyTorch] 단 한줄로 PyTorch와 관련된 정보 확인하기

안녕하세요 성민석입니다. 현재 내 컴퓨터에 설치된 PyTorch와 관련된 내용을 한꺼번에 확인하고 싶을 때 유용하게 사용할 수 있는 명령어를 알려드리도록 하겠습니다. python -m torch.utils.collect_env 글씨가 작아서 안 보이신다면 아래를 확인해주세요. Collecting environment information... PyTorch version: 1.8.2 Is debug build: False CUDA used to build PyTorch: 11.1 ROCM used to build PyTorch: N/A OS: Ubuntu 18.04.5 LTS (x86_64) GCC version: (Ubuntu 7.5.0-3ubuntu1~18.04) 7.5.0 Clang version:..

딥러닝 2021.10.04
728x90
반응형