전체 (31) Deep Learning GPU 성능 최적화 전략 GPU를 이용하여 학습을 하다보면 GPU가 과연 일을 잘하고 있을까?에 대한 의문이 들때가 많을 것이다. 보통 nvidia-smi를 통해 확인한 GPU 메모리 사용량(Memory-Usage)이 어느정도 찼으면, 일 열심히 하겠구나 싶다. 하지만 사실 GPU의 작업 성능은 GPU-Util 로 확인 가능하다. GPU-Util 은 nvidia docs에서 확인할 수 있듯이, 지난 1에서 1/6초 동안의 GPU 활용률을 뜻한다. Useful nvidia-smi Queries | NVIDIA When adding additional parameters to a query, ensure that no spaces are added between the queries options. nvidia.custhelp.co.. TorchScript? torch.jit.script 에러 유형 및 해결 방법 TorchScript란? TorchScript is a way to create serializable and optimizable models from PyTorch code. Any TorchScript program can be saved from a Python process and loaded in a process where there is no Python dependency. TorchScript — PyTorch 1.8.1 documentation TorchScript TorchScript is a way to create serializable and optimizable models from PyTorch code. Any TorchScript program can be saved f.. [PyTorch] .detach().cpu().numpy()와 .cpu().data.numpy() ? PyTorch를 사용하다보면, Module을 통해 나온 Tensor을 후처리에 사용하거나, 계산된 loss Tensor을 logging 하는 일이 많다. for i, data in enumerate(dataloader): # 생략 embeddings = model(images) # total_embeddings에 embeddings append # total_embeddings.append(embeddings) ??? 이때 embeddings는 GPU에 올라가있는 Tensor 이기 때문에 numpy 혹은 list로의 변환이 필요하다. 오픈소스를 보면 detach(), cpu(), data, numpy(), tolist() 등을 조합해서 변환을 한다. 하지만 stackoverflow나 pytorch dis.. 이전 1 2 3 4 5 ··· 11 다음
