MLOps (19) TorchScript? torch.jit.script 에러 유형 및 해결 방법 TorchScript란? TorchScript is a way to create serializable and optimizable models from PyTorch code. Any TorchScript program can be saved from a Python process and loaded in a process where there is no Python dependency. TorchScript — PyTorch 1.8.1 documentation TorchScript TorchScript is a way to create serializable and optimizable models from PyTorch code. Any TorchScript program can be saved f.. [PyTorch] .detach().cpu().numpy()와 .cpu().data.numpy() ? PyTorch를 사용하다보면, Module을 통해 나온 Tensor을 후처리에 사용하거나, 계산된 loss Tensor을 logging 하는 일이 많다. for i, data in enumerate(dataloader): # 생략 embeddings = model(images) # total_embeddings에 embeddings append # total_embeddings.append(embeddings) ??? 이때 embeddings는 GPU에 올라가있는 Tensor 이기 때문에 numpy 혹은 list로의 변환이 필요하다. 오픈소스를 보면 detach(), cpu(), data, numpy(), tolist() 등을 조합해서 변환을 한다. 하지만 stackoverflow나 pytorch dis.. NVIDIA APEX가 빠른 이유 (ft. FP16 vs FP32) 이번 포스팅은 CVML의 APEX 포스팅을 구경 중 FP16이 성능향상을 내는 방법이 궁금해서 찾아보며 적은 글이다. NVIDIA APEX GPU를 업그레이드 하지 않고 batch size를 늘릴 수 있는 방법이 있다. 바로 NVIDIA APEX를 사용하면 된다. NVIDIA에서 만든 "A Pytorch EXtension"라는 패키지로 크게 mixed precision training과 distributed training 기능이 있다. NVIDIA/apex A PyTorch Extension: Tools for easy mixed precision and distributed training in Pytorch - NVIDIA/apex github.com mixed precision training에 .. 이전 1 2 3 4 5 ··· 7 다음
