Machine Learning (10) 코드로 이해하는 Swin Transformer 리뷰 microsoft에서 고안한 Swin Transformer: Hierarchical Vision Transformer using Shifted Windows 논문에 대한 내용을 담고 있다. 본 논문만으로는 한번에 이해 안되는 부분이 몇몇 존재 했다. (예를들어 각 윈도우 내에서의 Self-attention 결과를 어떻게 다음 단계로 넘겨주는지?) 따라서 오피셜 코드를 살펴볼 수 밖에 없었고, 논문의 이해를 돕기위한 코드에 대한 설명을 포스팅으로 공유하고자 한다. Paper, Official Github microsoft/Swin-Transformer This is an official implementation for "Swin Transformer: Hierarchical Vision Transform.. [ECCV2020] - VIPriors Workshop Challenge(Image Classification) 3rd 후기 ECCV2020의 VIPriors Workshop에서 개최한 VIPriors Challenge에 참가하였다. VIPriors Workshop 이란 “1st Visual Inductive Priors for Data-Efficient Deep Learning Workshop” 로, 성능을 높이기 위해 Data를 효과적으로 사용하는 방법에 대해 다룬다. URL 1st Visual Inductive Priors for Data-Efficient Deep Learning Workshop ECCV 202023 August 2020, ONLINE vipriors.github.io 이 Workshop에는 총 4가지 태스크로 Challenge가 진행되었다. Image Classfication (ImageNet) Sem.. Rethinking Pre-training and Self-training 논문 리뷰 - Rethinking Pre-training and Self-training (byeongjokim.github.io) 논문 리뷰 - Rethinking Pre-training and Self-training Pre-training과 Data Augmentation, 그리고 Self-training에 대한 실험 byeongjokim.github.io 이전 1 2 3 4 다음
