Doby's Lab

🤔 Problem오랜만에 PyTorch 관련 글입니다. 최근에는 Generative Model 쪽을 공부하면서 DDPM을 구현하다가 PyTorch의 새로운 기능을 발견했는데요. 바로 오늘 글의 주제가 되는 self.register_buffer()입니다. 본 포스트는 예전에 작성한 포스트들 중에 'nn.Parameter(), 이걸 써야 하는 이유가 뭘까? (tensor와 명백하게 다른 점)'라는 포스트의 후속 편이 되기도 합니다.  이전 포스트의 내용을 간략하게 리뷰해 보면 '모델 내에서 단순히 torch.tensor()를 통해 선언한 텐서는 학습의 대상이 되지 못하고, 이를 명확하게 모델 내 학습을 하는 파라미터로 정의하기 위해서는 nn.Parameter()로 감싸서 추가적으로 선언해야 한다.'라는 내..

한 해가 지났다. 벌써 블로그의 4번째 회고를 할 때가 되었다. 난 가끔 이 회고록을 적는 순간을 기다리면서, 회고록에 들어갈 내용들을 다른 곳에 적어두고는 했다. '이번 해는 이렇게 기억되었으면 좋겠다'는 마음들이 불쑥 튀어나올 때마다 그랬다. 그 모든 글들을 이곳에 기록하여 많은 기억들이 담긴 상태로 두고 싶다만, 그 모든 글들을 다시 가공하여 회고록에 남기기에는 부담이 크다. 회고록은 마음 편히 쓰고 싶다. 오로지 지금 현재의 시점에서 기억하는 2024년을 돌이켜보며, 이전에 끄적인 글들은 참고 정도만 하려고 한다.    2023년 회고록에서는 월별로 했었던 일들, 일어났던 일들을 정리해서 회고를 진행했었다. 이번에는 조금 틀을 무너뜨려서 올해 초반부터 기억하는 것들을 차례로 회고하고자 한다. 3번..