2024년 회고, 그럼에도 불구하고

  한 해가 지났다. 벌써 블로그의 4번째 회고를 할 때가 되었다. 난 가끔 이 회고록을 적는 순간을 기다리면서, 회고록에 들어갈 내용들을 다른 곳에 적어두고는 했다. '이번 해는 이렇게 기억되었으면 좋겠다'는 마음들이 불쑥 튀어나올 때마다 그랬다. 그 모든 글들을 이곳에 기록하여 많은 기억들이 담긴 상태로 두고 싶다만, 그 모든 글들을 다시 가공하여 회고록에 남기기에는 부담이 크다. 회고록은 마음 편히 쓰고 싶다. 오로지 지금 현재의 시점에서 기억하는 2024년을 돌이켜보며, 이전에 끄적인 글들은 참고 정도만 하려고 한다. 

 

  2023년 회고록에서는 월별로 했었던 일들, 일어났던 일들을 정리해서 회고를 진행했었다. 이번에는 조금 틀을 무너뜨려서 올해 초반부터 기억하는 것들을 차례로 회고하고자 한다. 3번이나 회고를 해보니 항상 느꼈었던 것인데, 회고는 과거를 끄집어내서 그것을 기록하는 것보다 '난 그것으로부터 어떤 생각을 하게 되었는가'가 제일 중요하다는 것을 느꼈기 때문이다. 아무튼, 조금 두서없이 편하게 쓰고자 한다.

 

  회고록은 한 해의 인상 깊었던 에피소드들과 그로부터 다음을 바라보는 필자의 생각들로 가득하다. 굳이 모든 것들을 열거할 필요는 없다. 오히려 모든 것들을 담아내려는 것은 내 욕심인 듯하다. 서론이 길었다. 회고하러 가자.

---

  24년 1월, 혼자서 프로젝트를 진행하고 있었다. 이제는 나의 핵심 키워드 중 하나가 된 One-Man Show(OMS)라는 프로젝트였다. 이 이름은 내가 지었다. 블로그에서 언급할 때마다 적응이 안 되고 부끄럽긴 하다만, 꾸준히 언급하고 있다. 이 프로젝트의 동기는 불안, 단 하나였다. 23년 2학기에 복학을 했던 시점에 학점이 너무 낮아서 원하는 방향으로 나아갈 수 있는가에 대한 의구심 때문에 비롯된 불안이었다. 그 악순환에 빠져 돌고 돌다가 그런 생각을 했던 거 같다. '결국에 대학원은 연구를 하는 곳이니까 그럼 연구를 스스로 할 수 있는 사람이라는 걸 보여줘야겠다.' 오로지 그 일념 하나로 도전을 했었다.

 

  데이터셋 찾기, 아이디어, 논문 리뷰, 실험 코드 준비, 여러 번의 실험, 논문 작성, 투고 등 지금 와서 돌이켜봐도 그 당시는 너무 힘들었다. 혼자서 하겠다는 그 고집에 주변 사람들에게 물어보지도 않고 진행했다. 무엇보다 물어보면 타인에게 조금이라도 의존할 거 같아 물어볼 수 없었다. 국내 저널은 리뷰 기간이 짧긴 하다만, 내 논문은 명절, 담당자의 퇴사로 유독 리뷰 기간이 길었다. 그 기간 동안 하루 종일 투고 사이트에 들어가서는 '리젝 되면 어떡하지...'같은 초조함 속에 살았다.

 

  그래서, 그 당시에 긍정이라는 요소가 중요하다는 것을 알았다. '억셉될 것이다'같은 막연한 긍정보다 '리젝 되면 내 연구의 부족함이 뭔지는 알게 되니까, 더 보완해서 다시 도전하면 더 나은 연구를 세상에 내놓을 수 있는 거다'같은 최악의 상황에서 할 수 있는 긍정을 생각했다. 그렇게 마음을 먹으니 한결 편해졌었고, 진심으로 그렇게 생각했다. 지금도 여전히 멋진 연구를 하고 싶다는 것은 내 가장 큰 목적 중 하나다. 언젠가 연구를 하다가 논문을 공들여 쓰더라도, 리젝 될 일이 일어날 것이다. 그때가 되면, 이를 더 나은 연구를 할 수 있는 기회라고 생각할 수 있는 긍정을 갖고 있었으면 한다.

 

  아무튼, 그런 초조함과 긍정이 엎치락뒤치락하는 반복의 굴레에서 수업 중 메일을 하나 받았다. 메일의 내용은 "아래 논문의 심사 결과 '게재가'로 판정되었습니다." '수정 후 게재' 1차 판정을 받고, 리비전 내용을 토대로 최종 투고를 한 상황이었다. 물론, 수정 후 게재 판정이라 억셉은 수정만 하면 끝이라는 생각은 있었다만, 최종 판정 메일을 받고서야 드디어 끝이 났다는 기분이 들었다. '게재가' 판정을 받으면서 첫 저널 논문 프로젝트는 끝났다.

---

  1차 투고를 했을 때가 2번째 다이브를 시작했을 때였다. 이때도 새로운 도전을 하고픈 마음에 Medical LLM 팀으로 갔다. 결론부터 말하면 LLM 관련 프로젝트를 수행하지는 못 했다. 당시 계획을 진행하기 위해 LLaMA의 Initial Weight를 필요로 했다. 이를 받을 수 있는 곳에 구글 폼으로 요청하였으나, 응답이 없었다. 또한, LLM이라는 많은 자원을 필요로 하는 프로젝트를 단순히 코랩으로 진행하기에는 다소 무리가 있었다.

 

  그래서, 2주 정도 남은 시간에 새 프로젝트를 주제를 잡아야 했는데 이때는 멘토님이 새로운 주제를 잡는데 큰 도움을 주셨다. 당시 나온 지 얼마 되지 않은 Mamba라는 아키텍처를 사용하는 프로젝트였다. 2주 남짓한 시간에 Mamba를 이해하기에는 턱없이 부족했고, 활동이 마무리되고 나서 잠깐 새로운 기술에 대한 거부감이 생겼었다. 연구자로서 제일 기피해야 할 자세이지만, 그 2주 동안의 부담 때문에 몇 십분 단위로 두통이 오던 걸 생각하면 당연한 수순이었다. (프로젝트는 다행히 잘 마무리되었다.) 

 

  이 거부감을 가지고 있으면 안 된다는 마음에 이것저것 하다가 ConvNeXt을 제안한 논문을 읽었다. 해당 논문에는 이런 문장이 있다.  "the essence of convolution is not becoming irrelevant; rather, it remains much desired and has never faded.(Convolution은 사라지는 것이 아니라 여전히 필요하며, 그 본질은 희미해지지 않았다.)" 이 문장이 나왔던 배경은 ViT가 등장하고 난 이후였다. ViT가 세상에 나오고 나서 Computer Vision의 모든 문제들은 Transformer 기반 모델이 해결할 것으로 보였다. 그러면서 기존 Convolutional Network는 점점 잊히는 듯했다. 하지만, 이에 대해 반박이라도 하는 듯 Convolutional Network기반의 ConvNeXt를 제안하며 ViT를 일부 Task에서 outperform 했다는 결과를 보여주었다. 

 

  저 문장에 이유 모를 위안을 받았다. 그제야 깨달았다. Mamba 프로젝트를 하면서 '이전에 공부했던 것들이 다 무의미해지는 건가'라는 허무함에 사로 잡혀있었기 때문이다. 그래서, 저 문장은 내가 해왔던 것들이 무의미하지 않다고 얘기하는 듯했다. 하지만, ConvNeXt 논문을 보면서 위안만을 받았던 건 아니다. 더 중요한 것을 배웠다.

 

  논문을 읽어보면, ConvNeXt가 나올 수 있었던 건 ViT가 세상에 나왔기 때문이다. 당연한 소리 같겠지만, 여기에는 큰 교훈이 있었다. 특이하게도 이 논문은 5가지 단계로 나누어져 있다. 각 단계 별로 어떠한 기여를 통해 최종적으로 ConvNeXt가 제안될 수 있었는지 서술되어 있다. 중요한 점은 각 단계에서 빠짐없이 등장하는 단어가 'Transformer'이다. Transformer의 특징, 장점, 설계 등을 참고하여 Convolutional Network에서는 어떻게 적용시킬 수 있으며, 이러한 점들이 어떻게 결합되어야 뛰어난 결과를 도출할 수 있는지 빼곡히 펼쳐내고 있었다.

 

  즉, 저자들은 오로지 풀고자 하는 문제에 집중하고 있었다. 그들은 'Convolutional Network의 한계 테스트'라는 문제를 정의했었고, 이 문제를 풀어내기 위해 당시 SOTA라 불리는 ViT, Swin Transformer 같은 뛰어넘어야 할 산들을 역으로 참고했다. 그게 신기술이든 뭐든 그들은 개의치 않은 연구자들처럼 느껴졌다. 'SOTA가 ViT라면, 그 근거는 무조건 있다. 그렇다면 Transformer가 왜 좋을까? 이걸 Convolutional Network에 적용할 수 있는 방법이 없을까?'같은 고민을 했을 거란 연구자들을 상상하면, '아, 이게 연구구나' 같은 짜릿함을 느끼기도 했었다. 그래서, 이전에 느꼈던 허무함은 단순히 '내 지식의 무의미 해지는 것'에서 오는 것은 아니라 느꼈다.

 

  연구라는 것을 함부로 정의할 수는 없지만, 개인적으로 느끼기에 연구는 '무슨 문제를 풀고 싶은가? 그 문제는 왜 풀어야 하는가?'에서부터 시작한다고 생각한다. 본인이 명확하게 풀고자 하는 문제가 있다면, 그게 신기술이든 뭐든 개의치 않을 것이라 확신을 갖게 되는 논문이었다. 그러니 우리에게 늘 필요한 것은 '문제 정의'다.

---

  지난 5월부터 학부연구생을 시작했다. 2023년 말쯤부터 3번 정도 컨택을 했다. 솔직하게 말하면 One-Man Show 이전까지 학부연구생은 대학원을 가기 위한 일종의 스펙으로 생각했다. 하지만, 혼자서 연구를 해보니 느꼈다. 무조건 배워야 한다. 연구에 대해 배우고 싶다는 생각이 간절했다. 그러던 찰나에 다시 시도한 3번째 컨택 때, 교수님께서 의료 영상 쪽의 연구를 계획 중이라는 소문도 들었고 마침내 연락도 닿았다. 모든 것들이 맞물려 돌아가기 시작했었다.

 

  병원에서 이런 AI가 필요하다며 데이터를 제공해 주고, 여러 시도를 해보면서 유의미한 결과를 도출하는 연구였다. Medical AI를 하는 입장에서 이런 연구는 내 꿈 중 하나였다. 병원과 협업해서 진행하는 일을 이렇게 빠른 시일 내에 진행할 수 있을 거라고는 상상도 못 해봤다. 그래서 잘하고 싶었다. 교수님과의 매번 미팅 때마다 많은 긴장을 하면서도 정말 많이 배웠다. 

 

  하지만, 그 무엇보다도 첫 미팅 때가 제일 기억에 남는다. 교수님께서는 내가 어떤 사람인지를 물어보셨다. 왜 AI를 하고 싶은지, 그 목적이 무엇인지를 물어보셨고 그에 대해 편하게 대답하라고 하셨다. 그 당시까지도 대학원 진학에 대해서 걱정을 하고 있었기 때문에 대학원이라 답했다. 이 답변이 얼마나 멍청했는지를 안다. 교수님께서는 더 멀리 봤을 때 뭘 하고 싶은지를 다시 물어보셨고, 대답하기가 어려웠다. 미래에 대해 안일했다는 생각과 그럴 틈도 없이 바빴다는 생각이 동시에 들었다.

 

  그 이후로 시간이 날 때마다 난 뭘 하고 싶은 건지 찾아봤다. Medical AI를 하고 싶은 이유는 명확했지만, 내 목적이 무엇인지를 몰랐다. 막연한 연구라기에는 또 걸림돌이 있었다. 뭘 연구하고 싶은지, 내 주요 연구 분야에 대한 정의가 필요했다. 다 해봐야 알 거 같았다. 이런 고민 때문에 중간고사 시험 준비 기간에도 집중을 잘 못 했던 기억이 있다. 지금은 어느 정도 갈피가 잡혔다. 주요 연구 분야를 정했다기보다는 해보고 싶은 것들이 있다.

 

  연구실 자리는 2학기 개강을 하면서 생겼다. 학부연구생 과제를 4개월 간 기숙사에서 딱딱한 의자와 높이가 맞지 않는 책상에서 수행했다. GPU도 따로 없었기 때문에 Colab을 써가면서 실험을 했었다. 그러다가 한 번은 목이 너무 아파서 병원을 가서 사진을 찍었더니 완벽한 일자목이었다. 한 달 동안 도수치료를 해가며 연구를 진행했었다. 이런 고된 상황을 보내다가 연구실 자리가 생긴다니 너무 좋았다. 연구실에는 푹신한 의자, 넓은 책상, 성능 좋은 GPU가 여러 대 있다. 참 행복했다. Docker를 공부해서 GPU를 쓸 수 있도록 세팅한 후에 여러 실험을 돌렸다. 부담 없이 GPU를 쓸 수 있다는 게 말이 안 되는 순간이었다.

---

  학부연구생은 5월에 시작해서 9월에 연구실에 들어가게 되었으나, 그 사이 방학이었던 8월에 잠깐 다른 연구를 진행했었다. 이 연구는 3~4월쯤에 OMS가 완전히 끝나고, 생각했던 OMS 2다. OMS를 통해 새롭게 알게 된 기존의 한계점들에 또 도전을 하기 위함이었다.

 

  연구를 진행하던 당시에 힘들었던 기억은 없었다. 연구 목적, 문제 정의가 명확했었기 때문에 어렵다고 생각이 들진 않았다. 이외의 것들에 때문에 생각이 많았을 뿐이다. '앞으로도 연구를 이렇게 하면 될까?'라는 의문이 들었다. 물론, 이에 대해 정답은 없겠다만 바른 길을 걷고 있는가에 대한 궁금증이었다. 이 의문은 연구가 끝나고 나서 두 달 후에 열린 학술대회 포스터 세션에서 해소되었다. 많은 사람들이 질문을 해주셨고, 조언도 아낌없이 해주셨다. 

 

  그런 시간 속에서 암묵적으로 느꼈던 거 같다. 앞으로도 이렇게 연구하면 되겠다는 것을 느꼈다. 어떻게 걸어야 할지를 이제야 터득한 기분이었다.

---

  기억에 남는 에피소드들은 이게 끝이다. 물론, 기억해보려 한다면 더 있을 것이다. 하지만, 강렬한 순간들은 이게 전부다. 억지로 쓰고 싶지는 않다. 지금 이 글도 점심에 시작해서 저녁 8시 넘어서까지 쓰고 있다. 글 쓰는 건 분명히 어렵다. 있었던 일들을 열거한 거뿐인데도 시간이 이렇게 지났다. 

 

  올 한 해를 종합적으로 돌이켜보면, 집중력이 부족하던 한 해였다. 내가 믿고 나아가는 가치관이 흔들릴 수 있는 순간부터 사소한 것들까지 모든 것들에 방황했다. 그저 내 일을 수행하면 되는 것을 어찌 갈대같이 흔들리며 바람에 따라 올곧게도 넘어가주는지 가끔은 두 귀를 막고 살고 싶었다. 어쩌면 나쁘다고만 하는 고집을 어느 정도는 갖고 살아야 하는지 모르겠다. 

 

  또한, 균형이라는 걸 생각해봤다. 늘 고민이 많다. 흥미를 느끼며 사는 삶인가, 목적을 이루며 사는 삶인가. 진심으로 고민한다. 때로는 흥미가 맞다고 생각하며 관심 있는 논문만 읽어보기도 하고, 때로는 목적이 맞다고 생각하며 흥미는 뒤로 하고 프로젝트에 혈안 되어 있기도 하다. 두 가지 삶에서 모두 행복을 느껴봤기에 어느 하나 정답이라고 할 수가 없었다. 그러다가 문득 하나만 정해두고 살아가야 할까라는 질문을 던졌고, 균형을 생각하게 되었다.

  

  흥미와 목적의식은 서로 극과 극 같은 성질을 갖고 있어서 절대 양립할 수 없다고 생각했다. 왜 그런 생각을 했는지는 아직도 알 수가 없다. 목적을 위해 달리다가도 흥미를 느끼기도 하고, 관심 있는 논문을 읽다가도 다 이해하고야 말겠다는 목적이 생기기도 한다. 결국 둘의 종점은 몰입에 있다. 난 그저 그 일에 집중하면서 스스로 균형을 잘 잡고 있으면 된다. 그래서, 올해 2025년에 가져야 할 가장 큰 덕목은 자기 통제다. 스스로를 잘 다루어야 흥미든 목적이든 잘 이어나갈 거 같다. 균형을 잘 잡으면서 원하는 것들을 이루었으면 하는 한 해가 되길 바란다.

 

  당연히 올해도 목적들이 있다. 그중 하나는 마지막이 될 OMS 3가 있다. 그리고, 교수님께서 던진 질문에도 답변할 수 있는 3가지의 구체적인 꿈들이 생겼다. 이 꿈들은 앞으로 연구자로서 이루어가고 싶은 꿈이며, 이를 위해서는 아직 갈 길이 멀다.

 

  2024년도 늘 그렇듯이 흔들리고 방황하는 시간들을 보냈다. 그럼에도 불구하고, 앞으로 나아갔던 스스로에게 고생했다는 인사를 전하며 스물다섯이 된다. 

 

  올해도 수없이 방황할 것이다. 학부를 마무리해야 하는 해이기에 미친 듯이 방황할 것이다.

 

  그럼에도 불구하고, 더 멋진 연구들을 해낼 수 있을 것이라는 확신과 조금은 더 나은 사람이 되길 바라는 마음과 함께 회고를 마친다. 

 

  고생했다, 2024!

2024, 자주 찾아들었던 곡