[부스트캠프 AI Tech 8기] 12주차 회고

 

 

 

 

 

 

 

 

 

 

 

1. 한 주 개요

 

 

 

 

이번 주..는 평일 사이사이에 저녁 일정들도 있었고 다시 또 해야될게 많은데 뭘 하면 좋을까-의 굴레에 빠지기도 하면서 집중이 저번주보다는 많이 떨어졌던 한 주였다

강의를 보려하니 앞의 내용들 어느정도 이해되야 따라갈 수 있고, 그냥 한번 보려니 이해안되서 집중 안되고 졸리고.. 그렇다고 모델들 공부하면서 강의 깊게 보려고 하니 다음주 목요일이 디텍션 대회 마지막날이라 할 것들을 좀 찾아서 정리도 해야되고... 그냥 정신이 하나도 없다

 

저번주에 나름대로 맞는 학습 방법도 적용해보고 좀 안정적인 상태가 되나 싶다가도 이것도 해야되고 저것도 해야되고 근데 시간은 한정되어있는 상황이 되니까 어떤거부터 해야하지 하고 오히려 손을 놓게 된다

왜 이렇게 해야할 것을 제대로 정리 못하고 방황했을까 생각해보니 무의식적으로 시작한건 제대로 해야하고 알아야되는, 그렇지 않으면 안된다는 완벽주의 성향이 크게 작용한 것 같다

 

 

 

 

 

 

 

 

---

 

 

 

 

 

 

 

2. 이번 주 주요 내용

 

 

 

 

 

위에서 적은대로, 할건 많고 시간은 한정적이고 너무 혼란스럽다

화요일 두런두런에서 교육 내용들을 최대한 소화하려고 노력하는게 좋을 것 같다고는 하셨지만 강의랑 진행 중인 대회랑 뭔가 통합적으로 되지 않고 따로 가는 느낌이 너무 커서 어디 하나에도 집중이 안된다

대회는 대회대로 이것저것 다양하게 해봐야할 것 같은데 그러면 강의는 못보고, 강의를 보고 있으니 내용 이해가 안되서 논문이랑 자료들 찾아봐야 조금씩 이해가 되는데 그러면 대회에 손을 못대고...

 

디텍션 전반적으로 한번 보고 넘어가고 싶었으나 힘들 것 같다

 

https://bh-kaizen.tistory.com/75

[Object Detection] Fast R-CNN 살펴보기

 

그래도 Fast R-CNN 보고 Faster R-CNN은 블로그글들 위주로 대략 살펴보긴 했는데 이걸 보고 안보고의 차이가 강의를 볼 때 확실히 체감되었다

강의에서는 짧은 시간 내에 많은 모델과 기술, 변천사를 압축하다보니 정말 중요한 포인트들 위주로, 그것조차도 30분에서 길어야 1시간 이내로 다룰 수 밖에 없는데 한번 보고서 이해를 하기는 쉽지 않았다

이해하는데 필요한 부분들을 외부 자료를 통해 채우고서 강의를 보니까 아 이걸 왜 쓰는구나가 더 와닿았던 것 같다

제미나이를 이용해 논문을 같이 보는 방법도 좋았다

기능 중 가이드 학습이 있는데 이걸 사용하면 그냥 답을 정리해주는게 아니라 문제와 힌트를 논문에서 보고서 질문을 주고 여기에 답변을 달아보면서 좀 더 기억에 남았었다

 

ChatGPT는... 둘다 무료에서 사용했을 때도 제미나이가 더 좋았고 오랜 기간 구독 안했을 때 지피티가 한달씩 무료 뿌리는거 받아서 사용해봤는데도 영.. 시원찮다

남은 Production 기간 동안에는 제미나이 프로를 결제해서 사용해야겠다

 

강의 내용도 디텍션에 대해 전반적으로 다룰 뿐 아니라 중요한 모델들은 과제로 코드 실습까지 있어서 (Faster R-CNN, Yolo, FPN 등) 주말까지 강의랑 실습까지는 어떻게든 잘 마무리해보고 싶다

 

 

그리고 화요일에는 2주마다 진행되는 성윤님의 두런두런 세션 2회차

이전 세션에서는 성윤님에 대한 소개와 어떤 삶의 방식을 가지고 계시는지 공유, 그리고 부캠에 대한 시작과 스스로를 돌아보는 것이 주 내용이었다면 이번에는 부캠을 하면서 공통적으로 가지는 취업과 학습 성취 등에 대한 불안, 걱정 등 다들 어떤 감정과 생각을 가지고 있는지와 여기에 대해 어떤 태도를 취하면 좋을지, 어떤 방향성으로 공부를 쭉 하면 좋을지 등등 좋은 인사이트들을 공유해주셨다

 

보통 우리가 불안과 걱정을 느끼는 것은 통제할 수 없는 것에서 많이 온다

당장의 취업, 사람간의 관계, 앞으로의 미래까지. 통제할 수 없는 것은 말 그대로 답이 없다. 

미리 걱정해도 해결되지 않고, 걱정한대로 흘러가지만은 않는다

그러니 지금 당장 내가 할 수 있는 것에 집중하는 것. 현재를 최대한으로 몰입해 사는 것으로도 걱정하는 것의 많은 부분들이 해결될 수 있다. 물론 쉽지 않다.. 많이 어렵지만..

 

내가 통제할 수 있는 것에 집중한다면 이제 메타인지, 내가 현재 상황에서 어떤걸 얼마만큼 현실적으로 할 수 있을지 바운더리를 잘 잡아보는 것

취업을 준비한다면 코테도 골드 이상 만들고 면접 연습도 해야하고 준비해야할 것들이 너무 많다

다 할 수 있으면 정말 좋지만 현재 교육을 따라가는 것만으로도 벅찬 시점에서 무언가를 벌리고 발산하는 것은 스스로에게 너무 큰 부담을 줘서 오히려 포기하게 만들 수도 있다

그러니 지금은 취업에 대한 걱정은 잠시 내려두고 공부에 집중하기, 최대한 교육 내용을 소화하려고 하기

뭔가 교육 외에도 별도로 병행하고 싶은 것이 있다면 교육과 같은 방향성을 가진 것으로 설정해서 최고의 효율을 뽑아내기 ( ex: 디텍션 대회나 교육을 진행하면 관련된 모델 논문을 보거나 공부하기 등)

• 교육을 잘 듣고 최대한 소화를 한다
• 작게라도 배운 것, 필요한 것을 구현해본다
• 위에서 얻은 것들을 통해 프로젝트에서 적용해본다
• 교육이 끝나고서 프로젝트를 돌이켜보고 한번, 여러번 개선한다

위의 내용들은 취업을 잘 하는 사람들의 특징이라고 한다

이걸 보고서 나는 아직도 내용을 단순히 정리만 해보고 수동적인 학습 방식을 취하고있으며, 직접 구현해보는 경험이 많이 비어있다고 느꼈고 남은 기간에는 어떻게 해야 이런 경험들을 많이 쌓고 능동적으로 학습을 할 수 있을지, 습관으로 만들 수 있을지를 계속 고민하고 적용해보는 시도들이 필요하다

 

또한 교육이든 일을 하든 어디에 있든지 남들과의 비교를 안할 수가 없다

특히 이런 부캠에서는 비전공에서 컴공이나 석사까지 다양하게 풀이 존재하기에 잘 하는 사람을 보고서 무의식적으로 비교를 하게 된다

같은 나이에 저 사람은 이렇게까지 할 줄 아는데 나는? 그런데 사실 절대로 같은 비교 선상에 놓일 수가 없는 조건이지만 너무나도 단편적으로 본다

요즘 책 AI 엔지니어링을 보면서 중요하다고 느꼈던 부분이 바로 컨텍스트와 검증, 평가다

LLM에게 더 좋은 컨텍스트를 잘 전달해줘야 모델이 좋은 성능, 판단을 내릴 수 있으며 이걸 평가하기 위해선 정말 철저하게 조건들을 따져서 측정한다

사람도 마찬가지다. 아니 어쩌면 사람에서 출발했기에 LLM도 이러한 특성을 가지고 있는게 아닐까 싶었다

평가를 한다면 여기에 대한 조건들은 엄밀하게 설정되어야한다

잘 하는 사람이 있다면 그건 그 사람이 더 많은 시간과 노력을 투자했음을 의미하며, 얼마 안되는 인풋으로 비교를 하는건 그 사람에 대한 평가를 비정상적으로 하는 것과 같다

그런 측면에서 평가 환경을 정확하게 설정할 수 있는 스스로에게만 한정하여 평가하는 것이 제일 좋다

우리가 해야할 행동은 비교와 평가가 아닌, 잘하는 사람에게 어떤 방식, 경험을 쌓아왔는지를 물어보는 것이다

 

그리고 불안함과 번아웃에 대해서도 잘 설명해주셨다

어디서 오는지 원인을 분석하고, 그럼 내가 여기에 어떻게 대처할 것인지 정리해보는 등..

우쿨렐레 치시는걸 글또 모각글에서 직관 못했는데.. 두런두런 우쿨렐레 연주 기대 1일차 🙏

 

학습 전략!!

학습이 잘 되셨던 상황은 아래와 같다고 하셨다

• 풀어야 하는 문제와 직결된 내용을 학습할 때
• 자기 주도적으로 생각해서 재구성할 때
• 결과물이 보이면서 피드백을 보고 더 개선할 수 있을 때
• 목표를 유연하게 가져갈 때
• 팀원, 동료들과 같이 진행할 때
• 어떻게 활용하면 좋을지 상상이 되고, 그 이후에 무슨 일이 있을지 예상할 수 있을 때

물론 개인마다 언제 어떻게 해야 공부가 잘되는지는 모두 다르기 때문에 각자에게 유효한 학습 전략을 찾아내고 구축하는 것이 정말 중요하다

하나 확실한 것은 이전의 수능, 자격증 공부 방식에서 탈피해야한다는 것

우리가 해결해야할 것들은 정답이 없고 야생의 문제들이다

여기에서 함께 자라기도 참고하셔서 연말까지는 꼭 완독을 해야겠다..

 

 

성윤님의 학습 전략에서 현재 공부에 어떻게 적용해보면 좋을지 봤을 때

• 목표 정의. 이걸 배워서 어디에 써먹을 것인지 구체적으로 정의.
  • 지금까지는 이게 이번 주 교육 커리큘럼이니까 배우지- 였고 어딘가에 쓰겠다 까지는 생각하지 않았다
  • 앞으로는 뭔가를 공부하더라도 이걸 어떻게 활용할지, 어디서 쓸 것인지도 정리해봐야겠다
  • ex) 모델 공부를 한다 -> 대회에서 모델을 돌릴 때 이 모델은 이러한 특징이 있으니까 이걸 쓰면 더 좋을 것 같다, 벤치마크와 다르게 현재 사용하는 데이터에는 모델의 이런 부분을 조정하면 더 좋을 것 같으니 수정해서 사용해보자
• 관련된 자료, 레퍼런스들을 찾아보는데 모든 내용들을 다 볼 수 없으니 여기에 시간을 많이 쓰지 않음
  • 이 부분은 많이 찔렸다... 뭔가 공부를 하려고 하면 책이나 강의 같은 기본서, 이론부터 찾고서 처음부터 보려는데 물론 필요한 부분이기도 하지만 실제 공부는 그렇게 여유롭게 흘러가지 않으니까... 너무 단순하고 쉬운, 편한 길만 찾는 것이기도 하다
• 여기서 자료들을 목표에 어떻게 재구성할 것인지, 전체적인 그림을 그리고서 어디에 자세하게 파볼 것인지 
  • 이건 공부 자료들을 그냥 처음부터 쭉 따라가는 것보다는 내가 먼저 정의한 목표에 맞게 어디에는 집중하고 어디는 스킵하는 등 공부의 우선순위와 완급 조절을 하는 것
• 제한된 시간 안에 학습하되 난이도에 따라 다르게 설정한다. 늘어지지 않도록 너무 길게는 설정하지 말 것
  • 데드라인 정하기. 그래도 교육은 커리큘럼으로 데드라인이 정해져있어서 이걸 기준으로 더 쪼개서 봐도 좋을 것 같다
• 중간 결과물을 만들어보기, 프로토타입. 지금 교육에 맞게 바꾸면 배운 내용을 간단하게 구현해보는 것
  • 직접 구현해보는 이 부분이 가장 실천이 안되는 부분이다
• 나중에 써먹을 수 있게끔 템플릿으로 정리하고 글로 한번 더 정리
  • 구현하는 부분을 건너뛰고 먼저 글로 정리해보고 있는데...

 

어떤 내용을 학습할 때 '배운 것을 정말 작게 구현해보면 어떻게 할 수 있을까?" 를 자주 떠올린다

작게 == 시간이 오래 걸리지 않고, 부담이 되지 않게
작게 구현해보면 문제점들이 발견되는데 여기서 계속 확장해나간다
이런 구현하고 또 발생하는 문제점을 해결해보는 경험을 쌓다보면 이것이 면접의 장점이 되고 실무에서도 더 빠르게 잘 적응할 수 있게된다
또한 어떤 반복되는 비효율적인 부분이 있다면 자동화 템플릿, 라이브러리를 만들어서 최적화도 해볼 수 있다

 

 

 

아래는 인상 깊은 학습 방법이어서 가져와봤다

고졸 출신이 OpenAI 연구원이 된 이야기 (정말 많이 공감되는 AI 시대 학습법)

고졸 출신이 OpenAI 연구원이 된 이야기 (정말 많이 공감되는 AI 시대 학습법)

스웨덴 시골 마을 고등학교 중퇴자가 어떻게 최고의 기업인 OpenAI, 그것도 Sora 팀의 연구원이 됐는지 가브리엘 피터슨이 직접 그 비결을 풀었습니다.

AI 시대에 어떻게 변화해서 학습하고, 앞으론 어떻게 커리어를 쌓아야 하는지에 대한 "진짜 공략집"입니다.  

특히, "아하! 모먼트"가 들 때까지 AI를 놔주지 않는 것.. 너무 공감되었습니다. 너무 좋은 내용이라 정리해서 공유해드립니다. 

1. 공부 순서를 완전히 Top-Down 방식을 따르라고 합니다.

우리는 보통 기초부터 닦고 응용으로 넘어갑니다. 수학 배우고, 선형대수 배우고, 그제야 머신러닝을 하죠. 가브리엘은 정반대입니다. "일단 프로젝트부터 만들어라"라고 합니다. 코드를 먼저 짜고, 버그를 고치고, 작동하면 그때 "왜 작동하지?"를 파고들어야한다고요.

2. AI에게 집요하게 물어보기 (재귀적 갭 채우기)

모르는 게 나오면 챗GPT한테 끝까지 물어보는 겁니다. "이 코드가 왜 작동해?" -> "행렬 곱셈 때문이야" -> "행렬 곱셈이 뭔데? 직관적으로 설명해 줘" -> "그래프 그려줘". 이렇게 꼬리에 꼬리를 물고 내려가면 3일 만에 Diffusion Model의 기초를 다 뗄 수 있습니다. 학교에서 6년 걸릴 걸 며칠 만에 끝내는 거죠. 

(개인적으로 너무 공감되는 방법입니다)

3. 진짜 문제'를 찾아라. 그게 최고의 스승이다.

학교 공부가 지루한 건 '압박감'과 '실전성'이 없어서입니다. 가브리엘은 스타트업에서 실제 제품 추천 시스템을 만들며 코딩을 배웠습니다. 고객사 웹사이트를 스크래핑하고, A/B 테스트를 돌리면서 "당장 해결해야 하는 문제"에 닥치니까 뇌가 스펀지처럼 흡수하는 거죠.

4. 이력서 대신 '데모'를 보여주기

이젠 아무도 어느 학교 나왔는지 궁금해하지 않습니다. 기업은 딱 하나, "돈을 벌어다 줄 수 있는가"만 봅니다. 복잡한 자기소개서 대신, 클릭 한 번으로 당신의 실력을 증명할 수 있는 '데모 링크'를 보내라고 합니다. 가브리엘은 고객사 문 두드릴 때 아예 그 회사의 추천 시스템을 개선한 결과물을 인쇄해서 들고 갔습니다. 

5. '나를 위한' 조언만 듣기

대부분의 조언은 무시해도 된다고 이야기합니다. 특히 본인의 경험에 갇힌 사람들의 조언은요. 가브리엘은 부모님이나 학교 선생님의 "안전한 길로 가라"는 말 대신, 자신과 결이 맞는 사촌의 조언을 따랐습니다. 자신의 인센티브와 맞지 않는 사람의 조언은 과감히 필터링하라고 합니다.

6. 기회는 '밀도'에서 나온다

왜 굳이 샌프란시스코로 갔냐는 질문에 이렇게 대답합니다. 거기엔 '나처럼 생각하고, 나처럼 일하는' 미친 사람들이 모여있기 때문이라고요. 환경이 주는 레버리지는 상상 이상이라고 강조합니다. 

<가브리엘이 학습할 때 사용했던 AI (프롬프팅) 활용 방법>

1. "12살짜리에게 설명하듯" 비유를 요구하세요

어려운 개념(임베딩, 역전파 등)이 나오면 절대 그냥 넘어가지 마세요. 이해가 안 되면 "내가 12살이라고 가정하고 설명해 봐"라고 시켜보라고 합니다. 그러면 AI가 서점, 책, 도서관 같은 현실 세계의 비유를 들기 시작한다고요. (저도 많이 쓰는 방법인데, 추상적인 수학이 직관적인 그림으로 바뀌는 순간을 경험할 수 있습니다)

2.왜 다른 방법은 안 돼?"라고 반문하기

정답만 알면 응용을 못 합니다. "왜 이 방법을 썼어? 다른 옵션은 없었어? 그건 왜 작동 안 해?"라고 집요하게 물어보았다고합니다. 성공 사례뿐만 아니라 실패 사례까지 학습해야 진짜 실력이 늘기 때문이죠. 여러분도 AI가 제안한 코드에 대해 의심하고 토론하세요.

3. 논문은 '차이점' 중심으로 요약시키기

쏟아지는 AI 논문을 다 읽을 순 없습니다. 가브리엘은 논문을 던져주고 "기존 기술이랑 비교했을 때, 정확히 뭐가 다른지 리스트로 뽑아줘"라고 시킵니다. 핵심 아이디어와 변경점만 빠르게 파악하고, 내 코드에 적용할 만한 가치가 있는지 판단하는 거죠. 전체를 정독하는 건 그 다음 문제로 보았다고 합니다.

4. 코드의 '중간 과정'도를 보여달라고 하기

코드를 짤 때 단순히 "코드 짜줘"로 끝내면 안 됩니다. 텐서의 크기가 어떻게 변하는지, 데이터가 흘러가면서 어떻게 되는지 중간 과정을 눈으로 확인해야 한다고요. 그래야 코드가 '어떻게' 작동하는지 직관적으로 이해할 수 있다고 꼭 중간 과정을 요청하라고 이야기합니다. 

이 인터뷰를 보면서 느낀 건, AI 시대의 인재상은 '지식을 쌓는 사람'이 아니라 '지식을 탐색하고 연결하는 사람'이라는 겁니다. 지금 당장 챗GPT를 켜서 내가 모르는 분야를 바닥까지 파고들어보세요!

이 내용처럼 AI를 활용하되, 하나부터 열까지 다 알려달라고 하는 것이 아닌, 내가 직접 해보는 부분이 있어야한다

처음에는 큰 그림 위주로, 대충 어떤 내용인지 보고서 관심있는 디테일한 부분을 학습한다

 

과제를 하면서 직접 구현해보기. AI에게 단순 요청이 아니라 "생각" 을 많이 하기

 

 

발표의 몇몇 내용을 인용하고 어떻게 적용해볼지도 생각해보고 정리를 해보았다

이번에도 유익한 내용들이 많았고 일부라도 꼭 적용해보고서 다음 주간 회고에서 어떤 결과가 나왔는지 적어봐야겠다

 

 

 

 

 

 

 

 

 

 

3. 피어세션 정리

 

 

 

저번 주까지는 최종 프로젝트의 주제 선정에 대해 쭉 이야기를 나눠왔다면 이번 주부터는 객체 탐지 대회가 시작되면서 이걸 어떻게 진행할 것인지에 대해서 피어 세션을 진행하였다

 

제출이 열리기 전까지는 어떻게 서버 셋팅하고 진행할 것인지, uv를 사용하기로 했고 팀마다 3개 GPU 서버를 받아서 2명씩 나눠서 사용하기로 했다

실험 기록은 Wandb 사용하고.. 지라도 써보면 좋겠지만 시간상 이거 셋업하고 사용법 익힌 다음이면 대회가 끝날 것 같았다

 

대회가 참 아쉬운게 기간이 너무 타이트하다

이것저것 셋팅하고 정리하고서 시작하면 실질적인 참여 기간은 일주일 정도...

데이터에 대해 분석하고 어떻게 접근할지, 모델이나 데이터 핸들링 등 어떤 기법을 사용해서 탐지를 잘하게 만들 것인지, 오탐이나 미탐에 대해서는 어떻게 해결할 것인지 등등 전략을 수립할 기간이 거의 없고 일단 모델 돌리기, 앙상블해서 점수 높이기 이걸로 귀결되는게 커서 아쉬움이 크다

다음 주까지는 낭비 시간도 최대한 줄이고 잠도 줄여서 집중해봐야할 것 같다

 

 

 

 

 

---

 

 

 

 

 

 

 

4. 회고

 

 

 

Keep

이번 주 잘한 점, 유지하고 싶은 것

• 이번 주 잘한게 뭐가 있을까...
• 저번 주말부터 평일 동안 카페인을 안마시거나 마셔도 디카페인 마시면서 섭취량을 줄였다
• 헬스장 다시 등록 완료. 주 3회 쭉 유지하기
• 아침은 유산균만 먹고 공복 유지

 

Insight

이번 주 동안 느끼고 깨달은 점

• 그냥 공부하는 것이 아니라 목적성을 부여하기
• 그리고 직접 작게라도 구현해서 이론을 몸으로 체득하기

 

Problem

아쉽고 개선하고 싶은 것

• 커피는 안마셨지만 1~2시쯤 자면서 취침 시간대가 밀리고 불안정해졌다
• 식단 개선이 정말 쉽지 않네..
• 안정적이였던 저번 주에 비해 중간 중간 루즈해지고 집중을 못했던 시간들이 꽤 있었다
• 강의에서 바로 이해가 안되는 내용들 보면 잠오고 집중을 못한다..

 

Emotion

이번 주 감정 점수와 이유

• 6점
• 이른 연말 모임도 재밌게 보냈지만, 집중이 떨어졌던 시간들 때문에 아쉬웠다

 

Try

다음에 시도하고 싶은 구체적인 액션

• 운동! 수면! 식단!! 정상화!!!
• 밥먹고 몸 움직이기!! 혈당 관리!
• 스트레칭과 보조 운동들도 틈틈히 해주자
• 두런두런에서 나온 학습 전략들 고려해서 실제로 적용해보고 다음 주간 회고에 결과와 후기 남기기