[부스트캠프 AI Tech 8기] 9주차 회고

 

 

 

 

 

 

 

 

 

 

 

1. 한 주 개요

 

 

이번 주는 AI Core 교육의 마지막 주로, 목요일에 위클리, 페어 리뷰 등을 하고서 금요일은 일정이 비어있어서 더 짧았다

텍스트와 이미지 생성 및 LLM, 디퓨전 모델 파인튜닝까지 다루는데... 솔직히 말하자면 전혀 못따라갔다

와.... 아니 정말 와..... 😇 

하나하나를 한 주씩 다뤄도 간신히 될까말까한 내용들을 3일에 때려박으니 초반 오버뷰 이후로는 분명 강의를 봤는데 기억이 없다

 

그리고 앞으로 AI Prodution 을 같이할 팀을 꾸리는 팀 빌딩도 같이 진행되었다

저번 주와 달리 이번 주에는 특히나 공부에 집중을 제대로 못했는데 구인구팀과 앞으로 어떤 것들을 준비해야할지 등등 이것저것 너무 복잡하게 섞여있어서 정신이 없었다

 

어쩌다보니 감사하게도 정말 실력있으신 분들을 팀으로 뵙게 되어 나만 잘하면 될 것 같다

여러모로 동기부여가 많이 되는 한 주였다

 

 

 

 

 

 

 

 

---

 

 

 

 

 

 

 

2. 이번 주 주요 내용

 

 

 

 

 

 

 

아 이번 주 내용이요..? 죄송하지만 없습니다..ㅠㅠ

LLM을 파인튜닝하는 건 엄청 복잡하고... 디퓨전 모델도 마찬가지고...

공부에 대해서 적을 건 없고, 대신 이번 주에 들었던 고민, 생각을 좀 적어보았다

 

 

이번 주 강의를 보면서 강의를 통해 생성형 AI에 대해 배우기 보다는 '강의를 보면서 제대로 공부한다 라는게 어떤걸까?' 라는 의문이 가장 많이 들었다

노션에 공부한 내용들을 텍스트로 정리하는 것?

아니면 블로그에 글로 정리해서 올리는 것?

모르는 부분들을 찾아보면서 여러 자료들을 통해 이해하는 것?

물론 정리하는 과정에서 내 것으로 체화되는 부분도 있지만 이게 나랑 가장 잘 맞는 방법인가?

 

 

AI Core 기간 동안 무언가를 배우고 있다고 체감한 적이 단 한 번이였는데 그게 바로 저번 주 텍스트 분류 대회에 참가하면서 이것 저것 시도해봤을 때이다

직접 해봤을 때 어떤 결과가 나왔고, 이걸 통해 모르는 부분을 알게 되고, AI는 안돌아가는 이상한 코드 알려주는데 정상적으로 돌아가는 예제가 어떤 것인지 찾거나 AI 달달 볶아서 뽑아내는 등...

시간 상의 제약으로 더 많은 걸 해보지는 못했으나 분명 질문을 던지고 더 파고들 부분들이 정말 많았다

이론이든 코드 부분이든 모르는 부분들이 넘쳐났으니까

코드에서 왜 이걸 이렇게 사용했지? 라는 의문이 들고 그걸 따라가다보면 이론에 닿게 되는 것 같다

 

 

은찬님이 무언가를 공부할 때 강의나 책을 절대 보지 않는다고 하신 부분들이 어느정도 공감이 가는 것 같다

요즘 SwiftUI 독학으로 공부 중이신데 참 좋은 예시이다

AI랑 티키타카 하시면서 공부하는 방법이 훨씬 더 좋다고 하신게 기억이 난다

 

https://daco2020.tistory.com/category/SwiftUI%20%EB%8F%85%ED%95%99%EC%9C%BC%EB%A1%9C%20%EA%B8%B0%EB%B3%B8%EA%B8%B0%20%EC%9D%B5%ED%9E%88%EA%B8%B0

'SwiftUI 독학으로 기본기 익히기' 카테고리의 글 목록

 

 

그럼 저번 주와 이번 주를 비교해보자

 

 

이번 주 (강의, 과제)

• 시간이 오래 걸리고 집중 안됨
• 복잡하고 현학적임
• 재미없음
• 분명 강의를 봤는데 머리에 남은게 없음
• 시간만 흐르고 내 세상이 무너짐

 

저번 주 (분류 대회)

• 시간 가는 줄 모름
• 모르는 부분 많아도 괜찮음. 질문하고 찾아보면 됨
• 재미있음
• 계속 질문이 떠오름
• 뭔가 머리에 남아있음

 

 

 

 

 

사람마다 공부하는 방법들이 다 다르다

같은 방법이더라도 개인마다 받아들이고 이해하는 정도 또한 다르다

하지만 수많은 사람들을 대상으로 전부 개인 맞춤화된 공부 방법을 찾고 적용하기란 정말 어려운 일이다

그럴 여건이 잘 주어지지도 않고 여러 방법들을 시도해보지 않는 한 본인조차 어떤 방법이 자신에게 맞는지도 알 수 없다

 

나에게 가장 효과 있는 학습 방법은 직접 해보고 이해하는 핸즈온 방식인데 이걸 인지하지 못한채 편한 방법으로 쭉 하려니 시간은 시간대로 흐르고, 공부한 척만 하고서 실질적으로는 배운게 없는 악순환이 반복되는 것이다

 

AI Core 과정이 끝난 시점에서 늦게라도 알게 되서 다행이라고 할 수 밖에...

그럼 앞으로 어떻게 공부해야할까? 강의와 과제 형태의 학습 방법이 안맞았다고는 하지만 사실 이건 내가 제대로 활용을 하지 못한 것에 가깝다

정확히는 어떻게 공부에 활용해야 할지 모르고 수동적인 시청을 해온 것에 가깝다

책과 강의, 과제 등 좋은 자료들인데 최대한 써먹어야지 

 

 

 

아래는 "강의를 보면서 제대로 공부한다 라는게 어떤걸까?" 라는 질문에 대한 ChatGPT 의 답변이다

 

 

“강의를 보면서 제대로 공부한다”는 건 단순히 영상을 재생하고 이해하는 것이 아니라,
‘배운 내용을 내 것으로 만드는 과정’을 수행하는 것을 말해.
이걸 좀 더 구체적으로 쪼개보면 아래처럼 5단계로 나눌 수 있어.

 

1️⃣ 수동적 시청이 아니라 능동적 학습

• 그냥 “아~ 저런 개념이구나” 수준에서 끝나면 머릿속에 남지 않아.
• 능동적으로 공부한다는 건 ‘내가 직접 설명할 수 있을 정도로 이해하려는 상태’를 의미해.
  예를 들어 강의에서 “Cross Entropy Loss”가 나왔다면,

“이걸 내가 친구한테 설명할 수 있을까?”
“수식이 왜 그렇게 되는지 말로 풀어서 설명할 수 있나?”
이런 질문을 스스로 던지면서 들어야 해.

 

 

2️⃣ 핵심 구조를 잡으면서 듣기

• 모든 내용을 받아적을 필요는 없어. 대신
  • “이 강의의 핵심 주제는 뭘까?”
  • “이 개념은 어떤 문제를 해결하려고 나온 걸까?”
  • “이전 개념과의 연결은 어떻게 되지?”
    이렇게 논리 흐름과 구조를 중심으로 정리하는 게 훨씬 깊은 학습이야.
    → 단순히 ‘지식’이 아니라 ‘이해 맵’을 만드는 과정.

3️⃣ 이해 후 바로 손으로 옮기기

• 코딩 강의면 코드 그대로 치지 말고,
  → “왜 이렇게 짰을까?”
  → “이 부분을 바꾸면 어떻게 될까?”
  이런 식으로 의도와 원리를 실험하며 복기해야 해.
• 이걸 안 하면 ‘이해한 듯한 착각’만 남고, 실전에서는 손이 안 움직여.

4️⃣ 복습과 재구성

• 하루나 이틀 뒤에, 강의 노트나 예제 없이
  → “이 강의 핵심은 뭐였지?”
  → “내 말로 다시 정리해본다면?”
  이런 식으로 다시 말하거나 정리해봐.
• 복습 때 모르는 부분이 드러나야 제대로 공부한 거야.

5️⃣ 적용의 최소 단위 만들기

• “이 개념을 어디에 써먹을 수 있지?”
• “직접 작은 프로젝트나 코드 스니펫으로 적용해볼 수 있을까?”
  → 강의에서 배운 걸 현실의 문제나 데이터에 연결시키면 기억이 깊어진다.
  → 예: CNN 강의를 들었다면 Kaggle 데이터셋에 한두 장이라도 돌려본다.

요약하면,

강의 = 정보를 받는 것
제대로 공부 = 그 정보를 구조화 → 적용 가능한 지식으로 전환

 

 

 

나에게 좀 더 맞는 형태로 수정하자면 강의, 과제 등을 보고서 주어진 시간 내에 해볼 수 있는 작은 태스크를 찾고 구글링, AI 티키타카 하면서 직접 돌려보는 것

예를 들어, LLM 파인튜닝을 한다고 하면 실습 코드들은 전체적인 흐름을 잡는데만 도움받고 공식 문서와 예제들을 찾아가면서 실습에서 했던 파인튜닝을 직접 해보는 것이다

얼마나 복잡한데... 시간도 오래 걸리고 삽질도 많이 할 것이다

그럼에도 쭉 하다보면 어떤 결과물들이 나올텐데 (또는 막혀서 계속 빙빙 돌거나) 이 때 정답지인 실습 코드와 내가 진행했던 것들을 비교해보면서 복습까지.

 

또한 목요일 위클리 미션을 하면서 또한번 느꼈다

이번 위클리는 LLM LoRA 파인 튜닝과 디퓨전 모델을 구현하는 문제가 나왔다

처음 보고서 문제의 난이도에 압도되어 차마 손을 댈 수가 없었다

잠깐 시간을 두고서 이걸 어떻게 공부해야할까 생각해보았다

 

당장 혼자서 구현하는건 불가능하다

그러니 우선은 AI의 도움을 받아 전체적으로 어떻게 구성되어 있는지 코드를 채우고 돌려본다음 처음부터 하나하나 주석을 달아보면서 이해가 안가는 점, 이건 왜 이걸 썼는지, 이해가 된 점이든 궁금한 점이든 생각이든 다 적어보고 이 부분을 해결하고자 AI와 대화하면서 채워나갔다

 

아래는 제미나이의 도움을 받은 코드이다

class LoRALinear(nn.Module):
    def __init__(self, original_weight, r=8, alpha=8, bias=True):
        super().__init__()

        assert original_weight != None, "original_weight must be provided"
        assert min(original_weight.shape) > r, "r must be less than the minimum dimension of original_weight"

        self.r = r # r은 저수준 차원으로 낮추고자 하는 랭크를 말하는건가? => 맞음. 그럼 정확하게 랭크라는게 뭐지? 예전에 수학 파트에서 나와었는데.. 랭크는 차원? 
        self.alpha = alpha # 그럼 알파는 뭐지? 그리고 아래의 알파, r로 스케일링을 해주는건 왜 해주는거지? 
        self.scaling = alpha / r if r > 0 else 1.0

        self.W = original_weight # 오리지널 웨이트는 정확히 모델 어디 위치의 웨이트일까? 
        self.W.requires_grad = False # 이건 기존 웨이트는 학습하지 않도록 프리즈 해주는 것 같음.

        d_out, d_in = self.W.shape # 원래 기본 코드에는 이 부분이 없었는데 self.W.sape[0] 이런 식으로도 사용해도 되지만 정확하게 명시해주는게 가독성이 더 좋을 듯

        # A, B가 뭐지..? 
        # 아하! 랭크를 다운업! 기존의 웨이트에 AB를 거치면서 

        # A (Down-projection): 입력 d_in -> 랭크 r
        self.lora_A = nn.Parameter(torch.empty(d_in, r)) # 왜 empty로 만들었을까? empty로 생성하면 배열이 어떤 값들로 구성되어 있지?

        # B (Up-projection): 랭크 r -> 출력 d_out
        self.lora_B = nn.Parameter(torch.empty(r, d_out))

        if bias:
            self.bias = nn.Parameter(torch.zeros(d_out)) # 이건 bias 사용한다고 하면 0으로 된 bias 행렬 만들기. 행렬 연산이니까 output 차원에 맞춰야해서 d_out이 되는것도 오케이.
        else:
            self.register_parameter('bias', None)


        self.reset_parameters()

    def reset_parameters(self):

        # A는 가우시안 분포로 초기화 - 이거 논문에 나와있음
        nn.init.normal_(self.lora_A, mean=0.0, std=1.0)
        
        # B는 0으로 초기화하여, 초기ΔW = BA가 0이 되도록 설정
        nn.init.zeros_(self.lora_B)
        


    def forward(self, x):
        # 원본 Linear 연산 : y = x @ self.W.t()
        y = x @ self.W.t() + (self.bias if self.bias is not None else 0.0)
        lora_output = x @ self.lora_A @ self.lora_B * self.scaling

        return y

 

 

그리고 저 뒤의 코드에서는 이렇게 구현한 LoRA를 라마 모델에서 어느 부분에 적용해야하는지 구현하는 문제가 나온다

LlamaForCausalLM(
  (model): LlamaModel(
    (embed_tokens): Embedding(128256, 2048, padding_idx=128004)
    (layers): ModuleList(
      (0-15): 16 x LlamaDecoderLayer(
        (self_attn): LlamaAttention(
          (q_proj): Linear(in_features=2048, out_features=2048, bias=False)
          (k_proj): Linear(in_features=2048, out_features=512, bias=False)
          (v_proj): Linear(in_features=2048, out_features=512, bias=False)
          (o_proj): Linear(in_features=2048, out_features=2048, bias=False)
        )
        (mlp): LlamaMLP(
          (gate_proj): Linear(in_features=2048, out_features=8192, bias=False)
          (up_proj): Linear(in_features=2048, out_features=8192, bias=False)
          (down_proj): Linear(in_features=8192, out_features=2048, bias=False)
          (act_fn): SiLUActivation()
        )
        (input_layernorm): LlamaRMSNorm((2048,), eps=1e-05)
        (post_attention_layernorm): LlamaRMSNorm((2048,), eps=1e-05)
      )
    )
    (norm): LlamaRMSNorm((2048,), eps=1e-05)
    (rotary_emb): LlamaRotaryEmbedding()
  )
  (lm_head): Linear(in_features=2048, out_features=128256, bias=False)
)

 

 

배운 바로는 어텐션에서 키와 밸류 등의 값에 적용할 수 있다고 했는데.. 그럼 모델의 q_proj, k_proj, v_proj, o_proj 다 적용해주는걸까? 

페어리뷰를 같이 한 캠퍼분과 이 부분에 대해 이야기를 나누면서 논문을 같이 보았다

 

 

LORA: LOW-RANK ADAPTATION OF LARGE LAN- GUAGE MODELS

 

어디에 적용해야할지 근거를 찾고자 논문을 보면 이렇게 어떤 방법들을 사용했는지 그리고 두 가지 데이터셋에 대해 Validation Accuracy가 얼마나 나왔는지 정리해두었다

LoRA 파트를 보면 rk, rq, rv 등등 키나 쿼리, 밸류에 대해 LoRA를 어떻게 적용했고 각각의 성능들을 비교해두었다

어떤 어텐션 부분에 랭크 값을 얼마나 적용했을 경우이며 r=4로 q_proj, k_proj, v_proj, o_proj 모두 적용했을 때와 r=2로 v_proj에 적용했을 때 91.7로 동일하다

LoRA를 많이 적용할 수록 그만큼 파라미터 수가 늘어나므로 이 부분을 고려하여 적절하게 선택하는 것이 필요함을 알게 되었다

 

이렇게 공부를 이어가니까 기억에도 더 잘 남고 소소하게 재밌기도 하는 등 긍정적인 효과가 더 크다고 느꼈다

내용이 많아서 다 보진 못했고... 금요일에 마무리할 예정이다

 

 

그럼 앞으로 책이나 강의, 과제를 보면서 이런 공부 방식을 어떻게 적용하면 좋을까?

음... 이 부분은 내일부터 다음 주 방학동안 책이랑 이전 내용들 복습하면서 고민을 해봐야겠다

 

 

 

 

 

 

 

 

 

 

3. 피어세션 정리

 

 

 

 

 

 

저번 주는 대회 관련해서 얘기할 내용들이 많았으나 이번 주는 3일 밖에 없기도 했고 강의랑 과제 봐야할 내용들이 많아서 알고리즘을 풀지는 못했다

 

빅 이슈였던 팀 빌딩이 있어서 어떤 팀에 들어갔는지, 어떤 주제나 프로젝트 관심있고 무슨 이야기 나누는지에 대해 이야기를 많이했고 강의나 과제, 오늘 풀었던 위클리에 대해서도 의견을 나누었다

이번 팀에서는 CV가 많아서 다음주 팀 미팅 데이 때 직접 보고 인사나눌 수 있을 것 같다

 

 

 

 

 

 

 

---

 

 

 

 

 

 

 

4. 회고

 

 

 

Keep.

이번 주 잘한 점, 유지하고 싶은 것

• 저번 주보다 취침 시간을 많이 땡겼다. 대부분 12시 전후로 잘 잠들었다
• 공부하면서 그냥 생각없이 듣는게 아니라 왜 집중이, 공부가 안될까 어떤 문제가 있을까, 어떻게 하면 더 잘 학습할 수 있을까 고민한 점
• 어떤 내용이든 그냥 넘기지 말고 질문 딱 하나만 던져보기. 의도적으로 의문을 가지려 하면 정말 엄청 많이 떠오르게 된다
• 운동 꾸준히. 오랜만에 밖에서 러닝도 뛰고 왔다
• 책도 틈틈히 읽고 있다. 지금 읽는 책은 손자병법
• 공부할 때 핸드폰 거실에 두기. 시야가 닿는 주변에 핸드폰이 존재하기만 해도 집중도가 많이 떨어진다고 한다

 

Insight.

이번 주 동안 느끼고 깨달은 점

• 무언가 당장 해낼 수 없는 것을 받으면 나는 엄청난 압박을 받고 시작조차 하지 않고 포기하려 한다
• 그러나 잠깐 시간을 두고 리프레쉬한 뒤에 다시보면 일단 해볼 수 있는 부분부터 시작할 수 있다
• 초반에 느끼는 부정적인 감정에 휩쓸리지 말고 잠깐의 시간을 주는 것은 어려운 무언가를 시작하는데 큰 도움이 된다
• 그리고 한번에 다 이해하고 가져가려고 욕심내지 말기

 

Problem.

아쉽고 개선하고 싶은 것

• 구인구팀으로 정신 없고 내용 자체도 난이도가 많이 높아 공부에 제대로 집중하지 못함
• LLM, 디퓨전 모델 파인튜닝... 다 이해하기에 내용이 매우 방대한데 시간도 짧아 거의 공부 하지 못함
• 그래서 위클리 미션을 거의 못풀었음 😇
• 요새 아침에 일어나기가 힘듬... 종종 다시 자곤 했다
• 습관적으로 커피를 쭉 마셔온 것

 

Emotion.

이번 주 감정 점수와 이유

• 7점
• 여러모로 아쉬운 부분들이 많았지만 그래도 공부하는 방식에 대해 조금은 알아가는 점이 있었던 한 주

 

Try.

다음에 시도하고 싶은 구체적인 액션

• 카페인 줄이고 수면의 질 높이기
• 이번 주까지는 위클리 내용 복습 끝내기
• 책 공부하면서 어떻게 하면 능동적인 학습을 할 수 있을지 고민해보고 적용해보기
• 커피 끊기! 밀가루 등 가공 식품도 같이 끊기! 
• 아침 산책하고 스트레칭 해주기