Backpropagation & Convolution

Cheat sheet for assignment.

 

backpropagation 넘나 어려운데.. 저만 그런가요..? 

수업 시간에 다른 거 하시는 분들은.. 이미 다 알고 계신건가요..? 

내가 진짜 기초가 부실하긴 한가보다..ㅠ

 

이거.. 그냥 "어 그래 chain rule이지" 막연하게 이해하고, torch autograd를 당연하게 쓰는 거랑,

손으로 직접 계산해보고 실제 구현하는 거는 완전 어나더 레벨인뎅..

 

assignment1은 눈누난나 '재밌다~' 하며 했고.. (broadcasting해서 vectorize하는 거는 도저히 머리 속에 그려지지가 않아서, 대충 dimension 감으로 때려맞추다가 얻어 걸린 걸로 해결했지만 ㅎㅎ 소 뒷걸음질치다가 개구리 잡음).

 

assignment2는 꼬박 하루 온종일 했다. 9시간 정도 걸린듯.. 스트레스 받아서 초코렛 막 먹으면서 함. 

내가 젤 무서운 게.. 어찌저찌 만든 코드가 돌아가긴 하는데.. '이게 왜 돌아가지?' ㅎㅎ 이 상황.

assignment2가 그랬다.. '이게 왜 돌아가지?' 다시 백지 주고 구현하라고 하면 절대 못할 것 같은 무서운 상황.

so scary~! 

so horrible~! 

그래서 부서질까 겁나서 호다닥 제출해버림.ㅎㅎ

 

assignment3가 두렵다 ㄷㄷ 

torch.nn 없이 low level 에서 구현하는 걸, 한번은 해봐야지 했는데, 이렇게 강제로 하니까 ㅎㅎ 공부 많이 되긴 하는데..

넘 힘드러~ ㄷㄷ 

---

---