Mathematics
1. List
2. Paper
3. Article (Post, blog, etc.)
- [추천] 머신러닝중요 Notation: 4page, 이것들만 잘 기억하고 있어도 논문에 나오는 수학의 50%는 먹고 들어가는 정말 많이 나오는 기호들입니다.
- [추천]Explained Visually: 수학 기본 개념을 interactive하게 visualization해주는 사이트
- How do I learn mathematics for machine learning?: 확률, 선형대수, 미적분, 행렬대수, 최적화등,
- ML notes: Why the log-likelihood?
- 마코프: 큰수의 법칙, 베르누이 과정, 마코프 과정 : 김성훈 교수 추천 강좌, [Youtube]
- Basic Probability: 이미지로 쉽게 설명
- [번역] 머신러닝 속 수학
- Wasserstein GAN 수학 이해하기 I
- 확률(Probability) vs 가능도(Likelihood)
- Linear algebra cheat sheet for deep learning
- Essence of linear algebra - 3Blue1Brown: Youtube, 5~15분 이내의 15개 짧은 강좌, 이상화 교수 강의 후 복습 개념으로 보기 추천
math monk: measure theory based 확률론을 공부하는걸 추천
3. Tutorial (Series, )
- 공업수학 : 약 20강의
4. Youtube
- Mathematics of Deep Learning : CVPR 2017, Part 1, Part 2
데코 : 선형대수학(2), 미적분(18), 집합론(39)
6. Material (Pdf, ppt)
7. Implementation (Project)
추천 Mooc 커리큘럼
함수해석학(Functional analysis - krezig, convex optimization - stephen boyd
확률론 (Probabilistic systems, John Tsitsiklis)
확률적 그래프모델 (probabilistic graphical model - Daphne Koller)
Information theory - David Mackay
저처럼 머신러닝,딥러닝 입문해 보시는 분들께 자그마한 정보가 될까 하여 조금 길게 포스팅 해 봅니다. 제가 6개월 정도 달려보았는데요. [원문]
1. 처음 시작은 김성훈 교수님 유튜브 강의로 입문하시는게 최고의 선택인 듯 합니다. 쉽게 풀어주시면서 직관적인 이해를 도와주시는 부분이 참 많습니다.
2. 더 진도를 나가려면 기초를 다지는 것이 좋았습니다.아래 2개 강좌는 반드시 듣는게 매우 중요할 듯 합니다.
위 2개 강의를 듣고 나면, 신경망에 대한 조금은 본질적인 개념 이해나 차원축소 기법들 이해하는데 도움이 되고 수식 notation이 눈에 많이 들어오는 것 같았습니다. 그리고 카이스트 문일철 교수님 강의도 좋은데, 바로 들어가면 어렵더군요. 위 3개 강좌를 듣고 들어가시는 게 아마도 좋지 않을까 합니다. 그리고 문교수님 강의 듣기 전에 하나 더 선행하면 좋을 듯 합니다.
3. 충북대 이건명 교수님 강의 중에서 ‘탐색과 최적화’ 부분을 듣고 가시는게 좋아 보입니다.위 4개 강좌를 듣고 나면, 윤곽이 잡힙니다.
4. 이렇게 해서 KOOC에 있는 카이스트 문일철 교수님 강의는 마지막에 들으면 이제는 많이 다가오는 것 같습니다. [Youtube]
- k-means, gmm(gaussian mixture model), em(expectation & maximization) 강의를 들으면 variational inference의 기초가 잡힐 듯 합니다.
- hmm(hidden markov model) 강의를 들으면 rnn이 생각나고 또한 bidirectional rnn이 생각나고, 해당 강의에서 dynamic programming 얘기를 들으면 attention model이 생각날 것으로 보입니다.
- 샘플링 쪽을 들으면 mcmc 기초가 잡히고 gibbs sampling을 들으면 RBM이 생각날 듯 합니다.
5. 이렇게 하고 TF-KR에서 진행하는 PR12 논문 리뷰 동영상을 보면, 이제는 많이 친숙하게 다가오지 않을까 합니다.
아… 그리고 문교수님 강의 들으면서 앤드류 교수님 강의 병행하면 시너지가 많이 날 듯 합니다.