| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | |||||
| 3 | 4 | 5 | 6 | 7 | 8 | 9 |
| 10 | 11 | 12 | 13 | 14 | 15 | 16 |
| 17 | 18 | 19 | 20 | 21 | 22 | 23 |
| 24 | 25 | 26 | 27 | 28 | 29 | 30 |
| 31 |
Tags
- 2023
- BFS
- NEXT
- 다익스트라
- 분할 정복
- 가끔은 말로
- DP
- back propagation
- 가끔은_말로
- 이분 탐색
- tensorflow
- 플로이드 와샬
- lazy propagation
- dropout
- 백트래킹
- dfs
- 자바스크립트
- 문자열
- pytorch
- 알고리즘
- 미래는_현재와_과거로
- 세그먼트 트리
- 조합론
- 우선 순위 큐
- object detection
- Overfitting
- 너비 우선 탐색
- 회고록
- 크루스칼
- c++
Archives
- Today
- Total
목록Batch Normalizaton (1)
Doby's Lab
Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift
✅ Contents Intro Abstract 1. Introduction 2. Towards Reducing Internal Covariate Shift 3. Normalization via Mini-Batch Statistics 4. Experiments & 5. Conclusion (skip) Outro Reference ✅ Intro 📄 Motivation Batch Normalization에 대해 알게 된 후, 남아있는 궁금점을 해결하기 위해서는 직접 원문을 보아야겠다는 생각이 들었습니다. 궁금했던 것으로는 BN(X)와 Activation의 선후 관계나 네트워크마다 Batch Normalization의 방법이 다른 것들이 궁금하기도 했고, 'Internal Covariate Shift를 해결하는..
AI/Concepts
2023. 1. 22. 13:18