| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | 5 | ||
| 6 | 7 | 8 | 9 | 10 | 11 | 12 |
| 13 | 14 | 15 | 16 | 17 | 18 | 19 |
| 20 | 21 | 22 | 23 | 24 | 25 | 26 |
| 27 | 28 | 29 | 30 |
Tags
- 크루스칼
- object detection
- BFS
- 회고록
- 너비 우선 탐색
- 알고리즘
- 조합론
- 분할 정복
- dfs
- NEXT
- back propagation
- 자바스크립트
- 문자열
- 우선 순위 큐
- tensorflow
- Overfitting
- dropout
- 이분 탐색
- 가끔은 말로
- 미래는_현재와_과거로
- pytorch
- DP
- 가끔은_말로
- lazy propagation
- c++
- 2023
- 세그먼트 트리
- 플로이드 와샬
- 백트래킹
- 다익스트라
Archives
- Today
- Total
목록uint8 (1)
Doby's Lab
Normalization, uint8 -> float64 RAM, 런타임 다운되는 현상
🤔 Problem 이미지 데이터셋을 전처리하는 과정에서 Min Max Scaling 방법을 통해 Normalization을 해주려 했습니다. 이미지 Dataset이기 때문에 min값과 max값이 각각 0, 255이기 때문에 데이터셋에 255.0을 나누어주면 되죠. (+255.0으로 나누는 이유는 255.0으로 나눔으로써 int type에서 float type으로 type casting이 되기 때문입니다.) 즉, 코드로 나타내면 이런 식으로 해주면 되겠죠. def minmax_scaler(dataset) dataset = dataset / 255.0 return dataset 여기서 문제가 발생합니다. 시스템 RAM을 모니터링해보면 RAM이 초과되는 것을 알 수 있습니다. RAM이 초과됨에 따라서 런타임도..
Code about AI/tensorflow
2022. 12. 25. 17:27