반응형 MLOps/모니터링2 Ubuntu에서 NVITOP로 GPU 사용량을 모니터링하기 NVITOP 설치 NVIDIA GPU 사용량과 기타 리소스에 대한 모니터링을 할 수 있는 NVITOP를 설치합니다. pip install --upgrade nvitop## 결과Defaulting to user installation because normal site-packages is not writeableCollecting nvitop Downloading nvitop-1.3.2-py3-none-any.whl.metadata (78 kB) ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 78.2/78.2 kB 8.7 MB/s eta 0:00:00Requirement already satisfied: nvidia-ml-py=11.450.51 in /home/grit.. 2024. 7. 3. Grafana에서 FastAPI 로그 정보 시각화하기 사전 준비 FastAPI 로그 정보는 이전 블로그를 참고합니다. 로그 정보 시각화 서버에 FastAPI를 요청하면 로그가 발생하고, 이를 관리하기 위해 Loki가 로그를 수집하면 Grafana에서 수집된 로그를 시각화하여 확인할 수 있습니다. Loki에서 로그 데이터를 쿼리하고 표시하는 작업은 Grafana의 시각화 로그 패널을 통해 수행할 수 있습니다. 로그 정보를 모니터링하기 위한 FastAPI, Loki, Grafana 폴더 구조입니다. example/ ├── app │ └── main.py ├── docker-compose.yml ├── Dockerfile ├── etc │ └── grafana │ └── datasource.yml └── requirements.txt requirements.tx.. 2024. 1. 30. 이전 1 다음 반응형
