공부/기타 (1) 썸네일형 리스트형 도커 컨테이너의 아이피 고정(docker network) 1부 1부 - 도커 네트워크 생성 개발한 딥러닝 모델을 남들이 잘 쓸 수 있도록 배포하는 것은 모델을 만드는 과정만큼 까다롭다. 딥러닝 모델은 무겁고, 연산량이 많기 때문에 모델을 많은 사람이 동시에 사용하는 환경에서는 여러 장비로 분산 처리 하는 것이 좋다. 우리는 GPU가 4장씩 내장된 서버 2개를 제공받았고, 딥러닝 추론을 하는 8개의 도커 컨테이너, 요청 분산을 위한 NGINX컨테이너 2개를 만들어서 요청을 처리했다. NGINX는 웹 서버 프로그램으로 백엔드 서버로 들어오는 요청을 총 8개 컨테이너에 골고루 분산시켜 주는 역할을 한다. 그런데 가끔 서버를 리부팅 한 후에 백엔드서버 - NGINX - 딥러닝추론 컨테이너의 통신이 종종 먹통이 되는 사례가 발생했다. 원인을 분석해보니 각 도커 컨테이너의 I.. 이전 1 다음