3. nginx로 로드 밸런싱 하기

nginx를 통해서 로드밸런싱을 하기 이전에 로드밸런싱에 대해서 간략하게 정리하고 넘어가보려고 합니다.

 

로드밸런서는 서버에 가해지는 부하(=로드)를 분산(=밸런싱)해주는 장치 또는 기술을 통칭합니다. 클라이언트와 서버풀(Server Pool, 분산 네트워크를 구성하는 서버들의 그룹) 사이에 위치하며, 한 대의 서버로 부하가 집중되지 않도록 트래픽을 관리해 각각의 서버가 최적의 퍼포먼스를 보일 수 있도록 합니다.

 

 

이러한 로드밸런싱을 이해하기 위해서는 트래픽 처리를 위한 두가지 방법 scale-up과 scale-out을 먼저 이해해야 합니다.

Scale-up : 서버의 성능을 향상 시킴 (cpu, ram 등 하드웨어를 업그레이드) 

Scale-out : 기존 서버와 동일하거나 낮은 성능의 서버를 두 대 이상 증설하여 운영

 

여기서 Scale-out의 방식으로 서버를 증설하게 되면 하나의 서버에 트래픽이 몰리지 않도록 분배하는 로드밸런싱이 여기서 등장하게 된다.

 

트래픽을 분배하는 방법(알고리즘)으로 여러 방식이 있는데 대표적으로 아래와 같은 방식들이 있다.

 

1. 라운드로빈 방식(Round Robin Method)
서버에 들어온 요청을 순서대로 돌아가며 배정하는 방식입니다. 클라이언트의 요청을 순서대로 분배하기 때문에 여러 대의 서버가 동일한 스펙을 갖고 있고, 서버와의 연결(세션)이 오래 지속되지 않는 경우에 활용하기 적합합니다.

2. 가중 라운드로빈 방식(Weighted Round Robin Method)
각각의 서버마다 가중치를 매기고 가중치가 높은 서버에 클라이언트 요청을 우선적으로 배분합니다. 주로 서버의 트래픽 처리 능력이 상이한 경우 사용되는 부하 분산 방식입니다. 예를 들어 A라는 서버가 5라는 가중치를 갖고 B라는 서버가 2라는 가중치를 갖는다면, 로드밸런서는 라운드로빈 방식으로 A 서버에 5개 B 서버에 2개의 요청을 전달합니다.

3. IP 해시 방식(IP Hash Method)
클라이언트의 IP 주소를 특정 서버로 매핑하여 요청을 처리하는 방식입니다. 사용자의 IP를 해싱해(Hashing, 임의의 길이를 지닌 데이터를 고정된 길이의 데이터로 매핑하는 것, 또는 그러한 함수) 로드를 분배하기 때문에 사용자가 항상 동일한 서버로 연결되는 것을 보장합니다. 

4. 최소 연결 방식(Least Connection Method)
요청이 들어온 시점에 가장 적은 연결상태를 보이는 서버에 우선적으로 트래픽을 배분합니다. 자주 세션이 길어지거나, 서버에 분배된 트래픽들이 일정하지 않은 경우에 적합한 방식입니다.

5. 최소 리스폰타임(Least Response Time Method)
서버의 현재 연결 상태와 응답시간(Response Time, 서버에 요청을 보내고 최초 응답을 받을 때까지 소요되는 시간)을 모두 고려하여 트래픽을 배분합니다. 가장 적은 연결 상태와 가장 짧은 응답시간을 보이는 서버에 우선적으로 로드를 배분하는 방식입니다.

 

로드밸런싱을 진행은 보통 L4스위치 로드밸런싱과 L7스위치 로드밸런싱를 통해서 이루어지는데 비교해보면 아래표와 같다.

우린 두 개다 없으니 nginx를 통해서 로드밸런싱을 진행해보려고 한다.

 

nginx란 트래픽이 많은 웹사이트를 위해 확장성을 위해 설계한 비동기 이벤트 기반구조의 웹서버 소프트웨어입니다.

 

특징

- 비동기 Event-Driven 기반 구조.

- 다수의 연결을 효과적으로 처리가능.

- 대부분의 코어 모듈이 Apache보다 적은 리소스로 더 빠르게 동작가능

- 더 작은 쓰레드로 클라이언트의 요청들을 처리가능

 

로드밸런싱을 위해서 본인의 경우 백엔드 애플리케이션을 하나의 EC2의 8081, 8082 포트에 실행시켰습니다.

또한 본인의 EC2의 운영체제가 아마존 리눅스이기 때문에 sudo yum install nginx를 통해서 nginx를 설치하였습니다.

​

1. EC2 접속 후 /etc/nginx 로 이동

2. vim nginx.conf

위의 명령어를 치면 아래와 같이 나오는데 이중 빨간 박스 부분을 확인합니다.

 

3. cd /etc/nginx/conf.d 이동 

박스의 내용이 다른 경우 그에 맞추어 이동합니다.

 

4. sudo vim 원하느 파일명.conf

5. 로드밸런싱 설정하기

설정을 보면 upstream 방식으로 두개에 서버를 설정하여 80포트(nginx)로 요청이 들어오면 해당 두개의 서버에 분산하도록 설정된다. 분산 알고리즘을 따로 설정하지 않으면 라운드 로빈 방식이 기본값으로 적용됩니다.

 

2021.04.02 수정

nginx 로드 벨런싱 설정후 swagger가 정상적으로 작동하지않은 버그를 수정하고 포스트를 작성하였습니다.

wellbell.tistory.com/62?category=976635

8. nginx 로드밸런싱 후 swagger 제대로 적용하기

 

참조: post.naver.com/viewer/postView.nhn?volumeNo=27046347&memberNo=2521903

로드밸런서(Load Balancer)의 개념과 특징