ALB, EC2 + Nginx 벤치마킹 테스트

[Unagi-zoso]

웹서버 벤치마킹 테스트 → 리버스 프록시 벤치마킹 테스트

실제 서비스에선 정적 파일을 나르는 웹서버보다 로드밸런서, 리버스 프록시의 용도로 사용된다 판단해
벤치마킹 주제를 변경했습니다.

목적

• 서비스 구조 설계 단계에서 리버스 프록시 계층을 어떻게 구성할지 검토하기 위해 테스트를 진행하였다.
• EC2에 직접 Nginx를 띄워 리버스 프록시를 구현하는 방법과, ALB(Application Load Balancer)를 리버스 프록시처럼 사용하는 방법을 비교하여 성능과 비용을 고려해 하나의 기술을 선택하는 것이 목표이다.

메트릭

1. 초당 처리량 (RPS)

• 시스템이 실제로 초당 얼마나 많은 요청을 처리할 수 있는지를 측정하기 위함.

2. 평균 응답시간

• 사용자 체감 속도에 가장 직접적인 영향을 주는 지표.
• 평균 응답시간이 짧을수록 사용자 만족도가 높아지며, 전환율 및 비즈니스 성과와도 연결되기 때문에 중요하게 선정함.

3. p95 응답시간

• 전체 요청 중 95%가 이 시간 이하로 완료되었는지를 보는 지표.
• 평균값만 볼 경우 극단적인 지연이 가려질 수 있기 때문에, “상위 5% 사용자 경험” 까지 관리하기 위해 반드시 측정함

4. 비용 (인프라 비용)

• EC2 인스턴스 요금, ALB LCU 과금 고려해 비교

테스트 환경

💡 AWS 오하이오 리전에서 같은 vpc 내 프라이빗 IP 로 진행했습니다.

• NGINX (EC2)
  • 타입 : t3.medium (2vCPU, 4GB RAM, Network Bandwidth 최대 5Gbps)
  • 역할 : 리버스 프록시 서버
• ALB (Application Load Balancer)
  • 타입 : AWS ELB (AWS 관리형 모델)
  • 역할 : 리버스 프록시 서버
• WAS 서버
  • 타입 : t3.medium (2vCPU, 4GB RAM, Network Bandwidth 최대 5Gbps)
  • 역할 : WAS 서버 (Node.js , 메모리에 저장된 JSON 결과를 CPU 사용량 50% 이하에서 처리 보장)
• 부하 테스트 도구
  • k6 : 일반적으로 JVM 계열 도구보다 자원을 적게 사용하며 추후 분산 부하 테스트를 고려하기에 선택
  • 스펙 : t3.xlarge (4vCPU, 16GB RAM, Network Bandwidth 최대 5Gbps)
• 모니터링 스택
  • InfluxDB 2.7
  • Grafana
  • 스펙 : t2.micro

테스트 조건

• 최대 3000명 가상 사용자(VUs)
  • 예상 DAU : 약 1000명
  • 피크타임 : 약 3000명
• 초당 2000 요청 이상 유지
• 테스트 시간: 5분
• 모든 트래픽은 같은 VPC 내부 프라이빗 네트워크를 통해 전달
• 테스트 서버, 모니터링 서버 모두 동일 리전
• WAS 서버 병목여부를 통해 테스트 유효성을 보장
• 각 서버는 운영을 고려해 현재 자원에서 사용될 수 있는 최선의 옵션을 지향
  • 다량의 소켓 통신을 위해 파일디스크립터 증가
  • nginx worker 개수 는 사용 가능한 코어의 수와 일치

테스트 시나리오

상황

예상 트래픽 3배 피크 상황을 상정 : 3000 유저

일정 시간 동안 고정된 부하를 발생 : 5분

응답 결과 크기 : 50KB

대상

• EC2 + Nginx 리버스 프록시
• ALB 리버스 프록시

희망사항

• 가능한 응답시간은 3, 4초 이내를 지향
• 초당 처리량, 평균 응답시간, 응답시간 p95, 비용 등을 고려해 적합한 기술을 정함
• (메트릭 우선순위 : 1. 초당 처리량, 2. 비용, 3. 평균 응답시간, 4. 응답시간 p95)

테스트 결과

• 초당 처리량

구분	초당 처리량 (RPS)
EC2 + Nginx	1650
ALB	3450

ALB 를 사용한 경우 초당 요청 처리량이 약 2.1배 높음 (EC2 + Nginx 대비 1800 RPS 증가)

EC2 + Nginx 는 초당 1650건 요청 처리에 그쳤지만, ALB 는 초당 3450건까지 안정적으로 처리 가능했다.

이를 통해,
ALB 가 동시 요청 수 증가에도 안정적으로 대응할 수 있다

• 평균 응답시간

구분	평균 응답시간 (초)
EC2 + Nginx	3.35
ALB	1.65

ALB 를 사용한 경우 평균 응답시간이 EC2 + Nginx 대비 약 50% 감소했다.

EC2 + Nginx 구조는 평균 3.35초 걸린 반면,
ALB 를 경유하면 평균 1.65초로 절반 이하로 단축되었다.

• p95 Response Time

구분	p95 응답시간
EC2 + Nginx	7.15
ALB	2.0

ALB 를 사용한 경우 상위 95% 응답시간이 약 3.5배 더 빨라졌다.

EC2 + Nginx 에서는 95% 사용자 요청이 7초 넘게 걸렸지만,
ALB 경유 시 대부분의 요청이 2초 이내에 처리되었다.

• 관련 그래프

  • http_reqs value : 초당 처리량
  • http_req_duration value : 레이턴시 (ms)
  • vus : 활성화된 가상 유저 수

ALB

Nginx

• 가격

💡
여기서 언급되는 비용은 2025.04.29 기준입니다.
ALB 과금정책 특성 상 순간적 트래픽 발생 시 비용이 크게 잡힐 수 있다.

항목	EC2 + Nginx	ALB
서버/ALB 기본비용 (USD/h)	0.0416 USD/h	0.756 USD/h
서버/ALB 기본비용 (원화/h)	약 57원	약 1,050원

EC2 + Nginx

• 인스턴스: t3.medium
• 시간당 비용: 약 0.0416 USD/h (약 57원)
• 부가비용 없음 (LCU 같은 추가 과금 없음)

ALB

• 기본 ALB 비용: 0.028 USD/h
• 추가 과금 (LCU):
  • 피크 LCU 91개
  • 91 × 0.008 USD = 0.728 USD/h
• 총 ALB 비용: 0.756 USD/h (약 1,050원)

일일 피크 시간을 한 시간이라 가정했을 때 한 달 동안 둘의 예상 예상비용은 다음과 같다.

구성	피크 시간 / 일	월간 예상 비용 (원)	비고
EC2 + Nginx (t3.medium)	24 시간 상시	약 41,933원	고정비용, 부가 과금 없음
ALB	1 시간	약 58,800원	LCU 91개 기준, 나머지 시간은 기본 요금
ALB	2 시간	약 89,376원	LCU 91개 기준, 나머지 시간은 기본 요금

피크 시간 1 시간 기준 **ALB(1시간 피크)**는 EC2 + Nginx보다 약 1.40배 비쌉니다.

결론

ALB 를 채택한다.

기본적인 성능이 Nginx 보다 뛰어나며
관리에 대한 편의성이 좋게 평가되었다.

비용적인 부분은 조금 크게 차이가 났는데 트래픽이 몰리지 않는 평시엔 더 저렴하게 측정될것이라 기대되며,
AWS 지원금 안에서 해결할 수 있을 것이라 큰 부담으로 느끼진 않는다.

개선사항 및 고민

1. 다양한 상황 고려
   트래픽이 피크치는 극한의 상황 뿐만 아니라 평시의 상황도 테스트해 다양한 상황을 테스트했으면 좋을 것 같다. 현재는 극한의 상황만을 고려해 ALB 의 비용이 너무 높게 나타난것 같다. 두 제품에 대한 일장일단이 명확하게 나타나 결론에 대한 납득이 어려울 수 있다.
2. dropped iteration 개선
   웹서버에 부하가 발생해 요청을 받지 못하는 경우가 많이 발생했었다. 가상 유저 수, 지속시간 등을 조정해서 dropped iteration 을 최대한 줄이는게 나을까 고민이 된다.
3. Nginx 튜닝
   좀 더 Nginx 튜닝을 잘해서 성능을 올릴 수 있지 않을까 고민이 된다. 이런 부분 자체가 관리형 제품인 ALB 의 장점이 아닐까 생각된다.
4. 비교군 확장
   현재는 ALB, Nginx 두 가지만 비교를 하고있는데 HAProxy 라던가 비교군을 조금 더 늘려서 진행하는게 벤치마킹 효과를 더 볼 수 있을 것 같다.
5. 근거 분석 (원인 분석)
   이러한 성능적 차이가 발생하는 이유를 찾고 싶은데 ALB 는 어떻게 접근해야할지 감이 잘 안온다. 비교군을 늘려 분석이 가능한 경우만을 분석할까 고려 중
6. 테스트 회수 증가
   EC2 + Nginx 환경의 경우 어느 정도 비용의 변경폭이 적어 테스트 회수를 늘릴 수 있는데 ALB 같은 경우에 돈을 꽤 많이 들어 테스트 회수를 늘리기 부담스럽다.

모든 의견, 피드백 감사히 잘 받겠습니다!

[ej31]

ALB 한달 운영 가격과 EC2 + Nginx 한달 운영 가격까지 적시해주시면 마지막까지 설득될 것 같습니다.

추가적으로 시간 되실 때 ALB hardware metric 꼭 찍어보세요

[Unagi-zoso]

이전에 받은 피드백
🦍 : 오토스케일링이 가능한 ALB 와 그렇지 않은 EC2 + Nginx 구성의 비교가 적절하지 않을 수도 있다.
더 고도화를 한다면 ALB, Nginx 각각의 CPU 사용량 같은걸 맞추고 같은 상황일 때 처리능력을 비교하는게 적절할 수 있다.