로드 밸런싱(Load Balance) 상세 해설: F5라고도 불리며, 실제 사례 소개

운영이든 보안이든 거의 모두가 '로드 밸런싱'이라는 단어를 피해 갈 수 없습니다. 그리고 로드 밸런싱을 말하면 많은 사람이 먼저 떠올리는 장비가 바로 'F5'입니다. 흥미로운 점은 F5가 사실 회사 이름(F5 Networks)이라는 것인데, 제품이 너무 유명해지면서 점차 로드 밸런서의 대명사가 되었다는 것입니다. 마치 '바이두에서 검색한다'는 말이 검색의 대명사가 된 것처럼요.

이 글에서 이를 확실히 정리해 봅니다. F5가 정확히 무엇인지, 4계층과 7계층의 차이는 어디에 있고, 실제 시나리오에서 어떻게 구성하는지입니다.

1. 로드 밸런싱은 무엇을 해결하는가

로드 밸런싱(Load Balance)의 본질은 작업을 여러 운영 단위에 분산해 처리하는 것입니다. 예를 들어 웹 서버, FTP 서버, 기업 핵심 애플리케이션 서버 등이 함께 일을 수행하도록 만드는 것이죠.

기술적인 관점에서 보면, 로드 밸런서는 외부에 하나의가상 서버 주소를 노출합니다. 사용자가 접속하면 양방향 NAT(네트워크 주소 변환)를 통해 연결을 가장 적합한 실제 서버로 전달합니다. 사용자가 보는 것은 항상 같은 입구이지만, 그 뒤에서는 여러 대의 서버가 부담을 나눠 가지고 있습니다.

로드 밸런싱이 해결하려는 것은 세 가지입니다.다운될까 봐 두려운 것(단일 장애점),감당하지 못할까 봐 두려운 것(성능 병목),확장하지 못할까 봐 두려운 것(수평 확장 불가)입니다.

2. 4계층 vs 7계층: 가장 헷갈리기 쉬운 부분

차이의 핵심은 한 문장입니다.애플리케이션 계층 프로토콜을 해석하는가 여부이 차이가 능력의 경계와 성능을 직접 결정합니다.

4계층 로드 밸런싱(전송 계층)

작동 계층: OSI 4계층, TCP/UDP 프로토콜
포워딩 기준: 출발지 IP, 목적지 IP, 포트 번호—애플리케이션 데이터는 건드리지 않음
핵심 능력: 포트 포워딩, TCP 연결 재사용, 4계층 헬스 체크(TCP 핸드셰이크), 기본 DDoS 방어
성능: 포워딩 효율이 매우 높아 하드웨어 한계에 근접하며, 지연은 마이크로초급
전형적인 시나리오: 데이터베이스(MySQL/Redis), TCP 서비스(게임 서버, Netty 서비스), 데이터센터 간 링크 부하
대표 제품: LVS, F5(4계층 모드), HAProxy(4계층 모드), Nginx(stream 모듈)

7계층 로드 밸런싱(애플리케이션 계층)

작동 계층: OSI 7계층, HTTP/HTTPS, DNS, FTP 등 애플리케이션 프로토콜
포워딩 기준: URL, Cookie, HTTP 헤더, 요청 파라미터, JSON 내용
핵심 능력: 콘텐츠 기반 라우팅, SSL 오프로딩, 캐시, 속도 제한과 서킷 브레이커, WAF 통합, 세션 유지, 카나리 배포
성능: 기능이 풍부하지만 애플리케이션 프로토콜을 해석해야 하므로 지연이 다소 높고(밀리초급), 클러스터 확장으로 보완
전형적인 시나리오: 웹 애플리케이션, 마이크로서비스 API, HTTPS 서비스, 카나리 배포, API 게이트웨이
대표 제품: Nginx, HAProxy(7계층 모드), F5(7계층 모듈), Kong, Spring Cloud Gateway

한 문장 암기법: 4계층은 '이정표'(IP와 포트)만 보고 포워딩하고, 7계층은 '택배를 뜯어'(내용을 확인한 뒤) 어디로 보낼지 결정합니다. 성능이 필요하면 4계층, 다양한 기능이 필요하면 7계층을 고르세요.

3. F5 BIG-IP는 정확히 어디가 강한가

F5의 주력 제품인 BIG-IP LTM의 공식 명칭은로컬 트래픽 매니저이며 4~7계층 로드 밸런싱을 수행할 수 있습니다. 단순한 포워더가 아니라 기능 목록이 상당히 깁니다. 애플리케이션 스위칭, 세션 스위칭, 상태 모니터링, 지능형 NAT, 범용 퍼시스턴스, 응답 오류 처리, IPv6 게이트웨이, 고급 라우팅, SSL 가속, 지능형 HTTP 압축, TCP 최적화, 콘텐츠 버퍼링, Cookie 암호화, 애플리케이션 공격 필터링, DoS 및 SYN Flood 방어, 방화벽 패킷 필터링……

가장 실용적인 몇 가지만 골라 보겠습니다.

1. 멀티 링크 로드 밸런싱과 이중화

핵심 업무는 여러 ISP 회선을 연결해 품질을 보장하고 단일 장애점을 제거하는 경우가 많습니다. 여기서는 두 방향으로 나뉩니다.

OUTBOUND 트래픽(내부망에서 외부망 접속): BIG-IP LC가 트래픽을 서로 다른 인터넷 인터페이스로 지능적으로 분배하고 출발지 주소 NAT를 수행
INBOUND 트래픽(외부망에서 내부망 접속): 두 ISP의 공인 주소를 바인딩하고 두 ISP의 DNS 요청을 해석하며, 서버 상태와 RTT 시간에 따라 지능적으로 응답

2. 서버 로드 밸런싱

VIP(가상 IP, IP 주소와 TCP/UDP 포트로 구성)를 통해 외부 서비스를 제공하며, 대상 서버에 대해 L4부터 L7까지 지속적으로 헬스 체크를 수행합니다. 장애 서버가 발견되면 로드 밸런싱 그룹에서 제외합니다. 또한 iRules와 결합해 TCP/UDP 패킷을 열어 내용 특성에 따라 규칙 처리를 할 수 있습니다. 예를 들어 URL에 따라 트래픽을 다른 서버로 유도하는 식입니다.

3. 시스템 고가용성

이것이 F5가 가장 내세울 수 있는 부분입니다. 이중화 모드에서밀리초급 전환(최단 200ms 이내)이 가능하며 99.999% 가용성을 자랑합니다. 원리는 다음과 같습니다. 모든 세션이 Active 장비를 통과할 때 동기화 데이터 라인을 통해 세션 정보가 Backup 장비로 동기화되므로 전환 시에도 사용자 접속이 끊기지 않습니다. 장비의 watchdog 칩은 하트비트 라인을 통해 상대방 상태를 감시하며, Active가 죽으면 즉시 Backup에게 Shared IP와 VIP 인수를 통지합니다.

4. 보안성

BIG-IP는 방화벽 설계 원리를 채택해기본적으로 거부(deny by default)하며유휴 연결을 해제해 DoS를 방어하고, 소스 라우팅 추적을 수행해 IP 스푸핑을 방지하며, ACK 없는 SYN을 거부해 SYN 공격을 막습니다. Dynamic Reaping 기능은 DoS 공격 중의 유휴 연결을 효율적으로 제거하며공격량이 증가할수록 연결 차단 속도가 빨라집니다라는 점이 상당히 강력합니다. Delay Binding 기술은 백엔드 서버에 전면적인 SYN Flood 보호를 제공합니다.

5. SSL 가속

모든 BIG-IP에는 SSL 하드웨어 가속 칩이 있고, 100 TPS 라이선스가 기본 포함되어 별도 비용이 필요 없습니다. 이후 확장이 필요하면 라이선스만 업그레이드하면 됩니다.

4. F5인가 Nginx인가: 선택 비교

실무에서 가장 자주 묻는 질문입니다. 둘은 경쟁 관계라기보다 상호 보완적입니다.

F5 BIG-IP(하드웨어)

배포 형태: 전용 하드웨어 장비(맞춤 칩 포함)
성능: 백만급 TCP 연결, 마이크로초급 포워딩 지연
기능: 올라운드형—4계층+7계층, SSL 오프로딩, DDoS 방어, WAF, VPN, 링크 부하
신뢰성: 하드웨어 이중화(핫 스탠바이), 99.999% 가용성
비용: 고가(수십만~수백만 위안), 전문 엔지니어 유지보수 필요
확장성: 하드웨어 업그레이드에 의존, 유연성 낮음
운영: 복잡, 전용 설정 화면과 CLI에 숙달 필요

Nginx(소프트웨어)

배포 형태: 소프트웨어, 범용 서버나 클라우드 호스트에서 구동
성능: 십만급 TCP 연결, 밀리초급 지연, 클러스터 확장 가능
기능: 경량·고효율—7계층 중심, 4계층·SSL 오프로딩·캐시·속도 제한·리버스 프록시 지원
신뢰성: 핫 스탠바이(Keepalived) 수동 구성 필요, 서버 하드웨어 안정성에 의존
비용: 오픈소스 무료, Nginx Plus도 요금이 비교적 저렴
확장성: 클러스터 배포 지원, 클라우드 환경에서 탄력적 확장 가능
운영: 간단, 설정 파일을 읽기 쉬워 백엔드 엔지니어가 빠르게 익힐 수 있음

선택 기로에서는 아래를 따라가면 됩니다.

높은 동시성 TCP 서비스(게임, 증권)+ 극한 가용성 → F5 4계층
핵심 업무 입구+ 보안 요구(WAF/DDoS) → F5 7계층
마이크로서비스 API 게이트웨이+ 클라우드 환경 배포 → Nginx 7계층
데이터베이스/Redis 부하+ 높은 가성비 → Nginx 4계층
중소 규모 업무+ 빠른 반복 개선 → Nginx(4계층/7계층)
엔터프라이즈 데이터센터+ 멀티 링크 → F5가 입구를 담당하고 Nginx가 내부 서비스 부하를 담당

마지막 조합은 실제로 대형 기업에서 매우 흔합니다. F5가 외부 문을 지키고 Nginx가 내부를 관리하는 방식입니다.

5. 실전 사례: F5 설정이 얼마나 꼬여 있는가

많은 사람이 F5를 받았을 때 첫 반응은 다음과 같습니다.이건 스위치의 사고방식과 완전히 달라서 도무지 어디서 시작해야 할지 모르겠다는 것입니다. 설정 로직이 별개의 체계입니다.

시나리오: 두 대의 웹 서버가 외부 서비스를 제공하며 IP는 192.168.192.10-20/24입니다. 외부 주소 192.168.27.100의 80 포트로 로드 밸런싱을 해야 합니다.

가장 간단한 로드 밸런싱은 세 개의 파라미터만 필요하며, 관계는 층층이 연결됩니다.

Node(노드): 가장 기본적인 정의로, 각 서버가 하나의 Node
Pool(리소스 풀): 트래픽을 받아 처리하는 Node의 집합, 예를 들어 웹 서버 클러스터
Virtual Server(가상 서버): 외부 입구로, Pool에 연결됨

데이터 흐름: 클라이언트 요청 → Virtual Server → Pool → Node.

실제 조작 단계(BIG-IP 관리 화면)

1단계: 장비 활성화입니다. F5를 받으면 먼저 활성화하세요. 마법사는 간단하지만 기억하세요.반드시 인터넷에 연결해야 하며, 가능하면 랙에 장착하기 전에 완료하는 것이 좋습니다이것은 함정을 밟아본 경험에서 나온 교훈입니다
2단계: 로그인입니다. 브라우저에서 https://관리IP를 열고, 기본 사용자 이름과 비밀번호는 모두 admin입니다
3단계: VLAN 구성입니다. Network → VLANs에서 VLAN을 만들고 인터페이스를 추가합니다(Untagged 선택)
4단계: IP 설정입니다. Networks → Self IPs에서 각 VLAN에 주소를 정의합니다
5단계: 라우팅 설정입니다. Networks → Routes에서 기본 게이트웨이나 정적 라우트를 설정합니다
6단계: Pool 설정입니다. Local Traffic → Virtual Servers → Pools에서 이름, 헬스 체크(예: TCP), 부하 알고리즘(예: observed-member 관찰 방식), 실제 서버 IP와 포트를 설정합니다
7단계: Virtual Server 설정입니다. Local Traffic → Virtual Servers에서 위의 Pool을 연결하고 분배 방식을 선택합니다(일반적으로 RoundRobin 사용)
8단계: Monitor 설정입니다. Local Traffic → Monitors에서 서버 상태를 검사하고 Pool과 연결합니다
9단계: Redundant 설정으로 이중화를 구성합니다

6. Virtual Server의 핵심 파라미터 몇 가지

F5의 핵심은 Virtual Server이며, 몇 가지 파라미터를 주의하지 않으면 문제가 생깁니다.

VS Type(유형)에는 흔한 세 가지가 있습니다.

Performance L4: 순수 4계층 포워딩으로, TMM은 연결 분배만 담당하고 TCP 파라미터를 변경하지 않으며 클라이언트와 서버의 연결이 1:1입니다. 포워딩 속도가 빨라 기업에서 자주 사용합니다. 애플리케이션에 미치는 영향을 줄이기 위해선택할 수 있다면 우선 이것을 고르세요
Standard VS: 클라이언트와 서버의 TCP 연결이 완전히 독립적입니다. 7계층 기능이 필요할 때 사용합니다(Cookie 세션 유지, Session ID 유지, Header 유지, 트랜잭션 기반 롱 커넥션 분리, SYN 공격 방어). 한 가지 특성에 주의하세요.이 유형의 포트는 항상 외부에 개방되어 있습니다즉, 백엔드 Node가 모두 죽었어도 VIP의 80 포트는 telnet이 여전히 연결되고 웹페이지만 열리지 않습니다. 이걸로 장애를 점검할 때 기억하세요
Forwarding IP: 내외부망 연결에 사용되며 Pool Member가 없고 포워딩은 로컬 라우팅에 따라 달라집니다. 기본적으로 F5에는 라우팅 기능이 없어서 전부 0인 VS를 만들어 라우팅 기능을 켜야 합니다

Timeout을 맞춰야 합니다(이건 진짜 함정입니다). VS에 TCP Profile이 설정되어 있으면 UDP 연결은 수락되지 않습니다. 더 주의할 것은 tcp의 Idle Timeout 값인데반드시 서버 쪽과 맞춰야 합니다입니다. F5에서 150초로 설정하고 IIS 서버는 300초라면 대량의 오류가 발생합니다. 양쪽의 시간을 서로 조율해야 합니다.

Address/Port Translation: 기본값은 모두 enabled입니다. VS IP와 실제 장비 IP가 다를 때는 Address Translation을 켜고, VS의 8080 포트가 실제 주소의 80 포트에 대응할 때는 Port Translation을 켜야 합니다.

SNAT AutoMap: 요청이 어떤 VLAN으로 나가는지에 따라 SNAT 출발지 주소는 그 VLAN의 Self IP가 됩니다. 하나의 VLAN에 여러 Self IP가 있으면 순번으로 번갈아 사용합니다.

7. '세션 유지'를 반드시 이해해야 하는 이유

이것은 로드 밸런싱에서 가장 쉽게 간과되면서 가장 자주 문제를 일으키는 개념입니다.

전자상거래, 온라인 인증 같은 시스템에서는 한 고객이 여러 번의 상호작용을 거쳐야 하나의 거래를 완료합니다. 이 상호작용들은서로 밀접하게 연관되어 있으며서버가 두 번째 단계를 처리할 때 첫 번째 단계의 결과를 알아야 하는 경우가 많습니다. 따라서 이 모든 상호작용은반드시 같은 서버가 처리해야 합니다로드 밸런서가 다른 장비로 분산해서는 안 됩니다.

이것이 세션 유지(Persistence)가 존재하는 이유입니다. F5는 Connectivity로 구현하며 선택 가능한 모드는 다음과 같습니다.

출발지 주소 유지: 클라이언트 출발지 IP 기준으로 바인딩
Cookie 유지: F5가 세션 Cookie를 자동 삽입, 7계층에서 가장 많이 사용
SSL Session ID 유지: SSL 세션 재사용
세션 유지 테이블: 다양한 타임아웃과 매칭 규칙 지원

잘못 설정하면 어떻게 될까요? 사용자가 장바구니에 상품을 담았는데 새로고침하면 사라집니다. 요청이 다른 서버로 분배되었기 때문입니다. 이런 온라인 장애는 원인을 찾기가 매우 고됩니다.

8. 피할 수 없는 실전 디테일 몇 가지

마지막으로 다른 사람들이 밟았던 함정 몇 개를 골라 결론부터 말씀드립니다.

헬스 체크는 계층을 올바르게 선택: TCP 핸드셰이크만 보면 서버 포트는 살아 있지만 애플리케이션이 죽어도 그대로 포워딩됩니다. 애플리케이션 계층을 검사하려면 HTTP 유형 Monitor로 /actuator/health 같은 인터페이스를 확인하세요
방화벽은 '샌드위치' 구조로: 단일 방화벽은 보통 회선 속도의 30% 처리량에 그치므로 높이려면 여러 대를 쌓아야 합니다. 하지만 방화벽은 데이터가 같은 장비로 들어갔다 나와야 하며, 그렇지 않으면 연결이 거부됩니다. F5의 방화벽 로드 밸런싱 솔루션이 이 문제를 해결해 투명한 장비 연속성을 실현합니다
SSL 오프로딩은 CPU 절약의 핵심: F5가 HTTPS 핸드셰이크와 암복호화를 처리하고 백엔드 Java 애플리케이션은 HTTP만 처리하게 하면 성능이 눈에 띄게 향상됩니다
프로덕션 환경에 연결하기 전에 부하 테스트 먼저: 4계층이 빠르긴 하지만 4계층 VS에서 세션 유지를 켜면 상태가 도입되는 것이므로 성능 기대치를 다시 계산해야 합니다
모니터링 지표는 세 가지: 풀 상태, 가상 서버 처리량, 노드 상태
장애 점검 명령어: tmsh show ltm pool <pool-name>으로 풀 상태를, tmsh show ltm virtual <vs-name>으로 가상 서버 상태를 확인합니다

마치며

로드 밸런싱은 겉보기에 '포워딩 장비'지만 실제로는 전체 아키텍처에서 가장 중요한 위치에 있습니다. 모든 트래픽이 반드시 그 손을 거쳐 가기 때문입니다. 잘 구성하면 사용자는 존재조차 느끼지 못하고, 잘못 구성하면 한밤중의 전화가 당신을 찾아옵니다.

지금 클라우드 네이티브 물결 속에서 LVS, Nginx, HAProxy 같은 소프트웨어 솔루션은 중소 규모 시나리오에서 충분하고 비용 면에서도 우위가 분명합니다. 하지만 금융, 증권, 대형 전자상거래의 핵심 입구에서는 안정성, 밀리초급 전환, 올인원 보안 능력 면에서 하드웨어 로드 밸런싱의 가치는 단기간에 대체될 수 없습니다.

'F5'라는 이름이 한 회사에서 품목이 되어 가는 과정 자체가 이미 많은 것을 말해 줍니다. 어떤 제품이 동사처럼 쓰이기 시작했다면 이미 그 시장에서 이긴 것입니다.

4계층은 이정표를 보고, 7계층은 택배를 뜯는다. 성능이면 4계층, 기능이면 7계층이다.

참고: F5 BIG-IP LTM 공식 자료, 《네트워크 운영과 관리》 F5 로드 밸런싱 사례, 4계층/7계층 로드 밸런싱 기술 비교