서울 사용자에게는 빠르던 페이지가 미국 사용자에게는 느리다는 피드백을 받았습니다.
서버 응답 시간 로그는 똑같이 50 ms인데, 사용자가 체감하는 시간은 몇 배 차이가 납니다.
이 차이는 서버 바깥, 즉
패킷이 네트워크를 지나며 쌓이는 지연
에서 생깁니다.
이번 글에서는 패킷이 라우터 하나를 지날 때 생기는
네 가지 지연
을 구분하고, 각각을 계산하는 방법을 정리합니다.
이어서
패킷 손실
이 생기는 조건과 종단 간
처리량
을 결정하는 병목 링크를 살펴본 뒤, macOS 명령으로 실제 값을 측정합니다.
노드 지연은 처리 지연, 큐잉 지연, 전송 지연, 전파 지연의 합입니다.
라우터 A에서 라우터 B로 가는 패킷이 겪는 처리 지연, 큐잉 지연, 전송 지연, 전파 지연의 위치와 계산식
라우터는 패킷 헤더를 검사하고, 비트 오류를 확인하고, 어느 출력 링크로 보낼지 결정합니다.
이 작업에 걸리는 시간이
처리 지연
(processing delay)이며, 현대 라우터에서는 보통 마이크로초 단위로 매우 작습니다.
출력 링크가 다른 패킷을 전송하고 있으면 새 패킷은 큐에서 기다립니다.
이 대기 시간이
큐잉 지연
(queuing delay)입니다.
큐잉 지연은
앞에 쌓인 패킷 수
에 따라 달라지므로 네 가지 지연 중 변동이 가장 큽니다.
트래픽이 없으면 0에 가깝지만, 혼잡하면 수십에서 수백 밀리초까지 커질 수 있습니다.
전송 지연
(transmission delay)은 패킷의 모든 비트를 링크로 밀어 넣는 데 걸리는 시간입니다.
패킷 크기를 L 비트, 링크 전송률을 R bps라고 하면 전송 지연은 L/R입니다.
전송 지연은
링크의 길이와 무관
하며, 패킷 크기와 링크 속도에만 영향을 받습니다.
전파 지연
(propagation delay)은 링크에 올라간 비트가 반대편 라우터까지 이동하는 데 걸리는 시간입니다.
링크 길이를 d, 매체에서의 신호 속도를 s라고 하면 전파 지연은 d/s입니다.
광섬유나 구리선에서 신호 속도는 대략 2 × 10⁸ m/s로, 빛의 속도보다 조금 느립니다.
두 지연은 이름이 비슷해 자주 혼동됩니다.
고속도로 요금소에 비유하면 차 10대가 요금소를 모두 통과하는 시간이 전송 지연이고, 마지막 차가 다음 요금소까지 달려가는 시간이 전파 지연입니다.
아래는 1,500바이트 패킷을 기준으로 두 지연을 계산한 결과입니다.
구간 조건 전송 지연 L/R 전파 지연 d/s 사무실 LAN 100 Mbps, 100 m 0.12 ms 0.0005 ms 서울–로스앤젤레스 해저 구간 100 Mbps, 약 9,600 km 0.12 ms 약 48 ms
같은 전송률에서는 전송 지연이 동일하지만, 거리가 멀어지면 전파 지연이 압도적으로 커집니다.
대륙 간 서비스가 느린 가장 큰 이유는 대역폭보다 물리적 거리
이며, 그래서 CDN과 리전 분산으로 사용자 가까이에 서버를 두는 것이 효과적입니다.
큐잉 지연이 얼마나 커질지는
트래픽 강도
(traffic intensity)로 가늠할 수 있습니다.
패킷이 초당 평균 a개 도착하고, 패킷 크기가 L 비트, 링크 전송률이 R bps라면 트래픽 강도는 La/R입니다.
La/R이 0에 가까울 때
도착하는 패킷이 거의 없어 큐잉 지연이 작습니다.
La/R이 1에 가까워질 때
잠깐씩 몰려 도착하는 패킷이 큐에 쌓이기 시작하고, 평균 큐잉 지연이 급격히 커집니다.
La/R이 1보다 클 때
도착 속도가 전송 속도보다 빨라 큐가 끝없이 늘어나며, 결국 패킷이 버려집니다.
🖐️
트래픽 강도가 1을 넘지 않도록 시스템을 설계해야 합니다.
링크나 서버 사용률을 100%에 가깝게 운영하면 평균 처리량은 높아 보여도
큐잉 지연과 손실이 급격히 늘어
사용자 경험이 크게 나빠집니다.
라우터의 큐 용량은 유한하므로, 큐가 가득 찬 상태에서 도착한 패킷은 버려집니다.
손실된 패킷은 TCP 같은 상위 프로토콜이 재전송하거나, 실시간 통화처럼 재전송하지 않는 서비스에서는 그대로 품질 저하로 나타납니다.
따라서 네트워크 성능은 지연뿐 아니라
손실 비율
로도 평가합니다.
손실이 반복되면 TCP는 혼잡으로 판단해 전송 속도를 줄이므로, 손실은 결국 처리량 저하로 이어집니다.
출발지와 목적지 사이에 라우터가 N−1개 있고 네트워크가 혼잡하지 않다면, 큐잉 지연을 무시한 종단 간 지연은 N × (처리 지연 + 전송 지연 + 전파 지연)입니다.
실제 측정에서는 여기에 각 라우터의 큐잉 지연이 더해지고, 요청과 응답이 왕복하므로
RTT
(Round-Trip Time)를 기준으로 봅니다.
Cloudflare는 네트워크 지연을
데이터 패킷이 한 곳에서 다른 곳으로 이동하는 데 걸리는 시간
으로 설명하며, 지연을 줄이는 것이 사용자 경험의 핵심이라고 강조합니다 (
Cloudflare · What is latency?↗ ).
처리량
(throughput)은 수신 호스트가 실제로 데이터를 받는 속도입니다.
서버에서 클라이언트까지 경로에 여러 링크가 있을 때 처리량은
가장 느린 링크
의 전송률로 제한되며, 이 링크를
병목 링크
(bottleneck link)라고 합니다.
경로 서버 링크 Rs 중간 링크 R 클라이언트 링크 Rc 처리량 단일 다운로드 1 Gbps 10 Gbps 100 Mbps 100 Mbps 10개 다운로드가 중간 링크 공유 1 Gbps 500 Mbps 100 Mbps 연결당 50 Mbps
첫 번째 경우 처리량은 min(Rs, R, Rc)로 클라이언트 링크가 병목입니다.
두 번째 경우 중간 링크 500 Mbps를 10개 연결이 나눠 쓰므로 연결당 R/10인 50 Mbps가 병목이 됩니다.
이 계산은 자료구조에서 그래프 경로의
최소 간선 용량
을 찾는 문제와 같습니다.
경로의 처리량은 경로상 간선 용량의 최솟값이므로, 성능을 높이려면 병목이 아닌 링크를 개선해서는 효과가 없습니다.
👨💻
다운로드 속도 문제를 해결할 때는 먼저 병목 위치를 찾으세요.
사용자 회선이 100 Mbps라면 서버 대역폭을 10 Gbps로 늘려도 사용자 체감 속도는 변하지 않습니다.
ping은 목적지까지의 RTT와 손실률을 측정합니다.
traceroute는 경로상 각 라우터까지의 RTT를 보여 주므로 지연이 어느 구간에서 커지는지 찾을 수 있습니다.
ping -c 10 www.promleeblog.com
traceroute -n -q 3 www.promleeblog.com
ping 결과 마지막 줄의
packet loss는 손실률을,
round-trip min/avg/max/stddev는 RTT의 최솟값, 평균, 최댓값, 표준편차를 나타냅니다.
표준편차가 크다면 큐잉 지연의 변동이 크다는 뜻입니다.
Windows에서는 ping -n 10과 tracert를, Linux에서는 macOS와 같은 ping -c 10과 traceroute를 사용합니다.
웹 요청의 지연을 단계별로 나누어 보려면 curl의 -w 옵션을 사용합니다.
curl -o /dev/null -s -w "dns=%{time_namelookup} connect=%{time_connect} tls=%{time_appconnect} ttfb=%{time_starttransfer} total=%{time_total}\n" https://www.promleeblog.com
time_connect
TCP 연결이 완료된 시점입니다. DNS 조회 이후 연결까지 걸린 시간은 대략 RTT 한 번에 해당합니다.
time_appconnect
TLS 핸드셰이크가 끝난 시점입니다.
time_starttransfer
첫 바이트를 받은 시점(TTFB)으로, 서버 처리 시간과 네트워크 왕복 시간이 함께 반영됩니다.
서버 로그의 처리 시간보다 TTFB가 훨씬 크다면
네트워크 구간의 지연
이 원인일 가능성이 큽니다.
macOS 12 Monterey 이상에는 처리량과 응답성을 측정하는 networkQuality 명령이 내장되어 있습니다.
업로드와 다운로드 처리량, 그리고 부하가 걸린 상태에서의 응답성을 함께 보여 줍니다.
부하 상태의 응답성이 크게 떨어진다면 공유기나 접속 네트워크의 큐가 과도하게 쌓이는 상황을 의심해 볼 수 있습니다.
측정값은 시간대와 네트워크 환경에 따라 달라지므로 여러 번 측정해 비교합니다.
패킷이 라우터 하나를 지날 때는
처리, 큐잉, 전송, 전파 지연
이 더해집니다.
전송 지연은 패킷 크기와 링크 속도로, 전파 지연은 거리로 결정되며, 큐잉 지연은 트래픽 강도에 따라 크게 변하고 큐가 넘치면 패킷 손실로 이어집니다.
종단 간 처리량은 경로에서 가장 느린
병목 링크
가 결정합니다.
해외 사용자가 느리다면 전파 지연을 줄이도록 서버를 가까이 두고, 혼잡 시간에 느리다면 큐잉과 손실을, 다운로드가 느리다면 병목 링크를 먼저 확인하세요.
다음 글에서는 이런 복잡한 전달 과정을 나누어 관리하는
프로토콜 계층과 캡슐화
를 살펴봅니다.