An InfiniBand administrator needs to run performance benchmarks on new devices added to the fabric.
What tool should be used to check the latency?
- A. tcpdump
- B. ib_write_lat
- C. perfmon
- D. ibdiagnet
InfiniBand 관리자는 패브릭에 새로 추가된 장치에 대한 성능 벤치마크를 실행해야 합니다.
지연 시간을 확인하려면 어떤 도구를 사용해야 할까요?
- A. tcpdump
- B. ib_write_lat
- C. 퍼프몬
- D. ibdiagnet
정답은 B. ib_write_lat 입니다. ✅
이 문제는 아주 전형적입니다. 핵심은 latency라는 단어입니다.
ib_write_lat는 InfiniBand/RDMA 환경에서 RDMA Write 지연시간(latency) 을 측정하는 perftest 도구입니다. 공식 linux-rdma/perftest 문서에서도 ib_write_lat를 “latency test with RDMA write transactions”로 설명합니다. GitHub
문제를 쉽게 해석하면
새 InfiniBand 장비를 Fabric에 추가했다.
성능 점검을 하려는데 지연시간을 확인하려면 어떤 도구를 써야 하는가?
여기서 바로:
latency
↓
*_lat를 떠올리면 됩니다.
그리고 RDMA Write 기준이면:
ib_write_lat입니다.
시험용으로 같이 외우세요
| RDMA Write latency | ib_write_lat |
| RDMA Write bandwidth | ib_write_bw |
| RDMA Read latency | ib_read_lat |
| RDMA Read bandwidth | ib_read_bw |
| Send latency | ib_send_lat |
| Send bandwidth | ib_send_bw |
공식 perftest 문서도 이 구분을 그대로 제공합니다. GitHub
_lat = latency
_bw = bandwidth
이 두 개만 기억해도 비슷한 문제를 많이 풀 수 있습니다.
보기별 분석
A. tcpdump ❌
패킷 캡처/분석 도구입니다. InfiniBand RDMA latency 벤치마크 도구가 아닙니다.
B. ib_write_lat ✅
RDMA Write transaction의 latency를 측정합니다.
C. perfmon ❌
일반적인 성능 모니터링 계열 용어일 뿐, 이 문제의 표준 InfiniBand latency benchmark가 아닙니다.
D. ibdiagnet ❌
InfiniBand Fabric의 토폴로지, 링크 상태, 오류, 구성 문제 등을 진단하는 도구입니다. latency benchmark 전용 도구가 아닙니다.
한 줄 암기
InfiniBand latency → ib_write_lat
그리고 같이:
Bandwidth → ib_write_bw
정답: B ✅
참고로 perftest latency 도구는 round-trip을 측정한 뒤 절반을 one-way latency처럼 보고하며, 최소/중앙값/최대 latency 결과를 제공합니다. GitHub
==================
InfiniBand = 아주 빠른 데이터센터용 네트워크 기술
Fabric = 여러 서버와 스위치가 연결된 “전체 네트워크 구조”
입니다.
1. InfiniBand가 뭐야?
InfiniBand는 일반 Ethernet보다 초저지연·고대역폭 통신에 강한 네트워크 기술입니다.
특히 이런 환경에서 많이 씁니다.
- AI GPU 클러스터
- HPC
- 대규모 분산학습
- 슈퍼컴퓨터
예를 들어 H200 GPU 서버가 여러 대 있다고 해보겠습니다.
GPU Server 1
│
│ InfiniBand
│
GPU Server 2두 서버가 서로 학습 데이터를 매우 빠르게 주고받게 해주는 네트워크가 InfiniBand입니다.
왜 GPU 환경에서 중요할까?
GPU 1대만 쓰면 큰 문제가 없습니다.
하지만 서버가 여러 대가 되면:
Server A의 GPU
↓
Server B의 GPU
↓
Server C의 GPU서로 gradient나 tensor 데이터를 계속 주고받아야 합니다.
이때 네트워크가 느리면 GPU가 기다리게 됩니다.
GPU 계산 완료
↓
네트워크 전송 기다림
↓
GPU 놀고 있음그래서 AI/HPC에서는 InfiniBand 같은 고속 네트워크가 중요합니다.
2. Fabric은 뭐야?
Fabric은 특정 장비 이름이 아닙니다.
쉽게 말하면:
서버, NIC, 스위치, 케이블이 서로 연결된 전체 통신망
입니다.
예를 들어:
GPU Server 1 ─┐
GPU Server 2 ─┤
GPU Server 3 ─┼── InfiniBand Switch ── GPU Server 4
GPU Server 5 ─┤
GPU Server 6 ─┘이 전체 구조를:
InfiniBand Fabric
이라고 부릅니다.
즉:
InfiniBand
= 네트워크 기술
Fabric
= 그 기술로 구성된 전체 네트워크도로로 비유하면
이렇게 이해하면 제일 쉽습니다.
InfiniBand
= 고속도로 규격
Switch
= 고속도로 분기점
Cable
= 도로
Server
= 도시
Fabric
= 도시와 도로와 분기점을 모두 합친 전체 교통망그래서:
InfiniBand Fabric = InfiniBand로 구성된 데이터센터 전체 고속 통신망
입니다.
앞 문제를 다시 보면
문제가:
An InfiniBand administrator needs to run performance benchmarks on new devices added to the fabric.
였죠.
쉽게 번역하면:
InfiniBand 전체 네트워크에 새 장비를 추가했는데,
그 장비의 통신 지연시간을 측정하고 싶다.
이 뜻입니다.
기존 InfiniBand Fabric
Server1 ─ Switch ─ Server2
│
새 Server새 서버를 추가한 뒤:
새 서버 ↔ 기존 서버통신이 빠른지 확인하는 겁니다.
그래서 latency를 측정하는:
ib_write_lat를 사용하는 것입니다.
3. NIC와 Switch도 같이 알아두세요
InfiniBand Fabric을 이해하려면 이것도 중요합니다.
NIC
서버가 네트워크에 연결되는 카드입니다.
GPU Server
│
NIC
│
NetworkInfiniBand에서는 HCA라고 부르는 경우가 많습니다.
HCA = Host Channel Adapter
쉽게 말하면 InfiniBand용 NIC입니다.
Switch
여러 서버를 서로 연결해주는 장비입니다.
Server1 ─┐
Server2 ─┼─ Switch
Server3 ─┤
Server4 ─┘4. 전체 구조를 보면
GPU Cluster에서는 대략 이렇게 됩니다.
┌─────────────┐
│ GPU Server1 │
│ H200 × 8 │
└──────┬──────┘
│
HCA
│
│ InfiniBand
│
┌──────▼──────┐
│ IB Switch │
└──────┬──────┘
│
│
HCA
│
┌──────▼──────┐
│ GPU Server2 │
│ H200 × 8 │
└─────────────┘이 전체가:
InfiniBand Fabric
입니다.
5. NCCL과도 연결됩니다
앞에서 공부한 NCCL도 여기랑 연결됩니다.
GPU
↓
NCCL
↓
InfiniBand HCA
↓
InfiniBand Switch
↓
다른 서버의 GPU즉:
NCCL은 GPU끼리 통신하는 소프트웨어 라이브러리
InfiniBand는 실제 데이터를 빠르게 나르는 네트워크
라고 이해하면 됩니다.
🎯 시험용 핵심 암기
| InfiniBand | GPU/HPC용 초고속 네트워크 |
| Fabric | 전체 네트워크 연결 구조 |
| HCA | InfiniBand용 NIC |
| Switch | 여러 서버 연결 |
| NCCL | GPU 간 통신 라이브러리 |
| ib_write_lat | InfiniBand latency 측정 |
한 줄로
InfiniBand = 고속 네트워크 기술
InfiniBand Fabric = 그 네트워크로 연결된 서버·스위치·케이블 전체
이 개념만 잡으면 앞으로 HCA, RDMA, RoCE, NCCL, IB Switch 문제도 훨씬 쉽게 이해됩니다.
댓글