A system administrator needs to install a container toolkit and successfully run the following commands:
What step should be taken next to finish the installation?
- A. systemctl restart docker
- B. apt-get remove nvidia-container-toolkit for
- C. dpkg –i doca-host-repo-ubuntu<version>_am64.deb</version>
- D. apt-get install cuda-drivers
시스템 관리자가 컨테이너 툴킷을 설치하고 다음 명령어를 성공적으로 실행해야 합니다.
설치를 완료하려면 다음 단계로 무엇을 해야 할까요?
- A. systemctl restart docker
- B. apt-get remove nvidia-container-toolkit
- C. dpkg –i doca-host-repo-ubuntu<version>_am64.deb</version>
- D. apt-get install cuda-drivers
정답은 A. systemctl restart docker 입니다. ✅
이 문제의 핵심은 NVIDIA Container Toolkit 설치 후 Docker가 NVIDIA Runtime 설정을 다시 읽도록 재시작해야 한다는 점입니다.
NVIDIA 공식 설치 절차도 다음 순서입니다. NVIDIA Docs
sudo apt-get install -y nvidia-container-toolkit
sudo nvidia-ctk runtime configure --runtime=docker
sudo systemctl restart docker즉 문제의 이미지에서 이미:
nvidia-ctk runtime configure --runtime=docker까지 실행했다면, 다음 단계는:
sudo systemctl restart docker입니다.
왜 Docker를 재시작하나요?
nvidia-ctk runtime configure --runtime=docker 명령은 Docker 설정 파일인:
/etc/docker/daemon.json을 수정해서 Docker가 NVIDIA Container Runtime을 사용할 수 있게 만듭니다. 하지만 Docker가 이미 실행 중이면 새 설정을 바로 반영하지 않을 수 있습니다. NVIDIA Docs
그래서:
NVIDIA Toolkit 설치
↓
Docker Runtime 설정
↓
Docker Restart
↓
새 설정 적용순서가 필요합니다.
보기별로 보면
A. systemctl restart docker ✅
정답입니다. Docker daemon이 새 NVIDIA runtime 설정을 다시 읽게 합니다.
B. apt-get remove nvidia-container-toolkit ❌
방금 설치한 Toolkit을 제거하는 명령이라 반대입니다.
C. dpkg -i doca-host-repo... ❌
DOCA Host 설치 명령입니다. NVIDIA Container Toolkit 설정과 직접 관련 없습니다.
D. apt-get install cuda-drivers ❌
GPU Driver가 필요할 수는 있지만, 문제는 이미 Toolkit 설치/configure 단계 이후의 다음 단계를 묻고 있습니다.
실제 최종 검증
Docker 재시작 후에는 보통 GPU 접근이 되는지 확인합니다. NVIDIA DGX OS 문서에서도 다음과 같은 검증 흐름을 안내합니다. NVIDIA Docs
docker run --rm --gpus all \
nvidia/cuda:<지원되는-CUDA-tag> \
nvidia-smi정상이라면 컨테이너 안에서도 GPU 정보가 출력됩니다.
시험 암기
NVIDIA Container Toolkit → nvidia-ctk runtime configure → systemctl restart docker
Question #22 정답: A ✅
=====================
NVIDIA Container Toolkit = Docker/Kubernetes 컨테이너 안에서 NVIDIA GPU를 사용할 수 있게 해주는 연결 도구
입니다. NVIDIA 공식 문서도 이를 GPU 가속 컨테이너를 빌드하고 실행하기 위한 라이브러리와 유틸리티 모음으로 설명합니다. NVIDIA Docs
왜 필요한가요?
일반 Docker 컨테이너는 기본적으로 호스트의 GPU를 그냥 사용할 수 없습니다.
구조를 보면:
호스트 서버
├─ NVIDIA GPU
├─ NVIDIA Driver
└─ Docker
└─ Container그런데 컨테이너 안에서 GPU를 쓰려면:
Container
↓
NVIDIA Container Toolkit
↓
NVIDIA Driver
↓
GPU이 연결 계층이 필요합니다.
즉 Toolkit이 컨테이너에 GPU 디바이스와 필요한 NVIDIA 라이브러리를 연결해주는 겁니다.
실제로는 어떻게 쓰나요?
예를 들어 Docker에서:
docker run --rm --gpus all \
nvidia/cuda:12.8.0-base-ubuntu22.04 \
nvidia-smi라고 실행하면:
--gpus all이 옵션으로 컨테이너가 모든 NVIDIA GPU를 볼 수 있습니다.
NVIDIA Container Toolkit이 이 요청을 받아서 실제 GPU를 컨테이너에 노출합니다. NVIDIA Docs
Toolkit 안에는 뭐가 들어 있나요?
대표적으로:
- nvidia-ctk
- nvidia-container-cli
- NVIDIA Container Runtime 관련 구성요소
- CDI 지원
- libnvidia-container
등이 포함됩니다. NVIDIA Docs
초보자라면 전부 외울 필요 없습니다.
시험에서는:
nvidia-ctk = NVIDIA Container Toolkit 설정 도구
정도만 기억하면 충분합니다.
Docker와 어떤 관계인가요?
설치 후 보통:
sudo nvidia-ctk runtime configure --runtime=docker를 실행합니다.
이 명령은:
“Docker야, NVIDIA GPU를 사용할 수 있도록 runtime 설정을 추가해”
라는 뜻입니다.
그다음:
sudo systemctl restart docker를 실행해 Docker가 새 설정을 다시 읽게 합니다. NVIDIA 공식 설치 절차도 이 순서를 사용합니다. NVIDIA Docs
NVIDIA Driver와 Toolkit은 같은 건가요?
아닙니다. 이 차이가 중요합니다.
NVIDIA Driver
= Linux가 GPU 하드웨어를 사용할 수 있게 함
NVIDIA Container Toolkit
= Container가 그 GPU를 사용할 수 있게 연결즉:
GPU
↑
NVIDIA Driver
↑
NVIDIA Container Toolkit
↑
Docker / Container
↑
PyTorch / TensorFlow / CUDA App이런 계층입니다.
Driver 없으면 GPU 자체를 못 씀
Toolkit 없으면 Docker 컨테이너에서 GPU를 쓰기 어려움
Kubernetes에서는?
Kubernetes에서도 같은 개념입니다.
Kubernetes Pod
↓
Container Runtime
↓
NVIDIA Container Toolkit
↓
NVIDIA Driver
↓
GPU그리고 Kubernetes 환경에서는 보통 NVIDIA GPU Operator가 Toolkit, Device Plugin 등 GPU 관련 구성요소를 자동 배포하는 데 사용됩니다. NVIDIA Docs
시험용 한 줄 암기
NVIDIA Container Toolkit = Docker/Kubernetes 컨테이너에서 NVIDIA GPU를 사용할 수 있게 해주는 소프트웨어
그리고 Question #22와 연결하면:
Toolkit 설치
↓
nvidia-ctk runtime configure
↓
Docker restart
↓
docker run --gpus all
↓
Container에서 GPU 사용이 흐름만 기억하면 됩니다.
댓글