[3단계] Kubeflow가 뭐야? AI 학습부터 서빙까지 연결하는 초보자용 설명 🚀

 

 

AI 학습부터 서빙까지 연결하는 초보자용 설명 🚀

AI 서빙을 공부하다 보면 Kubeflow라는 단어를 자주 만나게 됩니다.

처음 보면 이런 생각이 듭니다.

“쿠버플로우? 쿠버네티스랑 관련 있는 건가?”
“AI 모델 학습 도구인가?”
“서빙이랑은 무슨 관계지?”
“그냥 모델만 올리면 되는 거 아닌가?”

처음에는 헷갈리는 것이 당연합니다.
이번 글에서는 Kubeflow를 아주 쉽게 설명해보겠습니다.

---

1. Kubeflow를 한 문장으로 말하면? 🤔

Kubeflow는 쉽게 말하면,

Kubernetes 위에서 AI 개발, 학습, 배포, 서빙을 편하게 할 수 있게 도와주는 도구 모음

입니다.

조금 더 쉽게 말하면,

AI 모델을 만들고, 학습시키고, 관리하고, 서비스까지 이어주는 AI 작업 플랫폼

이라고 보면 됩니다.

여기서 중요한 점은 Kubeflow가 단순히 하나의 프로그램이 아니라는 것입니다.

Kubeflow는 여러 기능이 모여 있는 AI 작업 도구 세트에 가깝습니다.

예를 들면 이런 기능들이 있습니다.

노트북에서 AI 코드 작성
모델 학습 실행
학습 과정을 자동화
학습 결과 관리
모델을 서빙으로 배포

즉, Kubeflow는 AI 모델을 만드는 사람과 운영하는 사람이 조금 더 편하게 일할 수 있도록 도와주는 플랫폼입니다.

---

2. Kubernetes가 먼저 있어야 이해가 쉽다 ☸️

Kubeflow를 이해하려면 먼저 Kubernetes를 아주 간단히 알아야 합니다.

Kubernetes는 쉽게 말하면,

여러 서버 위에서 프로그램을 자동으로 실행하고 관리해주는 시스템

입니다.

예를 들어 서버가 여러 대 있다고 해보겠습니다.

서버 1
서버 2
서버 3
서버 4

여기에 AI 학습 작업, 웹 서비스, 데이터 처리 프로그램 등을 실행해야 합니다.

이때 사람이 직접 서버마다 들어가서 실행하면 너무 힘듭니다.

그래서 Kubernetes가 이런 일을 대신합니다.

어느 서버에 실행할지 결정
프로그램이 죽으면 다시 실행
자원이 부족하면 다른 서버에 배치
서비스 주소 연결
여러 개로 늘리거나 줄이기

쉽게 말하면 Kubernetes는 서버 관리자 같은 역할을 합니다.

---

3. 그럼 Kubeflow는 Kubernetes랑 뭐가 다를까? 🧩

Kubernetes는 일반 프로그램을 잘 실행하고 관리합니다.

하지만 AI 작업은 일반 프로그램보다 복잡합니다.

AI 작업에는 이런 과정이 있습니다.

데이터 준비
코드 개발
모델 학습
성능 확인
모델 저장
모델 배포
서빙 운영

Kubernetes만으로도 할 수는 있지만, 직접 설정해야 할 것이 많습니다.

그래서 Kubeflow가 등장합니다.

Kubeflow는 Kubernetes 위에서 AI 작업을 더 쉽게 할 수 있도록 도와줍니다.

정리하면 이렇습니다.

구분쉬운 설명

Kubernetes	서버 위에서 프로그램을 실행하고 관리하는 시스템
Kubeflow	Kubernetes 위에서 AI 작업을 쉽게 하게 해주는 플랫폼

비유하면,

Kubernetes = 건물의 전기, 수도, 엘리베이터 같은 기반 시설
Kubeflow = 그 건물 안에 들어온 AI 연구소

Kubernetes가 기반을 제공하고, Kubeflow는 그 위에서 AI 작업 환경을 제공합니다.

---

4. Kubeflow가 필요한 이유 💡

AI 모델을 만든다고 하면 단순히 Python 코드 하나만 실행하는 것처럼 보일 수 있습니다.

하지만 실제 현장에서는 훨씬 복잡합니다.

예를 들어 AI 모델을 만들려면 이런 과정이 필요합니다.

1. 데이터를 준비한다
2. 노트북에서 코드를 작성한다
3. GPU를 사용해서 모델을 학습한다
4. 학습 결과를 저장한다
5. 여러 실험 결과를 비교한다
6. 성능이 좋은 모델을 선택한다
7. 선택한 모델을 서빙으로 배포한다
8. 사용자가 API로 호출한다

이 과정을 매번 사람이 수동으로 하면 실수도 많고 시간이 오래 걸립니다.

Kubeflow는 이런 AI 작업 과정을 더 체계적으로 관리할 수 있게 도와줍니다.

---

5. Kubeflow를 식당으로 비유하면 🍜

AI 서비스를 식당으로 비유해보겠습니다.

AI 과정식당 비유

데이터 준비	재료 준비
모델 학습	요리법 연습
학습 완료 모델	완성된 대표 메뉴
모델 저장	레시피 보관
서빙	손님에게 음식 제공
API 호출	손님의 주문
결과 응답	완성된 음식 전달

이때 Kubeflow는 식당 전체 운영 시스템에 가깝습니다.

재료 준비 공간
요리 연습 공간
레시피 관리 공간
주방 운영 공간
주문 처리 공간

이런 것들을 한곳에서 관리할 수 있게 도와주는 것입니다.

---

6. Kubeflow 안에는 어떤 기능들이 있을까? 🧰

Kubeflow에는 여러 기능이 있습니다.

초보자라면 처음부터 전부 외울 필요는 없습니다.

우선 아래 4가지만 알면 충분합니다.

1. Notebook
2. Training
3. Pipeline
4. Serving

하나씩 쉽게 보겠습니다.

---

7. Notebook: AI 코드를 작성하는 공간 ✍️

Notebook은 AI 개발자가 코드를 작성하고 테스트하는 공간입니다.

쉽게 말하면,

웹브라우저에서 Python 코드를 실행하는 작업실

입니다.

AI 개발자는 Notebook에서 이런 일을 합니다.

데이터 확인
Python 코드 작성
모델 테스트
작은 규모 학습
결과 시각화

예를 들어 Jupyter Notebook을 사용해본 적이 있다면 비슷하게 생각하면 됩니다.

Kubeflow Notebooks는 Kubernetes 위에서 AI, ML, 데이터 작업용 개발 환경을 실행할 수 있게 해주는 기능입니다. 조직 내 권한 관리와 공유도 Kubeflow의 RBAC 체계와 연결됩니다.

초보자용으로 정리하면,

Notebook은 AI 모델을 만들기 위한 개발 작업실입니다.

---

8. Training: 모델을 학습시키는 과정 🏋️

Training은 말 그대로 모델을 학습시키는 과정입니다.

예를 들어 고양이와 강아지를 구분하는 모델을 만든다면,

고양이 사진
강아지 사진
↓
AI가 차이를 학습
↓
모델 생성

이 과정이 Training입니다.

Kubeflow에서는 학습 작업을 Kubernetes 위에서 실행할 수 있습니다.

즉, GPU 서버를 직접 찾아가서 수동으로 실행하는 것이 아니라, Kubeflow를 통해 학습 작업을 관리할 수 있습니다.

학습 작업은 다음과 같은 자원을 사용할 수 있습니다.

CPU
Memory
GPU
Storage

큰 모델을 학습할 때는 GPU가 많이 필요할 수 있습니다.

---

9. Pipeline: AI 작업 순서를 자동화하는 기능 🔄

Pipeline은 AI 작업의 순서를 자동화하는 기능입니다.

AI 모델을 만들 때는 여러 단계가 있습니다.

데이터 가져오기
↓
데이터 전처리
↓
모델 학습
↓
성능 평가
↓
모델 저장
↓
서빙 배포

이 과정을 매번 사람이 직접 실행하면 번거롭습니다.

Pipeline은 이 순서를 미리 정해두고 자동으로 실행하게 해줍니다.

쉽게 말하면,

AI 작업용 자동화 레시피

입니다.

예를 들어 이런 식입니다.

1단계: 데이터 준비
2단계: 모델 학습
3단계: 성능 평가
4단계: 모델 저장
5단계: 서빙 배포

Kubeflow Pipelines는 컨테이너 기반으로 머신러닝 워크플로우를 만들고 배포할 수 있는 플랫폼입니다. Python SDK로 파이프라인을 작성하고 YAML 형태로 컴파일한 뒤 실행할 수 있습니다.

초보자용으로 정리하면,

Pipeline은 AI 모델을 만드는 전체 과정을 자동으로 이어주는 기능입니다.

---

10. Serving: 학습한 모델을 실제 서비스로 배포 🚀

Serving은 앞에서 배웠던 것처럼,

학습이 끝난 모델을 사용자가 호출할 수 있도록 서비스로 실행하는 것

입니다.

Kubeflow 자체의 생태계에서는 모델 서빙을 위해 KServe를 함께 사용하는 경우가 많습니다.

KServe는 TensorFlow, PyTorch, ONNX, scikit-learn, XGBoost 같은 여러 모델 형식을 서빙할 수 있도록 도와주는 모델 서빙 시스템입니다.

즉, Kubeflow에서 학습한 모델을 저장하고, 그 모델을 KServe를 통해 API 서비스로 배포할 수 있습니다.

---

11. Kubeflow와 Serving의 관계를 한 번에 보기 🔗

전체 흐름을 보면 이렇게 연결됩니다.

Kubeflow Notebook
↓
AI 코드 작성
↓
Kubeflow Training
↓
모델 학습 실행
↓
모델 파일 저장
↓
Kubeflow Pipeline
↓
반복 작업 자동화
↓
KServe / Serving
↓
API 주소 생성
↓
사용자가 AI 모델 호출

조금 더 쉽게 말하면,

Notebook에서 만들고
Training으로 학습하고
Pipeline으로 자동화하고
Serving으로 서비스한다

이것이 Kubeflow와 Serving의 큰 흐름입니다.

---

12. 실제 예시: 고양이/강아지 분류 AI 만들기 🐱🐶

예를 들어 고양이와 강아지를 구분하는 AI 서비스를 만든다고 해보겠습니다.

Kubeflow를 사용하면 흐름은 이렇게 됩니다.

---

1단계: Notebook에서 코드 작성

개발자가 Notebook에서 Python 코드를 작성합니다.

이미지 데이터 불러오기
모델 코드 작성
작은 데이터로 테스트

이 단계는 요리사가 주방에서 메뉴를 연구하는 것과 비슷합니다.

---

2단계: Training으로 모델 학습

이제 본격적으로 많은 데이터를 사용해서 모델을 학습합니다.

고양이 사진 수천 장
강아지 사진 수천 장
↓
GPU를 사용해서 학습
↓
모델 생성

학습이 끝나면 모델 파일이 만들어집니다.

---

3단계: 모델 저장

학습된 모델을 저장소에 저장합니다.

예를 들면 다음과 같습니다.

Object Storage
NAS
PVC
Model Registry

초보자용으로 보면,

완성된 AI 모델 파일을 안전한 창고에 보관하는 단계

입니다.

---

4단계: Serving으로 배포

저장된 모델을 Serving으로 배포합니다.

Serving 생성 화면에서 이런 항목을 입력합니다.

모델 경로
런타임
CPU
Memory
GPU
Replica
Endpoint

이제 모델이 API 주소를 통해 호출될 수 있습니다.

---

5단계: 사용자가 호출

사용자가 사진을 보냅니다.

이 사진이 고양이야 강아지야?

AI 모델이 결과를 반환합니다.

고양이일 확률 97%

이렇게 되면 AI 모델이 실제 서비스로 사용되는 것입니다.

---

13. 왜 Kubeflow와 Serving을 같이 이야기할까? 🤔

Kubeflow는 AI 모델을 만드는 과정과 관련이 깊습니다.

Serving은 그 모델을 실제로 사용하는 과정입니다.

둘은 따로 떨어져 있는 개념이 아니라 자연스럽게 이어집니다.

Kubeflow = AI 모델을 만들고 관리하는 과정
Serving = 만든 모델을 실제 서비스로 제공하는 과정

즉, Kubeflow를 배우면 AI 모델이 만들어지는 전체 흐름을 이해할 수 있고, Serving을 배우면 그 모델이 실제 사용자에게 제공되는 방식을 이해할 수 있습니다.

---

14. Kubeflow 없이도 Serving할 수 있을까? 🧐

가능합니다.

꼭 Kubeflow가 있어야만 서빙할 수 있는 것은 아닙니다.

예를 들어 모델 파일과 Docker 이미지, Kubernetes, KServe 설정이 있다면 Kubeflow 없이도 서빙할 수 있습니다.

하지만 Kubeflow를 사용하면 AI 작업의 전체 흐름을 더 체계적으로 관리할 수 있습니다.

방식특징

Kubeflow 없이 Serving	직접 설정이 많음
Kubeflow와 함께 Serving	개발, 학습, 파이프라인, 서빙 흐름 관리가 쉬움

초보자 입장에서는 이렇게 이해하면 됩니다.

Serving은 모델을 서비스하는 기능이고, Kubeflow는 그 앞뒤의 AI 작업 과정을 도와주는 플랫폼입니다.

---

15. Kubeflow를 회사 업무에 비유하면 🏢

회사에서 하나의 제품을 만든다고 해보겠습니다.

회사 업무AI/Kubeflow

기획서 작성	데이터와 모델 아이디어 정리
개발자 작업	Notebook에서 코드 작성
제품 생산	Training으로 모델 학습
품질 검사	모델 성능 평가
창고 보관	모델 저장
제품 출시	Serving 배포
고객 사용	Endpoint 호출

Kubeflow는 이 전체 과정을 관리하는 업무 시스템처럼 볼 수 있습니다.

---

16. 초보자가 꼭 기억해야 할 구조 📌

Kubeflow와 Serving의 관계는 이 그림 하나로 기억하면 됩니다.

데이터
↓
Notebook
↓
Training
↓
모델 저장
↓
Pipeline
↓
Serving
↓
Endpoint
↓
사용자

조금 더 쉽게 말하면,

데이터로 공부하고
모델을 만들고
좋은 모델을 저장하고
그 모델을 서비스로 올리고
사용자가 주소로 호출한다

---

17. 초보자가 헷갈리기 쉬운 부분 😵

헷갈림 1. Kubeflow가 AI 모델 자체라고 생각함

아닙니다.

Kubeflow는 AI 모델이 아닙니다.

Kubeflow는 AI 모델을 만들고 운영하는 과정을 도와주는 플랫폼입니다.

AI 모델 = 실제 예측하는 뇌
Kubeflow = 그 뇌를 만들고 관리하는 작업장

---

헷갈림 2. Kubeflow가 Kubernetes를 대체한다고 생각함

아닙니다.

Kubeflow는 Kubernetes 위에서 동작합니다.

Kubernetes 위에 Kubeflow가 올라간다

쉽게 말하면,

Kubernetes = 기반 시설
Kubeflow = AI 작업 플랫폼

---

헷갈림 3. Kubeflow만 있으면 자동으로 AI가 만들어진다고 생각함

아닙니다.

Kubeflow는 도구입니다.

데이터, 모델 코드, 학습 설정은 사람이 준비해야 합니다.

Kubeflow는 그 과정을 더 편하게 실행하고 관리해주는 역할을 합니다.

---

헷갈림 4. Serving과 Kubeflow가 같은 것이라고 생각함

아닙니다.

Serving은 모델을 서비스하는 단계입니다.

Kubeflow는 AI 작업 전체를 관리하는 플랫폼입니다.

Kubeflow 안에서 Serving 단계가 연결될 수 있다

---

18. 3단계 핵심 요약 ✅

이번 단계에서는 이것만 기억하면 됩니다.

Kubeflow는 AI 작업을 Kubernetes 위에서 쉽게 하도록 도와주는 플랫폼이다.
Notebook은 AI 코드를 작성하는 작업실이다.
Training은 모델을 학습시키는 과정이다.
Pipeline은 AI 작업 순서를 자동화하는 기능이다.
Serving은 학습된 모델을 실제 서비스로 배포하는 단계다.

그리고 전체 흐름은 이렇게 기억하면 됩니다.

Notebook에서 만들고
Training으로 학습하고
Pipeline으로 자동화하고
Serving으로 배포한다

---

마무리 🌱

Kubeflow는 처음 보면 어렵습니다.

하지만 처음부터 모든 기능을 외울 필요는 없습니다.

가장 먼저 이해해야 할 것은 이것입니다.

Kubeflow는 AI 모델을 만들고, 학습하고, 저장하고, 서빙까지 이어지게 도와주는 플랫폼입니다.

AI 서빙만 따로 보면 “모델을 API로 올리는 것”처럼 보입니다.

하지만 실제 업무에서는 그 앞에 데이터 준비, 코드 작성, 학습, 성능 평가, 모델 저장 과정이 있습니다.

Kubeflow는 이 전체 흐름을 관리하는 데 도움을 줍니다.

그래서 Kubeflow를 이해하면 Serving이 더 잘 보입니다.

Serving은 갑자기 튀어나온 기능이 아니라,

AI 모델 개발 흐름의 마지막 단계, 즉 실제 사용자에게 제공하는 단계

라고 이해하면 됩니다. 🚀