Vertex AI 플랫폼 개요
Vertex AI는 Google Cloud의 통합 AI/ML 플랫폼입니다. 생성형 AI(Gemini) 활용부터 커스텀 모델 학습·배포·모니터링까지 ML 라이프사이클 전체를 하나의 플랫폼에서 제공합니다.
주요 구성요소
섹션 제목: “주요 구성요소”| 구성요소 | 역할 |
|---|---|
| Model Garden | Gemini, Gemma, Llama, Claude 등 파운데이션 모델 카탈로그 |
| Vertex AI Studio | 프롬프트 실험/튜닝 콘솔 UI |
| Training / Pipelines | 커스텀 모델 학습, Kubeflow 기반 ML 파이프라인 |
| Prediction (Endpoints) | 온라인/배치 추론 서빙 |
| Agent Engine | AI 에이전트 관리형 런타임 (ADK 배포 대상) |
| Vertex AI Search / RAG Engine | 관리형 검색·RAG 구축 |
| Feature Store / Model Registry | 피처 관리, 모델 버전/거버넌스 |
생성형 AI 관점의 핵심 흐름
섹션 제목: “생성형 AI 관점의 핵심 흐름”- 모델 선택 — Model Garden에서 Gemini 계열 또는 오픈모델 선택
- 그라운딩 — Google 검색 그라운딩 또는 Vertex AI Search로 자사 데이터 연결
- 에이전트화 — ADK(Agent Development Kit)로 도구 호출/멀티 에이전트 구성
- 배포 — Agent Engine(관리형) 또는 Cloud Run(직접 운영)
- 평가/모니터링 — Evaluation 서비스, 로깅/추적
AI Studio와의 관계
섹션 제목: “AI Studio와의 관계”- Google AI Studio: 개인/프로토타이핑용. API 키 기반, 빠른 실험
- Vertex AI: 기업용. IAM/VPC-SC/감사로그, 리전 선택, SLA, 데이터 거버넌스
프로토타입을 AI Studio로 만들고, 프로덕션 전환 시 Vertex AI로 이관하는 패턴이 일반적입니다. SDK(google-genai)는 환경변수 전환만으로 두 백엔드를 오갈 수 있습니다.
기업 도입 시 검토 포인트
섹션 제목: “기업 도입 시 검토 포인트”- 데이터 위치/거버넌스: 리전 지정, 학습 미사용 정책 확인
- 네트워크: Private Service Connect, VPC Service Controls 적용 여부
- 비용: 토큰 과금(생성형) vs 노드 과금(커스텀 서빙) 구조 이해
- 쿼터: 모델별 QPM/TPM 쿼터 사전 확인 및 증설 신청