콘텐츠로 이동

Vertex AI 플랫폼 개요

Vertex AI는 Google Cloud의 통합 AI/ML 플랫폼입니다. 생성형 AI(Gemini) 활용부터 커스텀 모델 학습·배포·모니터링까지 ML 라이프사이클 전체를 하나의 플랫폼에서 제공합니다.

구성요소역할
Model GardenGemini, Gemma, Llama, Claude 등 파운데이션 모델 카탈로그
Vertex AI Studio프롬프트 실험/튜닝 콘솔 UI
Training / Pipelines커스텀 모델 학습, Kubeflow 기반 ML 파이프라인
Prediction (Endpoints)온라인/배치 추론 서빙
Agent EngineAI 에이전트 관리형 런타임 (ADK 배포 대상)
Vertex AI Search / RAG Engine관리형 검색·RAG 구축
Feature Store / Model Registry피처 관리, 모델 버전/거버넌스
  1. 모델 선택 — Model Garden에서 Gemini 계열 또는 오픈모델 선택
  2. 그라운딩 — Google 검색 그라운딩 또는 Vertex AI Search로 자사 데이터 연결
  3. 에이전트화 — ADK(Agent Development Kit)로 도구 호출/멀티 에이전트 구성
  4. 배포 — Agent Engine(관리형) 또는 Cloud Run(직접 운영)
  5. 평가/모니터링 — Evaluation 서비스, 로깅/추적
  • Google AI Studio: 개인/프로토타이핑용. API 키 기반, 빠른 실험
  • Vertex AI: 기업용. IAM/VPC-SC/감사로그, 리전 선택, SLA, 데이터 거버넌스

프로토타입을 AI Studio로 만들고, 프로덕션 전환 시 Vertex AI로 이관하는 패턴이 일반적입니다. SDK(google-genai)는 환경변수 전환만으로 두 백엔드를 오갈 수 있습니다.

  • 데이터 위치/거버넌스: 리전 지정, 학습 미사용 정책 확인
  • 네트워크: Private Service Connect, VPC Service Controls 적용 여부
  • 비용: 토큰 과금(생성형) vs 노드 과금(커스텀 서빙) 구조 이해
  • 쿼터: 모델별 QPM/TPM 쿼터 사전 확인 및 증설 신청