Vertex AI 핵심 구성 요소Vertex AI Core Components
GCP 콘솔 접속:GCP Console Access: Vertex AI
Vertex AI는 머신러닝 모델의 개발부터 배포, 관리에 이르기까지 전 과정을 가속화하는 통합 AI 플랫폼입니다. 플랫폼은 크게 세 가지 핵심 요소로 구성되어 시너지를 발휘합니다.Vertex AI is an integrated AI platform that accelerates the entire process from development to deployment and management of machine learning models. The platform consists of three core components that work in synergy.
Custom ML Platform
관리형 도구, 워크플로우, 인프라를 통해 ML 모델 개발 및 배포를 가속화합니다.Accelerates ML model development and deployment through managed tools, workflows, and infrastructure.
📚Model Garden
Google 및 파트너사의 최신 파운데이션 모델을 탐색하고 활용하여 ML 프로젝트를 빠르게 시작합니다.Explore and leverage the latest foundation models from Google and its partners to quickly start ML projects.
✨Generative AI Studio
로우코드 도구를 사용하여 대규모 모델을 튜닝하고 배포하여 GenAI 프로덕션을 가속화합니다.Use low-code tools to tune and deploy large-scale models to accelerate GenAI production.
Vertex AI Applications
GCP 콘솔 접속:GCP Console Access: AI Applications
코딩 경험이 거의 없어도 생성형 AI 기반 검색 및 대화형 에이전트를 쉽게 구축할 수 있습니다. 다양한 내/외부 데이터 소스를 커넥터로 연결하여 강력한 AI 에이전트를 만드세요.Even with little to no coding experience, you can easily build generative AI-powered search and conversational agents. Connect to various internal and external data sources using connectors to create powerful AI agents.
AI Applications
graph TD
A[Vertex AI] --> B[Vertex AI Search];
A --> C[Vertex AI Agents];
subgraph Search Apps
B --> D[Search apps];
D --> D1[Generic];
D --> D2[Media];
D --> D3[Healthcare];
end
subgraph Recommendation Apps
B --> E[Recommendation apps];
E --> E1[Media];
E --> E2[Retail];
E --> E3[Generic];
end
subgraph Agent Apps
C --> F[Chat apps];
C --> G[Agent apps];
F --> F1[DialogFlow];
end
D1 --> D1_Desc["From Website / BigQuery / Cloud Storage / gDrive
& Cloud SQL / Spanner / Firestore / Bigtable / JSONs
& Confluence / Jira / Salesforce / ServiceNow / Sharepoint
Online / Slack / Dropbox / Box / OneDrive"];
D2 --> D2_Desc["Find media to view or listen (movies, videos, and music)"];
D3 --> D3_Desc["Query healthcare records stored in FHIR* data stores"];
E1 --> E1_Desc["Discover personalized content such as videos, news, and music"];
E2 --> E2_Desc["Recommendations for e-commerce applications"];
E3 --> E3_Desc["(Preview) recommendations for non-media content."];
F1 --> F1_Desc["DialogFlow"];
style A fill:#2d3748,stroke:#60a5fa,stroke-width:2px
style B fill:#2d3748,stroke:#60a5fa,stroke-width:2px
style C fill:#2d3748,stroke:#60a5fa,stroke-width:2px
Agent Development Kit & Engine
Vertex AI Agent Engine은 개발자가 AI 에이전트를 프로덕션 환경에서 쉽게 배포, 관리, 확장할 수 있도록 돕는 완전 관리형 Google Cloud 서비스입니다. 인프라 관리를 자동화하여 개발자는 지능적인 애플리케이션 구축에만 집중할 수 있습니다. The Vertex AI Agent Engine is a fully managed Google Cloud service that helps developers easily deploy, manage, and scale AI agents in a production environment. It automates infrastructure management, allowing developers to focus solely on building intelligent applications.
완전 관리형Fully Managed
VPC-SC 규정 준수 등 강력한 보안 기능을 갖춘 런타임으로 에이전트를 배포하고, Google Cloud Trace를 통해 성능을 모니터링합니다.Deploy agents in a runtime with robust security features like VPC-SC compliance, and monitor performance through Google Cloud Trace.
품질 및 평가Quality and Evaluation
통합된 Gen AI Evaluation Service를 사용하여 에이전트의 품질을 체계적으로 보장하고 관리합니다.Systematically ensure and manage agent quality using the integrated Gen AI Evaluation Service.
간소화된 개발Simplified Development
애플리케이션 서버 개발, 인증 등 하위 수준의 작업을 추상화하여 에이전트의 핵심 기능 개발에 집중할 수 있습니다.Abstract away low-level tasks like application server development and authentication to focus on core agent functionality.
프레임워크 독립형Framework Agnostic
LangGraph, LangChain 등 다양한 Python 프레임워크로 빌드된 에이전트를 유연하게 배포할 수 있습니다.Flexibly deploy agents built with various Python frameworks like LangGraph and LangChain.
Vertex AI Search
GCP 콘솔 접속:GCP Console Access: Vertex AI Search
Google의 검색 전문성을 활용하여 키워드와 시맨틱 검색을 결합, 사용자 의도를 파악하고 고품질의 맞춤형 검색 결과를 제공합니다. 데이터에 기반한 AI 답변으로 차세대 검색 환경을 구축하세요.Leverage Google's search expertise to combine keyword and semantic search, understand user intent, and deliver high-quality, personalized search results. Build the next-generation search experience with AI-powered answers grounded in your data.
고품질 검색High-Quality Search
복잡한 자연어 검색어에서도 사용자 의도를 파악하고, 키워드와 시맨틱 검색을 결합하여 최적의 결과를 제공합니다.Understands user intent even in complex natural language queries and delivers optimal results by combining keyword and semantic search.
맞춤 탐색Personalized Browsing
사용자의 컨텍스트와 탐색 패턴을 기반으로 검색어 없이도 맞춤설정된 카테고리 페이지와 홈 피드를 제공합니다.Provides personalized category pages and home feeds based on user context and browsing patterns, even without a search query.
데이터 기반 AI 답변Data-Driven AI Answers
소스 문서에 대한 인용과 함께 데이터에 기반한 AI 답변을 생성하고, 후속 질문과 관련 검색어를 제안합니다.Generates AI-powered answers grounded in your data with citations to source documents, and suggests follow-up questions and related queries.
다양한 데이터 소스 지원Diverse Data Source Support
- 웹사이트:Websites: 공개 웹사이트 색인 생성Index public websites
- 정형 데이터:Structured Data: 데이터베이스, JSON, BigQuery 테이블Databases, JSON, BigQuery tables
- 비정형 데이터:Unstructured Data: PDF, HTML, 이미지 파일PDF, HTML, image files
- 혼합 검색:Mixed Search: 모든 콘텐츠를 한 번에 검색Search across all content at once
Vertex AI RAG Engine
GCP 콘솔 접속:GCP Console Access: RAG Engine
Vertex AI RAG Engine은 검색 증강 생성(RAG)을 용이하게 하는 데이터 프레임워크로, LLM이 조직의 비공개 데이터를 이해하고 활용하도록 돕습니다.The Vertex AI RAG Engine is a data framework that facilitates Retrieval-Augmented Generation (RAG), helping LLMs understand and utilize your organization's private data.
- 컨텍스트 보강:Context Enrichment: 조직의 내부 정보를 LLM의 컨텍스트에 추가하여 답변의 정확도를 높입니다.Adds your organization's internal information to the LLM's context to improve answer accuracy.
- 할루시네이션 감소:Hallucination Reduction: 모델이 사실에 기반하지 않은 정보를 생성하는 할루시네이션 현상을 줄입니다.Reduces the phenomenon of hallucination, where the model generates information not based on facts.
- 품질 높은 답변:High-Quality Answers: 추가된 지식과 기존 지식을 결합하여 더 신뢰할 수 있는 답변을 생성합니다.Generates more reliable answers by combining the added knowledge with its existing knowledge.
BigQuery ML을 활용한 생성형 AI 워크플로Generative AI Workflow with BigQuery ML
GCP 콘솔 접속:GCP Console Access: BigQuery
BigQuery ML은 Vertex AI의 생성형 모델을 활용하여 구조화된 데이터와 비구조화된 데이터를 모두 처리하는 강력한 워크플로를 제공합니다.BigQuery ML provides a powerful workflow that leverages Vertex AI's generative models to process both structured and unstructured data.
- 데이터 결합:Data Combination: Google Cloud Storage의 비정형 데이터와 BigQuery의 정형 데이터를 통합합니다.Integrates unstructured data from Google Cloud Storage with structured data in BigQuery.
- AI 함수 활용:Leverage AI Functions: SQL 쿼리 내에서
ML.GENERATE_TEXT,ML.GENERATE_EMBEDDING과 같은 함수를 직접 사용합니다.Directly use functions likeML.GENERATE_TEXTandML.GENERATE_EMBEDDINGwithin SQL queries. - 다양한 작업 수행:Perform Various Tasks: 텍스트 요약, 감성 분석, 임베딩 생성 등의 AI 작업을 SQL로 간편하게 처리합니다.Easily handle AI tasks such as text summarization, sentiment analysis, and embedding generation with SQL.
이러한 워크플로를 통해 복잡한 데이터 분석 및 인사이트 도출 과정을 크게 간소화할 수 있습니다.This workflow can significantly simplify complex data analysis and insight derivation processes.
Vertex AI Use Cases
GCP 콘솔 접속:GCP Console Access: Vertex AI
AI 기반 검색 및 분석AI-Powered Search and Analysis
패션 분야Fashion
고성능 검색 및 정보 제공 시스템High-Performance Search and Information Delivery System
Challenge: 기존 키워드 기반 검색에서 벗어나 사용자 의도를 정확히 파악하는 자연어 검색으로 고도화하고, 풍부하고 개인화된 서비스 경험 제공 필요Need to move beyond traditional keyword-based search to an advanced natural language search that accurately understands user intent and provides a rich, personalized service experience.
Solution: Elasticsearch, Cloud Run, Vertex AI를 활용하여 확장 가능하고 비용 효율적인 서버리스 아키텍처 구축. Hybrid Search와 Rerank 기능으로 정확하고 신뢰도 높은 답변 제공Built a scalable and cost-effective serverless architecture using Elasticsearch, Cloud Run, and Vertex AI. Provided accurate and reliable answers with Hybrid Search and Rerank features.
Products: VertexAI, Gemini model Pro/Flash, Cloud Run, Cloud Armor
멀티 에이전트 기반 전문 정보 검색Multi-Agent Based Expert Information Retrieval
Challenge: 사용자의 숨겨진 의도를 파악하여 사내 지식 기반에서 필요한 정보를 효율적으로 제공하는 시스템 구축 필요Need to build a system that understands users' hidden intents to efficiently provide necessary information from the internal knowledge base.
Solution: 의도 분류 모델과 의미 검색을 결합한 하이브리드 방식으로 의도를 추출하고, 전문 분야별 에이전트(인사, AS 등) 호출Extracted intent using a hybrid approach combining an intent classification model and semantic search, and invoked specialized agents (e.g., HR, Customer Service).
Products: VertexAI, Gemini model Pro/Flash, Cloud Run, Cloud Armor
환경가전 분야Home Appliances
자연어 기반 데이터 분석 시스템Natural Language-Based Data Analysis System
Challenge: 방대한 데이터를 일반 사용자가 자연어 질의로 쉽게 분석하여 데이터 활용도를 극대화하고 의사결정 과정 효율화Enable general users to easily analyze vast amounts of data with natural language queries to maximize data utilization and streamline decision-making.
Solution: Vertex AI의 NLP 기능으로 데이터 스키마와 컨텍스트를 이해하고, 사용자의 질의에 맞는 SQL 쿼리 생성Used Vertex AI's NLP capabilities to understand data schema and context, and generate appropriate SQL queries for user questions.
Products: VertexAI, Gemini model Pro/Flash, Vertex Colab CPU, BigQuery
핀테크 분야Fintech
NL2SQL 및 RAG 기반 데이터 분석NL2SQL and RAG-Based Data Analysis
Challenge: 비전문가도 자연어를 통해 손쉽게 게임 데이터를 분석할 수 있는 시스템 구축.Build a system that allows non-experts to easily analyze game data through natural language.
Solution: 자연어 질의를 SQL로 변환하고, RAG 기술로 게임 용어집을 참조하여 분석 정확도를 높이는 POC 실행.Executed a POC to improve analysis accuracy by converting natural language queries to SQL and referencing a game glossary with RAG technology.
Products: VertexAI, Gemini model Pro/Flash, BigQuery
게임 분야Gaming
지능형 자동화 및 챗봇Intelligent Automation & Chatbots
교육 분야Education
교육용 AI 챗봇 앱Educational AI Chatbot App
Challenge: AI 기술을 활용한 맞춤형 학습 경험 제공 및 신뢰도 높은 백과사전 콘텐츠 기반의 정확한 정보 제공 필요Need to provide personalized learning experiences using AI and deliver accurate information based on reliable encyclopedia content.
Solution: Gemini를 활용하여 사용자의 연령과 학습 목적에 따라 맞춤형 답변을 제공하는 챗봇 개발. 다국어 및 멀티모달 지원으로 접근성 향상Developed a chatbot using Gemini that provides customized answers based on user's age and learning objectives. Enhanced accessibility with multilingual and multimodal support.
Products: VertexAI, Gemini model Pro/Flash, Cloud Run, Cloud Armor, BigQuery
GenAI RAG 챗봇 구축Building a GenAI RAG Chatbot
Challenge: BigQuery의 데이터를 기반으로 신뢰도 높은 답변을 제공하는 지능형 챗봇 구축 필요.Need to build an intelligent chatbot that provides reliable answers based on data in BigQuery.
Solution: RAG(검색 증강 생성) 기술을 활용하여 BigQuery 데이터를 기반으로 정확한 답변을 제공하는 챗봇 구축.Built a chatbot that provides accurate answers based on BigQuery data using Retrieval-Augmented Generation (RAG) technology.
Products: VertexAI, Gemini model Pro/Flash, BigQuery
디지털 교육 분야Digital Education
Slack 연동 NL2SQL 프로토타입 개발Slack-Integrated NL2SQL Prototype Development
Challenge: 임직원들이 일상 업무 도구에서 손쉽게 데이터 기반 의사결정을 내릴 수 있는 환경 구축.Create an environment where employees can easily make data-driven decisions from their daily work tools.
Solution: NL2SQL 프로토타입을 개발하고 Slack과 연동하여 데이터 분석 접근성 향상.Developed an NL2SQL prototype and integrated it with Slack to improve data analysis accessibility.
Products: VertexAI, Gemini model Pro/Flash, Slack API
엔터테인먼트 분야Entertainment
멀티모달 응용Multimodal Applications
방송 분야Broadcasting
영상 분석 기반 재난 상황 분석Video Analysis-Based Disaster Situation Analysis
Challenge: 재난 상황을 신속하게 파악하고 대응하기 위해 실시간 영상 분석 및 기사 생성 자동화 필요Need for real-time video analysis and automatic article generation to quickly identify and respond to disaster situations.
Solution: Gemini model Pro/Flash로 영상을 분석하여 재난 상황을 파악하고, 텍스트 기반 기사 자동 생성Analyzed videos with Gemini model Pro/Flash to understand disaster situations and automatically generate text-based articles.
Products: VertexAI, Gemini model Pro/Flash, Cloud Run, Cloud Armor
영상 분석 기반 오류 검출 시스템Video Analysis-Based Error Detection System
Challenge: 영상 내 오류(자막, 배너 등)를 감지하여 상품 정보 신뢰도를 높이고, 문제 해결 시간 및 재촬영 비용 절감 필요Need to detect errors in videos (subtitles, banners, etc.) to increase product information reliability, reduce problem-solving time, and cut reshooting costs.
Solution: Gemini model Pro/Flash를 이용해 영상을 프레임 단위로 분석하고, 기준서 텍스트 정보와 비교하여 오류 검출Used Gemini model Pro/Flash to analyze videos frame by frame and compare with reference text information to detect errors.
Products: VertexAI, Gemini model Pro/Flash, Vertex Colab CPU
홈쇼핑 분야Home Shopping
중공업 분야Heavy Industry
Veo 2 기반 영상 생성 POCVeo 2-Based Video Generation POC
Challenge: 산업 현장 시뮬레이션 및 교육 자료 제작을 위한 고품질 영상 자동 생성 기술 확보.Secure high-quality automatic video generation technology for industrial site simulations and training materials.
Solution: Google의 Veo 2 모델을 활용하여 텍스트 프롬프트 기반 영상 생성 기술 POC 진행.Conducted a POC for text prompt-based video generation technology using Google's Veo 2 model.
Products: VertexAI, Veo 2
데이터 플랫폼 현대화Data Platform Modernization
제조 분야Manufacturing
SAP 데이터 BigQuery 이전 및 NL2SQL 분석SAP Data to BigQuery Migration and NL2SQL Analysis
Challenge: SAP의 핵심 비즈니스 데이터 분석 환경을 현대화하고 데이터 접근성 향상.Modernize the core business data analysis environment of SAP and improve data accessibility.
Solution: SAP 데이터를 BigQuery로 이전하고, NL2SQL을 통해 데이터 분석을 용이하게 하는 POC 실행.Executed a POC to facilitate data analysis through NL2SQL after migrating SAP data to BigQuery.
Products: VertexAI, Gemini model Pro/Flash, BigQuery, SAP
BigQuery 데이터 환경 구축Building a BigQuery Data Environment
Challenge: 안전하고 효율적인 데이터 분석 및 AI 모델 개발을 위한 중앙화된 데이터 환경 구축.Establish a centralized data environment for secure and efficient data analysis and AI model development.
Solution: BigQuery를 중심으로 데이터 웨어하우스를 구축하고 데이터 거버넌스 체계 수립.Built a data warehouse centered on BigQuery and established a data governance framework.
Products: VertexAI, BigQuery
금융 분야Finance
엔터테인먼트 분야Entertainment
Databricks to BigQuery 마이그레이션Databricks to BigQuery Migration
Challenge: 데이터 분석 환경의 확장성과 효율성 증대.Increase the scalability and efficiency of the data analysis environment.
Solution: Databricks의 데이터를 Google BigQuery로 이전하여 데이터 분석 환경을 고도화.Advanced the data analysis environment by migrating data from Databricks to Google BigQuery.
Products: BigQuery, Databricks