최신 Spring AI 기초부터 MCP까지

최신 Spring AI 기초부터 MCP까지

본 강의는 Spring AI를 활용한 기업형 AI 애플리케이션 개발 과정으로,
대규모 언어 모델(LLM), 프롬프트 엔지니어링, RAG(Retrieval-Augmented Generation), Tool/Function Calling 등 실무 중심의 AI 서비스 구현 기술을 학습할 수 있도록 구성되었습니다.

본 과정은 Spring Boot 기반 백엔드 개발자를 주요 대상으로 설계되었으며,
Spring 생태계의 강점인 DI, Bean 관리, 모듈화 아키텍처를 그대로 유지하면서
AI 기능을 자연스럽게 통합하는 방법을 다룹니다.

강의에서는 다음과 같은 내용을 포함합니다.

• Spring AI 아키텍처 및 핵심 개념 이해

• ChatClient, Prompt, Advisor, Memory 구조 실습

• LLM 연동(OpenAI 등) 및 프롬프트 설계 전략

• Multimodality API – Images & Vision, Audio and Speech

• Vector Store를 활용한 RAG 시스템 구현

• Tool / Function Calling 및 MCP(Model Context Protocol) 활용

• Spring Boot 기반 AI 서비스 설계 및 테스트(Mockito 기반 테스트 포함)

• 기업 환경을 고려한 확장성과 유지보수 전략

강의를 수강한 이후에는
단순한 AI API 호출 수준을 넘어,
Spring 기반의 안정적이고 확장 가능한 AI 시스템을 직접 설계·구현할 수 있는 역량을 갖추게 됩니다.
이를 통해 기업 내 AI 도입, 사내 지식 검색 시스템, AI 챗봇, 업무 자동화 서비스 등
실제 현업에 바로 적용 가능한 AI 백엔드 개발 능력을 확보할 수 있습니다.

이런 내용을 배워요

1⃣ SpringBoot에서 Spring AI 개발 환경 구축

SpringBoot 개발 Setting 및 Spring AI 과정을 진행 하기 위한 환경 Setting

교육 진행을 위한 Project 생성 및 교안 Setting

실습 프로젝트에 교안이 함께 첨부되어 실습 시 교안 내용을 항상 참고 할 수 있습니다.

1. 개발환경 및 수업내용 설명

2. 수업 환경 및 교안 Setting

3. Open AI Key 발급

4. Gemini Key 발급

5. Spring AI Setting

6. PostgreSQL Setting

7. What is Spring AI

2⃣ Chapter 1. Chat Completion

애플리케이션에 AI 기반의 대화 완성 기능을 통합 할 수 있도록 합니다. GPT(Generative Pre-trained Transformer)와 같은 사전 학습 언어 모델을 이용해 사용자 입력을 해석하고 자연어 응답을 생성 한 후 애플리케이션에서 이를 처리 할 수 있도록 합니다. 응답 처리는 Non-Streaming 방식과 Streaming 방식으로 나누어 개발 합니다.

1. Chat (Zero-Shot Prompting): Prompting)Zero-Shot Prompting은 사용자가 전달한 Prompt만을 기반으로 LLM이 응답을 생성하는 방식

2. Chat Stream: Reactive Streams(Project Reactor) 기반으로 스트리밍하는 방식

3. Chat (Few-Shot Prompting): 모델이 특정 작업을 더 정확하게 수행하도록 여러 개의 예시(Input/Output Pair)를 Prompt에 포함하는 방식

4. Chat (Chain-of-Thought Prompting): LLM이 문제를 해결하는 과정에서 중간 추론 과정을 스스로 단계적으로 전개하도록 유도하는 Prompting 방식

5. Chat Memory: LLM과의 대화 맥락을 메모리에 저장하고, 후속 요청 시 이를 다시 불러와 지속적이고 자연스러운 콘텍스트 기반 대화를 가능하게 하는 기능

3⃣ Chapter 2. Prompt Template & Structured Output Converter

Prompt Template & Structured Output Converter를 이용하여 AI 모델이 특정 목적의 결과를 생성하도록 유도 합니다. Prompt의 구성 방식과 설계 품질은 모델의 응답 정확도, 일관성 및 활용도에 큰 영향을 줍니다. 본 Chapter 에서는 다양한 Prompt Template의 활용을 공부하도록 하겠습니다.

1. Prompt Template: 사용자가 입력한 자연어 문장, 간단한 명령, 파라미터 등을 기반으로 구조화된 프롬프트(Prompt String) 를 동적으로 생성하는 기능

2. ListOutputConverter: Java의 List<String> 또는 기타 List 타입으로 파싱하는 Output Converter

3. MapOutputConverter: Java의 Map<String, Object> 형태로 변환하는 Converter

4. BeanOutputConverter: 지정된 Java Bean 객체로 변환하는 Converter

5. ParameterizedType: List<UserInfo>, Map<String, List<Item>> 같은 복잡한 타입을 파싱

4⃣Chapter 3. Advisor API

Advisors API는 애플리케이션 내부에서 AI 모델과의 상호작용을 가로채고 변환하며 보강할 수 있도록 설계된 프레임워크입니다. 이를 통해 공통적인 생성형 AI 처리 로직을 캡슐화하고, 입·출력 흐름을 정교하게 제어하며, 재사용 가능한 AI 컴포넌트를 만들어 보겠습니다.

1. Advisor: 다양한 Advisor를 이용하여 LLM과 소통

2. Advisor: Stream: 다양한 Advisor를 Reactive Streams을 이용하여 LLM과 소통

3. Recursive Advisors: 특정 조건이 충족될 때까지 LLM을 재귀적 또는 반복적으로 호출

5⃣ Chapter 4. Multimodality API – Images & Vision

멀티모달 대규모 언어 모델(MLLM: Multimodal Large Language Model)을 이용하여 텍스트뿐 아니라 이미지, 오디오, 비디오 등 다양한 데이터를 동시에 받아들이고, 이를 종합적으로 분석하여 고품질의 텍스트 기반 응답을 생성할 수 있게 되었습니다. 본 Chapter에서는 이미지 분석, 이미지 생성에 대해서 알아보도록 하겠습니다.

1. Generate Image for URL: 사용자가 입력한 Prompt를 기반으로 이미지 URL 생성

2. Generate Image: 사용자가 입력한 Prompt를 기반으로 이미지 파일 생성

3. Image Analysis: 이미지의 내용, 상황, 요소 분석 등 다양한 비전 기반 인식

4. Video Analysis: 영상의 특정 프레임에 대한 분석

6⃣ Chapter 5. Multimodality API – Audio and Speech

멀티모달 대규모 언어 모델(MLLM: Multimodal Large Language Model)을 이용하여 텍스트뿐 아니라 이미지, 오디오, 비디오 등 다양한 데이터를 동시에 받아들이고, 이를 종합적으로 분석하여 고품질의 텍스트 기반 응답을 생성할 수 있게 되었습니다. 본 Chapter에서는 오디오 분석, 오디오 생성에 대해서 알아보도록 하겠습니다.

1. Text to Speech: 사용자가 입력한 텍스트 음성 데이터(Audio) 로 변환

2. Text to Speech: Chat: 사용자 입력 텍스트를 LLM에 전달하여 음성 답변 생성

3. Text to Speech: Stream: 사용자 입력 텍스트를 LLM에 전달하여 실시간 음성 답변 생성

4. Speech to Text: 사용자가 말한 음성 입력(Audio)을 텍스트로 변환

5. Speech to Text: Chat: 사용자가 말한 음성 입력(Audio)을 텍스트로 변환한 후 답변 생성

6. Speech to Text: Chat Voice: 사용자가 말한 음성 입력(Audio)을 텍스트로 변환한 후 음성 답변 생성

7⃣ Chapter 6. Tool Calling

도구 호출(Tool Calling), 또는 함수 호출(Function Calling)은 AI 모델이 외부 API나 소프트웨어 도구와 상호작용하여 기능을 확장 할 수 있도록 합니다. 이를 통해 모델은 단순 텍스트 응답을 넘어서 실제 기능 수행, 데이터 검색, 시스템 제어 등 다양한 작업을 자동화할 수 있는 환경을 만들어 보겠습니다.

1. Date Time

DateTimeTools: 현재 시간 데이터를 만들어 줍니다.

CurrentWeatherTools: 현재 날씨 데이터를 경도와 위도를 기반으로 만들어 줍니다.

ForecastWeatherTools: 날씨 예보를 정보를 경도와 위도를 기반으로 만들어 줍니다.

2. Customer Inquiry: 고객 정보를 Tool을 이용해서 LLM과 연동 하여 조회 합니다.

CustomerTools: 고객정보를 Customer 객체 타입을 기반으로 JSON 형식으로 리턴 합니다.

CustomerStringTools: 고객정보를 Customer 객체 타입을 기반으로 String 형식으로 리턴 합니다.

CustomerToolCallResultConverter: Tool에서 만들어진 데이터를 JSON 또는 String으로 변환해 줍니다.

3. Recommendation: ToolContext를 이용하여 특정 ID를 기반으로 고객의 구매 목록을 기반으로 제품에 대한 추천 시스템 입니다.

4. Access System: 카메라를 통해 사원증을 인식 하여 사원증에 있는 ID Number를 기반으로 출입을 허가 하는 시스템 입니다.

8⃣ Chapter 7. Embedding Model

임베딩(Embedding)은 텍스트, 이미지, 비디오 같은 데이터를 의미 기반 벡터 형태(부동 소수점 숫자 배열)로 변환하여 입력 간 관계와 의미적 유사성을 수치적으로 표현하는 기술입니다. 이 벡터 배열의 길이를 벡터 차원(Vector Dimension)이라고 합니다.

Spring AI는 임베딩을 활용한 RAG(Retrieval Augmented Generation) 아키텍처를 직접 구성하거나, Spring에서 제공하는 기본 RAG 플로우를 사용할 수 있도록 선수 지식으로 공부하도록 하겠습니다.

1. Text Embedding: 텍스트 데이터를 Embedding 모델을 통해 고차원 벡터(Vector Representation) 로 변환하고, 변환된 벡터를 Vector Store에 저장한 뒤, 사용자의 질문을 Embedding하여 유사도 검색(Semantic Search)으로 관련 문서를 조회하는 방식입니다.

2. Hotel Data Embedding: 호텔 이름, 위치, 편의시설, 가격, 리뷰 등 호텔 관련 멀티필드 데이터를 Embedding하여 Vector Store에 저장한 뒤, 사용자의 검색을 수행합니다.

3. Chat Memory PGvector: LLM의 대화 내역을 실시간 Embedding하여 PGVector(PostgreSQL Vector Extension)에 저장

4. Chat Memory JDBC: LLM의 대화 흐름을 관계형 데이터베이스(JDBC) 기반으로 저장하는 방식입니다.

9⃣ Chapter 8. RAG (Retrieval-Augmented Generation)

RAG는 대규모 언어 모델(LLM)이 장문 처리, 사실적 정확성, 외부 지식 인식 등에서 갖는 한계를 보완하기 위해 고안된 기술로서 검색된 관련 데이터를 프롬프트에 결합하여 보다 정확하고 신뢰도 높은 응답을 생성할 수 있도록 합니다.

1. ETL Pipeline: 사용자가 업로드한 파일(TXT, PDF, DOC 등)을 처리하여 Vector Store에 저장/삭제

2. RAG Chat: Vector Store에 저장된 데이터 기반으로 LLM과 대화

3. RAG Chat: template: RAG Chat 기능에 PromptTemplate을 적용

4. Retrieval Augmentation Advisor: Vector Store에 정확한 검색 결과가 없어도 LLM이 유연하게 대화를 이어갈 수 있도록 지원

5. Compression Query Transformer: 대화 기록과 후속 질문을 압축하여 대화 핵심을 포착한 독립적인 쿼리로 재구성

6. Rewrite Query Transformer: 사용자의 질문이 장황 하거나 모호할 때, 질문을 명확하게 재작성

7. Translation Query Transformer: 사용자의 질문을 특정 언어로 번역 다국어 대화를 가능하게 지원

8. Multi Query Expander: 사용자의 질문을 다양한 변형(Query Expansion)으로 만들어 대화

🔟 Chapter 9. MCP (Model Context Protocol)

Model Context Protocol(MCP)은 AI 모델이 외부 도구·데이터·리소스와 구조화된 방식으로 상호작용할 수 있게 해주는 표준화된 프로토콜입니다. 이를 통해 모델과 현실 세계(데이터베이스, API, 파일 시스템 등)를 연결하는 통합적인 AI 시스템을 개발 해 보도록 하겠습니다.

1. MCP Chat: 다양한 MCP서버와 연동하여 LLM과 대화할 수 있도록 지원하는 기능

• Standard Input/Output (STDIO) MCP Server: 날씨 예보

• SSE WebMVC MCV Server: 현재 날씨

• SSE WebFlux MCP Server: 현재 시간

  
  

2. MCP Access: 카메라를 통해 사원증 인식 후 사원증에 있는 ID Number를 기반으로 출입 허가 시스템
Tool Calling과 MCP Server를 동시에 구성

• SSE WebFlux MCP Server: 직원의 사번과 모든 직원 사번과 비교(Tool Calling 방식으로도 변환)

• SSE WebMVC MCP Server: 사번이 일치 여부에 따라 출입문 통제

🅰️ Chapter 10. React

SpringBoot MVC를 React로 변환

프론트엔드 구성

• React 19.2.0 + TypeScript

• Vite (빌드 도구)

• React Router 7.10.1

• Axios / Fetch API (API 통신)

  
  

  

  
  

수강 전 참고 사항