[Spring AI] LLM 발전의 흐름 — Fine-tuning, Prompt Engineering, RAG, Tool Calling, MCP

[LLM 발전의 흐름]

• LLM은 단순히 텍스트를 생성하는 것에서 시작해 외부 지식을 가져오고, 맥락을 유지하고, 실제 도구를 호출하며, 여러 서비스와 표준 방식으로 협력하는 방향으로 확장되었다
• 각 단계는 이전 단계의 한계를 해결하면서 등장했다

언어 중심 → 지식 중심 → 외부 지식 → 맥락 중심 → 행동 중심 → 생태계 중심

1. Fine-tuning

1) 개념

• 범용 LLM을 특정 도메인에 맞게 추가 학습시키는 것
• 특정 업무 용어, 도메인 규칙, 조직의 표현 방식을 학습시켜 해당 분야에 더 잘 맞는 모델을 만든다

2) 한계

• 지식이 바뀔 때마다 재학습이 필요하고 비용과 시간이 크다

 

2. Prompt Engineering

1) 개념

• 역할, 예시, 조건, 출력 형식을 입력에 명확히 넣어 모델 행동을 제어하는 것
• 재학습 없이 답변 스타일, 형식, 절차를 빠르게 조정할 수 있다

2) 한계

• 프롬프트가 길어지고 복잡해지며, 최신 정보나 사내 지식은 여전히 부족하다

 

3. RAG

1) 개념

• 모델이 학습하지 않은 정보를 외부 저장소에서 검색한 뒤, 그 결과를 context로 프롬프트에 추가해 LLM이 답변을 생성하도록 하는 기술
• 최신 문서, 사내 자료, DB 기반으로 근거 있는 답변을 만들 수 있다

2) 한계

• 검색 결과가 부정확하면 답변도 흔들리고, 문서 분할/임베딩 품질이 중요하다

 

4. Context & Memory

1) 개념

• 장기 대화 맥락과 사용자 상태를 저장해 작업을 이어가기 위해 등장했다
• 사용자 맞춤 응답, 장기 작업 연속성, 이전 결정 기반 응답이 가능하다

2) 한계

• 무엇을 기억하고 삭제할지, 개인정보와 권한을 어떻게 관리할지 설계가 필요하다

 

5. Tool Calling (Function Calling)

1) 개념

• LLM이 계산, 조회, 예약, 검색, 파일 처리 등 실제 업무를 자동화할 수 있도록 외부 함수나 API를 호출하는 기능
• 모델이 필요한 도구를 선택하고 정해진 JSON 형식으로 호출하게 하기 위해 등장했다

2) 한계

• 서비스마다 API 형식이 달라 도구 정의와 연결 코드를 각각 만들어야 한다

 

6. MCP

1) 개념

• MCP (Model Context Protocol) : LLM과 외부 서비스가 공통 규격으로 연결되도록 표준화한 프로토콜
• 도구 연결 방식 표준화, 중복 개발 감소, 확장성 향상, 에이전트 생태계 연결이 가능하다

2) 한계

• MCP 서버의 품질, 권한/보안 설계, 운영 정책이 중요하다